Brasil ordenou a rede X que bloqueie geração de conteúdos sexualizados pelo Grok

A Procuradoria-Geral da República (PGR) do Brasil, a Agência Nacional de Proteção de Dados (ANPD) e o Serviço Nacional de Defesa do Consumidor (Senacon) ordenaram que a rede social X efetue o bloqueio de imagens de caráter sexual pela ferramenta de inteligência artificial Grok. As agências deram cinco dias à plataforma do multibilionário Elon Musk para cumprir a ordem, sob pena de processos judiciais e multas.

“A X deve implementar imediatamente as medidas adequadas para impedir a produção, com a ajuda do Grok, de conteúdos sexualizados ou erotizados envolvendo crianças e adolescentes, assim como adultos que não deram o seu consentimento", diz a declaração da PGR.

No final de 2025 e início de 2026, o Grok respondia com fotos geradas por IA às mensagens de usuários que pediam para despir ou colocar em biquíni celebridades, mas também pessoas comuns, na grande maioria mulheres. Segundo as autoridades brasileiras, a rede social X comunicou ter retirado milhares de publicações e suspendido centenas de contas após o governo brasileiro emitir uma advertência, em janeiro.

No entanto, os usuários do Grok ainda podem gerar imagens de cunho sexual, afirmaram as autoridades brasileiras, criticando o X pela falta de transparência na sua resposta.

As autoridades da França, Reino Unido e União Europeia também iniciaram processos semelhantes contra o dispositivo do Grok. Além disso, diversos países asiáticos, entre os quais, Malásia, Indonésia e Filipinas, chegaram a bloquear o acesso à plataforma social antes do Grok executar a suspensão da geração deste tipo de imagem.

A rede X anunciou em meados de janeiro que iria bloquear a geração de imagens de nudez de pessoas reais nas jurisdições onde isso é ilegal. A princípio a plataforma havia apenas restringido essa possibilidade e consentia a geração deste tipo de imagens aos usuários que pagavam para usar a rede social. Porém, a implementação efetiva desse bloqueio permanece incerta.

De acordo com um estudo da ONG internacional Center for Countering Digital Hate (CCDH), que frequentemente denuncia as práticas da rede X, o Grok gerou cerca de três milhões de imagens sexualizadas de mulheres e crianças num período de apenas 11 dias, uma média de 190 imagens por minuto.

Em 2024, o acesso à X foi temporariamente suspenso pelo Supremo Tribunal Federal do Brasil por não cumprimento de decisões relacionadas com a luta contra a desinformação.