Brasil ordena a X que impeça geração de "conteúdos sexualizados" por Grok
A justiça brasileira e duas agências nacionais ordenaram que a rede social X "implemente imediatamente" medidas "para impedir" a geração de imagens de caráter sexual pela ferramenta de inteligência artificial Grok.
A X deve "implementar imediatamente as medidas adequadas para impedir a produção, com a ajuda do Grok, de conteúdos sexualizados ou erotizados envolvendo crianças e adolescentes, bem como adultos que não deram o seu consentimento", indicaram, na quarta-feira, procurador-geral do Brasil, a Agência Nacional de Proteção de Dados (ANPD) e o Serviço Nacional de Defesa do Consumidor (Senacon).
As agências deram cinco dias à plataforma do bilionário Elon Musk para cumprir a ordem, sob pena de processos judiciais e multas.
A rede social X afirmou ter removido milhares de publicações e suspendido centenas de contas depois de o Brasil emitir uma advertência, em janeiro, de acordo com as autoridades brasileiras.
Mas os utilizadores do Grok ainda podem gerar imagens de caráter sexual, acrescentaram, criticando a X pela "falta de transparência na sua resposta".
No final de 2025 e início de 2026, o robô conversacional respondia com fotos geradas por IA às mensagens de utilizadores que lhe pediam para despir ou "colocar em biquíni" celebridades, mas também pessoas comuns, na grande maioria mulheres.
Perante a indignação suscitada pela proliferação destas imagens, foram iniciados processos pelas autoridades de França, Reino Unido e mesmo da União Europeia.
O acesso à rede social foi mesmo suspenso ou bloqueado por vários países do Sudeste Asiático (Malásia, Indonésia e Filipinas), antes de ser restabelecido.
A plataforma anunciou finalmente, em meados de janeiro, que iria bloquear a geração de imagens de nudez de pessoas reais "nas jurisdições onde isso é ilegal".
Inicialmente, a X tinha restringido essa possibilidade, permitindo apenas a geração deste tipo de imagens aos utilizadores que pagam para utilizar a rede social.
A implementação efetiva desse bloqueio permanece incerta.
De acordo com um estudo da organização não-governamental CCDH, que frequentemente denuncia as práticas da rede X, o Grok gerou cerca de três milhões de imagens sexualizadas de mulheres e crianças num período de apenas 11 dias, ou seja, uma média de 190 imagens por minuto.
Em 2024, o acesso à X foi temporariamente suspenso pelo Supremo Tribunal Federal do Brasil por incumprimento de decisões relacionadas com a luta contra a desinformação.
