O "chatbot" (robô de contacto) Grok, através da plataforma digital em rede X, tem sido alvo de críticas por criar imagens manipuladas, incluindo representações de mulheres de biquíni ou em poses sexualmente explícitas, bem como imagens que envolvem crianças.

Os órgãos reguladores daqueles dois países do sudeste asiático declararam que a ausência de mecanismos de controlo para impedir produção e disseminação de conteúdo pornográfico falso. O governo da Indonésia bloqueou temporariamente o acesso ao Grok no sábado, seguido pela Malásia no domingo.

"O Governo considera os `deepfakes` (conteúdos artificiais) sexuais não consensuais uma grave violação dos Direitos Humanos, da dignidade e da segurança dos cidadãos no espaço digital", disse o ministro das Comunicações e Assuntos Digitais da Indonésia, Meutya Hafid, em comunicado.

Estas medidas refletem a crescente preocupação global com as ferramentas de IA generativa que podem produzir imagens, sons e textos realistas, enquanto as salvaguardas existentes não conseguem impedir seu uso indevido.

O diretor-geral de supervisão do espaço digital, Alexander Sabar, noutro comunicado, afirmou ter ficado provado que o Grok não tem salvaguardas eficazes para impedir que os utilizadores criem e distribuam conteúdo pornográfico com base em fotos reais de cidadãos indonésios, acrescentando que tais práticas violam privacidade e direitos de imagem, podendo causar danos psicológicos, sociais e à reputação.

Em Kuala Lumpur, a Comissão de Comunicações e Multimédia da Malásia ordenou uma restrição temporária ao Grok, domingo, após o que classificou como "uso indevido repetido" da ferramenta para gerar imagens obscenas, sexualmente explícitas e manipuladas sem consentimento, incluindo conteúdo envolvendo mulheres e menores.

O órgão regulador local disse que as notificações emitidas este mês para as empresas de Musk (X Corp. e xAI), exigindo salvaguardas mais robustas, receberam respostas baseadas, principalmente, em denúncias de utilizadores.

"A restrição é imposta como medida preventiva e proporcional enquanto os processos legais e regulatórios estão em andamento", declarou o grupo empresarial, adiantando que o acesso vai ficar bloqueado até que haja salvaguardas eficazes.

Lançado em 2023, o Grok é gratuito para uso na rede social X. Os assinantes podem fazer perguntas na plataforma e marcar publicações que criaram diretamente ou respostas a publicações de outros utilizadores.

No verão, a empresa adicionou um recurso de gerador de imagens, o Grok Imagine, que incluía um chamado "modo picante" que pode gerar conteúdo para adultos.

As restrições no sudeste asiático ocorrem quando está a verificar-se um crescente escrutínio ao Grok noutros países, incluindo na União Europeia, Reino Unido e Índia.

Na semana passada, a geração e edição de imagens de assinantes foi limitada, após uma reação global negativa sobre `deepfakes` sexualizados de pessoas, mas muitos peritos defendem que a medida não resolveu completamente o problema.