Num comunicado divulgado na rede social WeChat, o ministério reconheceu os benefícios da IA para o desenvolvimento económico e social, mas frisou que o seu uso impróprio pode facilitar a disseminação de desinformação e outras atividades prejudiciais.

As autoridades chinesas referiram que sistemas de IA com capacidade para gerar conteúdos manipulados - combinando algoritmos de aprendizagem profunda com imagens, sons ou vídeos falsificados - podem ser utilizados por entidades estrangeiras para "instigar agitação" entre a população chinesa.

Embora técnicas de geração de conteúdos ultrarrealistas tenham aplicações legítimas nas indústrias do cinema, publicidade ou videojogos, o ministério alertou que a sua utilização ilícita pode violar direitos individuais e ser usada para "confundir a opinião pública".

O comunicado destaca ainda que os sistemas generativos de IA são capazes de recolher, armazenar e até divulgar dados pessoais sensíveis, o que poderia ser aproveitado por serviços de inteligência estrangeiros para realizar "atividades de subversão, infiltração e sabotagem" na China.

Outro ponto de preocupação são os algoritmos manipulados com viés ideológico, que podem servir para difundir "ideologias tendenciosas".

O Ministério da Segurança instou a população a reforçar a sua capacidade de "distinguir a veracidade" das informações e reiterou a necessidade de garantir que o uso da IA respeita os princípios estabelecidos pelas autoridades.