Parlamento Europeu proíbe sistemas de inteligência artificial que geram imagens sexuais
O Parlamento Europeu aprovou hoje a proibição de sistemas de inteligência artificial (IA) que geram imagens sexualmente explícitas, uma medida que ainda terá de ser formalmente adotada pelo Conselho da UE para poder ser aplicada.
A medida foi aprovada na sessão plenária do Parlamento Europeu (PE), em Estrasburgo, com 423 votos a favor, 57 contra e 174 abstenções, e visa alterar determinadas regras atualmente em vigor no âmbito da lei europeia de IA.
O PE referiu que, caso tenha "luz verde" final do Conselho da UE, a lei vai passar a proibir "sistemas de IA que gerem material de abuso sexual infantil ou que criem imagens, vídeos e áudios que representem partes íntimas de uma pessoa identificável, ou atividades sexualmente explícitas, sem o seu consentimento", de acordo com um comunicado.
"Os fornecedores não serão autorizados a colocar estes sistemas no mercado da UE, a não ser que disponham de salvaguardas técnicas adequadas para impedir a criação desse material. A proibição aplica-se igualmente aos utilizadores que recorram a esses sistemas para esses fins", indicou o PE.
A instituição acrescentou que as empresas têm agora até 02 de dezembro para atualizar os sistemas e garantir que estão conformes com estas novas regras sobre imagens sexuais.
Esta proposta já tinha sido acordada pelo PE e pelo Conselho da UE, que representa os governos dos 27 Estados-membros.
No entanto, para entrar em vigor, a medida terá de ser adotada formalmente pelo Conselho da UE.
A proposta surgiu depois de a Comissão Europeia ter decidido, em janeiro, abrir uma investigação ao Grok, a ferramenta de IA da rede social X, por disseminação de imagens sexualmente explícitas, incluindo conteúdos passíveis de constituir abuso sexual de menores.
De acordo com um relatório do Centro de Combate ao Ódio Digital (CCDH) e o jornal norte-americano The New York Times, em janeiro, o Grok terá inundado aquela rede com cerca de três milhões de imagens sexualizadas durante 11 dias, incluindo 23.000 de crianças e 1,8 milhões de mulheres.
Além da proibição de sistemas de IA que gerem imagens sexualmente explícitas, esta alteração à lei europeia também inclui medidas para simplificar o quadro regulatório atualmente aplicado à IA.
Assim, a proposta passa a prever a possibilidade, tanto em sistemas de IA de uso geral como de risco elevado, "de tratar dados pessoais sempre que estritamente necessário para detetar e corrigir enviesamentos, com salvaguardas adequadas".
É também eliminada a "sobreposição de requisitos de IA aplicáveis às máquinas, componentes e acessórios", passando a lei sobre IA a clarificar que "só têm de cumprir a legislação setorial, enquanto garantem um nível equivalente de saúde e segurança".
