Grupo de 22 países quer manter apertado e em mãos humanas o controlo da IA

O documento subscrito para já por 22 países, entre os quais Espanha, Alemanha e a própria Comissão Europeia, estima que os tempos devem ser da mais rigorosa vigilância quando se trata das versões de Inteligência Artificial (IA) mais avançadas (frontier AI models na designação em inglês).

Trata-se de um conjunto de diretivas que tem, para já, a sua maior fraqueza no facto de os principais protagonistas da IA se manterem fora do grupo de signatários: Estados Unidos e China, desde logo, mas também França, Itália e Inglaterra não colocaram o seu nome no rol de assinaturas da proposta avançada à margem da reunião desta semana da Assembleia Geral das Nações Unidas.

O presidente chinês, Xi Jinping, vai reunir-se como o presidente norte-americano, Donald Trump, em Washington na próxima quinta-feira e é mais do que provável que o tema esteja em cima da mesa. É, no entanto, claro para o resto do mundo que esta é uma corrida a dois, com a Inteligência Artificial a ser dominada por Pequim e Washington, mesmo que os dois gigantes tecnológicos mantenham ideologias diferentes – e muitas das vezes opostas – nesta área.

Em matéria regulatória não será para já dos interesses chinês ou norte-americano aplicar um travão aos desenvolvimentos da tecnologia, malgrado todos os riscos que ela possa apresentar para a humanidade.

Um organismo global de supervisão

Os próprios signatários do documento que pede maior controlo da IA rejeitam a tese de uma desaceleração da investigação e desenvolvimento dos modelos avançados. Contornam antes este problema com a sugestão de uma forte mão humana nas rédeas dos programas e a criação de um organismo global que exerça a supervisão, um grupo à semelhança da AIEA, a Agência Internacional de Energia Atómica, que controla e promove o uso seguro e pacífico da tecnologia atómica.

“A inteligência artificial é uma tecnologia extremamente poderosa”, assinala o texto, admitindo que “tem potencial para melhorar vidas, avançar na ciência e fortalecer as nossas economias”, vantagens que, assinala, vêm juntas num pacote com “riscos sérios para a segurança se não for gerida adequadamente”.

O Politico, que dá a conhecer a iniciativa, entrevistou o presidente finlandês, Alexander Stubb, “um dos principais organizadores do documento”.

Stubb disse acreditar “que será do interesse tanto da China como dos Estados Unidos ter algum tipo de barreiras de segurança. E a nossa mensagem aqui é que precisamos de intervenção humana, por isso os humanos têm de estar no comando”.

Será essa a diretiva que domina a visão do documento em relação ao desenvolvimento da Inteligência Artificial: “Manter os trabalhos sob direção, supervisão e controlo dos humanos”.

Nesse sentido, são três os postulados finais da carta:

“As empresas devem desenvolver protocolos de segurança transparentes, incluindo testes obrigatórios antes do lançamento e avaliação independente, com avaliadores qualificados tendo acesso suficiente para analisar os riscos.
Os governos e organizações regionais devem desenvolver e coordenar padrões comuns, reforçar a transparência — incluindo a partilha de relatórios sobre incidentes graves de segurança — e garantir que países de todas as regiões tenham acesso a capacidades científicas, conhecimento especializado e avaliação confiável.
Os Estados membros da ONU devem basear-se nos mecanismos internacionais existentes e explorar a criação de uma instituição internacional, capaz de definir padrões, permitir a verificação e reunir os Estados quando os limiares de capacidade forem ultrapassados”.

São apenas 22 os subscritores, mas a carta, lembra o presidente finlandês, permanece aberta a novas adesões, o que Alexander Stubb acredita, como foi dito acima, irá acontecer.