IA tomou atitudes que seriam crimes se cometidas por humanos diz Painel da ONU

Numa sessão de alto nível do Conselho de Segurança da ONU sobre IA, Yoshua Bengio advertiu para acontecimentos dos últimos meses que se tornaram «num momento de despertar global», em que agentes de IA escaparam do confinamento para «trapacear» em tarefas designadas, enquanto tentavam evitar serem detetados.

"Enganaram em tarefas atribuídas enquanto tentavam evitar a deteção. Os agentes de IA autónomos e descontrolados lançaram com sucesso ciberataques coordenados e alteraram as suas respostas para ocultar as suas batotas", relatou Bengio.

As empresas que constroem os sistemas de IA mais poderosos admitem que os seus produtos representam riscos catastróficos, mas não oferecem soluções técnicas convincentes, criticou o copresidente do Painel Científico Internacional Independente sobre IA acrescentando: "Em vez disso, afirmam estar numa corrida para tornar essa IA ainda mais poderosa, o que amplifica ainda mais esses riscos".

"Este Conselho enfrenta uma ameaça sem precedentes, uma que nenhum dos seus membros escolheria, que nenhum pode conter sozinho e que não respeita as fronteiras que defendemos", frisou.

O especialista admitiu a existência de ceticismo em relação às declarações destas empresas, suspeitando-se "de manobras de marketing", mas fez questão de afastar essas desconfianças.

"Estes comportamentos de IA estão bem documentados e validados por muitos especialistas independentes (...). Os perigos são reais e iminentes. Embora o futuro permaneça incerto e debatido, a gravidade destes riscos é extraordinária", sublinhou.