Modelo de IA da Meta invadiu sistema de outra empresa de forma autónoma
A empresa tecnológica Meta revelou que um dos seus modelos de inteligência artificial (IA) acedeu à Internet por conta própria e invadiu o sistema de outra empresa, o mais recente dos casos envolvendo agentes a agir de forma descontrolada.
Nas últimas semanas, a OpenAI e a Anthropic descreveram também casos de modelos de IA que extrapolaram as instruções humanas para aceder à Internet e encontrar formas de contornar a segurança digital de outras empresas.
A Meta referiu na quinta-feira, em comunicado, que uma "configuração incorreta" durante os testes de cibersegurança realizados pela Irregular, uma empresa independente contratada pela Meta, permitiu inadvertidamente que um dos seus modelos acedesse à internet.
"O modelo explorou posteriormente uma vulnerabilidade de segurança num serviço de terceiros, de forma semelhante a casos anteriormente reportados com outras empresas", referiu a empresa-mãe do Facebook, Instagram e WhatsApp.
A Meta afirmou que está a investigar o incidente e divulgará um relatório quando a investigação estiver concluída.
A divulgação aumentou as preocupações sobre os modelos de IA que agem de forma autónoma, noticiou a agência Associated Press (AP).
Num outro comunicado divulgado esta semana, o Instituto de Segurança de IA do Reino Unido (AISI) anunciou ter encontrado "comportamento não autorizado dos agentes" durante testes.
Num dos casos, um agente criou identidades `online` falsas para pressionar uma pessoa a aprovar o uso de código malicioso.
"Após investigação, descobrimos que alguns dos agentes testados se envolveram em atividades contínuas e potencialmente prejudiciais dirigidas a pessoas e organizações reais", realçou o AISI na terça-feira.
Durante os testes da agência, os modelos da Anthropic e da OpenAI realizaram "ações autónomas e não autorizadas" na Internet.
Algumas medidas de segurança para evitar o uso indevido tinham sido desativadas, acrescentou a agência.
"Como é padrão nos nossos testes cibernéticos, permitimos intencionalmente o acesso à Internet e desativamos deliberadamente os classificadores cibernéticos dos fornecedores de modelos --- condições que não refletem a forma como os modelos de ponta são disponibilizados ao público", esclareceu o AISI, detalhando que o objetivo é "avaliar da melhor forma a capacidade máxima dos modelos".
A Anthropic afirmou estar grata pelo trabalho da AISI e acrescentou que este reforça a necessidade de uma discussão mais ampla sobre como avaliar os agentes de IA em segurança, à medida que as suas capacidades aumentam.
A OpenAI declarou que os incidentes da AISI ocorreram "em ambientes de teste com salvaguardas reduzidas, em condições que não refletem a utilização comum", mas garantiu que continuará a trabalhar com outros parceiros do setor.
A empresa responsável pelo ChatGPT foi a primeira a divulgar um ciberataque no final do mês passado, acrescentando que tinha incumbido os modelos de IA envolvidos de realizar "exploração avançada utilizando caminhos de ataque complexos" para testar capacidades cibernéticas, tendo a tecnologia ultrapassado os limites esperados.
Aparentemente, decidiu por conta própria atacar a Hugging Face, um conhecido centro de desenvolvimento e mercado de IA, para obter informações necessárias para executar uma tarefa.
