Mundo
"Incidente sem precedentes". Modelos da OpenAI piratearam startup
A OpenAI, criadora do ChatGPT, anunciou que os seus modelos avançados de inteligência artificial entraram em colapso durante testes de segurança, invadindo por iniciativa própria a plataforma Hugging Face, uma start up popular entre programadores.
A empresa esclareceu na terça-feira que o incidente envolveu uma combinação de modelos, incluindo o seu GPT-5.6 Sol, lançado recentemente, assim como um modelo "ainda mais potente" em fase de desenvolvimento.
"Consideramos que este incidente constitui um ciberataque sem
precedentes, que envolve capacidades cibernéticas de última geração", afirmou a OpenAI em comunicado.
Com o teste que estava a ser realizado, a empresa pretendia avaliar as capacidades de pirataria dos modelos, atribuindo-lhes tarefas num ambiente de teste digital rigorosamente controlado, onde o acesso à Internet era limitado por razões de segurança.
"Enquanto operavam no nosso ambiente de teste (...), os nossos modelos dedicaram uma quantidade significativa de potência de cálculo a encontrar uma forma de obter acesso livre à Internet, com o objetivo de resolver o problema de avaliação", explicou a OpenAI.
Quando conseguiram esse acesso, os modelos visaram a plataforma Hugging Face para os ajudar na busca.
"Estamos a partilhar estas descobertas preliminares nesta fase para ajudar as equipas de defesa a compreender o que aconteceu e avaliar o alcance dos recursos atuais dos modelos", afirmou a OpenAI.
Hussein Abbass, professor de informática na Universidade de Nova Gales do Sul, considerou o incidente "em muitos aspetos espantoso".
"Não se limitou a atacar a Hugging Face. Na verdade, atacou o seu próprio sistema interno para explorar as suas próprias vulnerabilidades. E isso é assustador", explicou à agência France-Presse este especialista em IA.
O GPT-5.6, à semelhança de outros modelos de IA, têm levantado preocupações quanto à sua potencial capacidade de ultrapassar as defesas de cibersegurança.
c/ agências
