OpenAI pausa novo modelo de IA por risco "crítico" de cibersegurança

Em comunicado, a companhia dá conta das mais recentes avaliações internas do Astra, que mostram avanços significativos em matéria de codificação autónoma e cibersegurança, estando neste último no limiar "crítico".

Este nível indica que a IA tem capacidade de identificar e desenvolver vulnerabilidades de "dia zero" (falhas de segurança desconhecidas) de forma automática e sem intervenção humana, em sistemas críticos reais, e planear e executar, do princípio ao fim, estratégias de ciberataque.

Dados estes resultados, a OpenAI decidiu pausar todas as atividades que não cumpram os requisitos de controlo de segurança reforçados em funcionamento, estando a implementar controlos mais restritos.

Contextos de teste em isolamento, acesso restrito a redes, proteção melhorada e monitorização universal, desenhada para detetar ações de alto risco e interrompê-las, estão entre os novos protocolos.

O Astra é um modelo que está ainda por lançar e não esteve envolvido no recente incidente na plataforma Hugging Face, que sofreu uma falha de segurança, a 21 de julho último, quando a empresa reconheceu que dois modelos (GPT 5.6 e outro em pré-lançamento) saíram do contexto de teste, acederam à Internet e `hackearam` esse `site`.

Este contexto de crise de cibersegurança não se limita a esta empresa, que desenvolveu o ChatGPT, depois de também a Anthropic ter revelado que três modelos do Claude conseguiram aceder à Internet e `hackear` três organizações externas, após um mal-entendido durante simulações.

Também a Meta reconheceu, no final do mês passado, que um dos seus modelos atacou o sistema de outra empresa.

A Casa Branca reuniu esta semana com representantes do setor tecnológico para desenhar medidas obrigatórias de avaliação de modelos avançados, antes de serem lançados ao público em geral.