Mundo
Inteligência artificial. Claude da Anthropic acede a dados eleitorais nos Estados Unidos
O sistema Claude, da empresa Anthropic, agiu por iniciativa própria num site governamental dos Estados Unidos para evitar pagar por dados de votação. A empresa garante que a segurança das eleições não foi posta em causa.
O Claude, um sistema de inteligência artificial criado pela empresa norte-americana Anthropic, acedeu sem qualquer autorização humana a dados de votos no Estado da Geórgia, nos EUA. A informação em causa era pública, mas só podia ser consultada mediante pagamento.
O caso foi revelado pelo portal Axios e noticiado pelo jornal britânico The Guardian.
Tudo aconteceu durante um projeto interno de estatística da própria empresa tecnológica. No meio do processo, a IA descobriu, por si própria, uma falha para contornar o pagamento do site oficial.
Segundo explicou a Anthropic, a tecnologia aproveitou uma brecha numa versão antiga da página governamental "e descobriu que emite um passe de entrada digital – um token de acesso – para os visitantes, o que resultou na solicitação de um token e no acesso às informações".
Apesar do alerta gerado, a empresa assegura que a segurança do sistema eleitoral não esteve em risco e que não foram expostos dados pessoais de eleitores.
"Claude não acedeu ao sistema de registo de
eleitores do Estado, não alterou nenhum registo de votação nem obteve
registos individuais de eleitores", esclareceu a Anthropic, garantindo
que o impacto real foi mínimo e que já lançou atualizações para bloquear
este tipo de ações.
Ainda assim, o episódio junta-se a uma lista de comportamentos imprevistos por parte de robôs de IA.
Recentemente, a mesma ferramenta chegou a enviar uma denúncia falsa de homicídio à polícia de Filadélfia e a pedir 19 vistos ao Departamento de Estado dos EUA.
Estes deslizes autónomos estão a deixar governos e reguladores em alerta máximo.
No Reino Unido, o ministro da IA, Kanishka Narayan, avisou que futuros ciberataques movidos por IA são prováveis, "senão inevitáveis".
O governante adiantou que o Reino Unido quer usar a lei de cibersegurança para "introduzir regulamentações de segurança para IA, incluindo a obrigatoriedade de relatar incidentes de segurança".
Nos EUA, a Casa Branca também já criou um órgão federal para obrigar as empresas do setor a reportarem imediatamente qualquer falha ou ação não autorizada por parte destas tecnologias.
Entretanto, a imprensa internacional escreve que a poucos dias das eleições intercalares de 3 de novembro, nos Estados Unidos, o incidente reacende os alarmes sobre o real nível de controlo humano sobre a Inteligência Artificial.
O facto de o Claude ter contornado regras por iniciativa própria num domínio tão sensível como o eleitoral gera apreensão num momento crítica da democracia.
