Mundo
"Risco catastrófico". Políticos e investigadores preocupados com alertas sobre IA e ameaças à Humanidade
Na sequência das afirmações de Jacob Coxon sobre os perigos da Inteligência Artificial para a Humanidade, aumentaram as preocupações dos políticos e os alertas dos especialistas, que não escondem que há razões para "estarmos assustados".
Jacob Coxon, antigo investigador da Anthropic, anunciou na rede social X que deixou de trabalhar para a empresa, alertando sobre os perigos graves da inteligência artificial para o futuro da humanidade. Após esta publicação, outros dois funcionários desta grande tecnológica responderam ao Guardian a corroborar as alegações: "Acreditamos sinceramente que a IA pode exterminar todos os humanos”.
O cientista informático, Geoffrey Hinton, admitiu na CNN que há razões para “estarmos assustados”, porque “as grandes empresas estão numa corrida para tornar a IA cada vez mais inteligente”.
O problema, considerou ainda Hinton, é que as tecnológicas estão a torna-los cada vez mais capazes e inteligentes, mas sem garantir que serão “seres decentes preocupados com as pessoas”.
“Não sabemos se se vão preocupar mais connosco do que com eles próprios”, acrescentou.
Numa outra entrevista à BBC, Hinton ainda confessou não achar “absurda” a estimativa de 10 por cento de probabilidade de a IA “exterminar toda a humanidade”.
Numa entrevista à ABC, o senador republicano do Texas considerou a IA um “risco catastrófico”. Referindo-se às declarações de Coxon, Ted Cruz disse mesmo ser “extremamente preocupante”.
“No ano passado eu entrevistei Elon Musk no meu podcast e uma das perguntas que fiz foi: 'Qual a probabilidade de a IA destruir a humanidade?' E ele olhou para mim e disse: '10 a 20 por cento'”.
O cientista informático, Geoffrey Hinton, admitiu na CNN que há razões para “estarmos assustados”, porque “as grandes empresas estão numa corrida para tornar a IA cada vez mais inteligente”.
Segundo o investigador galardoado com um Nobel, isto “faz com que os agentes se tornem cada vez mais poderosos, sem que ninguém os saiba controlar”. E já há registo de casos recentes em que estes agentes de IA fizeram “coisas inesperadas”.
O problema, considerou ainda Hinton, é que as tecnológicas estão a torna-los cada vez mais capazes e inteligentes, mas sem garantir que serão “seres decentes preocupados com as pessoas”.
“Não sabemos se se vão preocupar mais connosco do que com eles próprios”, acrescentou.
Numa outra entrevista à BBC, Hinton ainda confessou não achar “absurda” a estimativa de 10 por cento de probabilidade de a IA “exterminar toda a humanidade”.
“No ano passado eu entrevistei Elon Musk no meu podcast e uma das perguntas que fiz foi: 'Qual a probabilidade de a IA destruir a humanidade?' E ele olhou para mim e disse: '10 a 20 por cento'”.
Na mesma linha de pensamento, o senador independente de Vermont, Bernie Sanders, disse ao Guardian que, segundo inquéritos recentes, a maioria dos norte-americanos “deseja proibir a superinteligência artificial e interromper o desenvolvimento da IA até que estabeleçamos padrões de segurança claros”.
Tanto Cruz como Sanders têm estado a trabalhar em projetos de lei que visam estabelecer limites para a IA, mas não foram os únicos a expressar preocupação com o tema.
Ted Lieu, congressista democrata da Califórnia, disse que a publicação de Coxon era “a prova número 739 de por que precisamos aprovar o projeto de lei bipartidário de desativação da IA o mais rápido possível”.
E Lori Trahan, congressista democrata de Massachusetts, disse não ter dúvidas de que "já passou da hora de o Congresso sair da inércia e fazer seu trabalho".
“Investigadores de segurança estão a demitir-se, modelos de IA poderosos estão a sair dos laboratórios e as empresas estão a correr atrás do prejuízo mesmo assim”, acrescentou Trahan.
A indignação surge após a OpenAI e a Anthropic revelarem que alguns dos seus agentes de IA ficaram descontrolados em ataques de hackers nos últimos meses.
Na quarta-feira, a Anthropic publicou um extenso relatório de incidente de segurança cibernética sobre estas ocorrências. A empresa afirmou ter analisado centenas de milhões de transcrições em busca de outros incidentes e que “não encontrou outros casos de gravidade semelhante ou maior”. E insistiu que, embora as ações do agente estivessem “desalinhadas, permaneceram dentro de um escopo restrito”.
“Sempre fomos transparentes quanto ao facto de que a IA trará tanto enormes benefícios quanto riscos sem precedentes”, disse um porta-voz da Anthropic num comunicado ao Guardian. “Para lidar com estes riscos, continuamos a construir modelos com algumas das salvaguardas mais robustas do setor.”
A OpenAI não respondeu ao pedido de comentário.
Ted Lieu, congressista democrata da Califórnia, disse que a publicação de Coxon era “a prova número 739 de por que precisamos aprovar o projeto de lei bipartidário de desativação da IA o mais rápido possível”.
E Lori Trahan, congressista democrata de Massachusetts, disse não ter dúvidas de que "já passou da hora de o Congresso sair da inércia e fazer seu trabalho".
“Investigadores de segurança estão a demitir-se, modelos de IA poderosos estão a sair dos laboratórios e as empresas estão a correr atrás do prejuízo mesmo assim”, acrescentou Trahan.
A indignação surge após a OpenAI e a Anthropic revelarem que alguns dos seus agentes de IA ficaram descontrolados em ataques de hackers nos últimos meses.
Na quarta-feira, a Anthropic publicou um extenso relatório de incidente de segurança cibernética sobre estas ocorrências. A empresa afirmou ter analisado centenas de milhões de transcrições em busca de outros incidentes e que “não encontrou outros casos de gravidade semelhante ou maior”. E insistiu que, embora as ações do agente estivessem “desalinhadas, permaneceram dentro de um escopo restrito”.
“Sempre fomos transparentes quanto ao facto de que a IA trará tanto enormes benefícios quanto riscos sem precedentes”, disse um porta-voz da Anthropic num comunicado ao Guardian. “Para lidar com estes riscos, continuamos a construir modelos com algumas das salvaguardas mais robustas do setor.”
A OpenAI não respondeu ao pedido de comentário.
