País
Investigador português admite riscos conceptuais da IA e apela à regulamentação
O antigo presidente do Instituto Superior Técnico admite que não há "risco zero" em questões de segurança e de controlo da Inteligência Artificial, mas que estarão protegidos. Arlindo Oliveira destaca, numa entrevista à RTP, que é necessário apostar na regulamentação para uso destes sistemas.
Para Arlindo Oliveira, a opinião de Jacob Coxon sobre os riscos da Inteligência Artificial é uma "num vasto espectro de opiniões", desde as mais conservadoras até às que acham que "existe uma probabilidade razoável de se concretizar".
Com as questões de segurança e de controlo dos agentes de IA no debate do dia, o antigo presidente do Instituto Superior Técnico considerou necessário explicar como é que a humanidade podia ficar em risco.
Quando nós usamos um agente de IA, como o ChatGPT por exemplo, para organizar uma viagem, todo o processo acontece com interação na Internet.
"Os agentes têm autonomia que lhes permite fazer um conjunto de coisas e interagir com o mundo real", explicou o investigador, numa entrevista à RTP.
Nos recentes casos divulgados de alegada falta de controlo da IA, esclareceu Arlindo Oliveira, que alguns destes agentes "decidiram conversar uns com os outros, depois decidiram invadir outras máquinas - é quando fazem o login, entram noutras máquinas".
Contudo, o investigador não considera que tenha ocorrido completamente fora do controlo humano, uma vez que estes agentes "tinham sido colocados num certo ambiente para serem testados, para serem testadas as suas capacidades como a de determinarem falhas em software".
"O objetivo deles era mesmo determinar esse tipo de falhas", esclareceu. "E, neste processo, tentaram arranjar várias maneiras de fazer isso: tentaram arranjar as soluções, tentaram ver qual era a melhor maneira, de onde vem o código".
E, nesse sentido, "acabaram por decidir que o melhor era ganhar acesso à Internet e fazer um bocadinho de batota em máquinas que podiam ter estas soluções".
Deste processo para uma operação de hacking e para risco de extermínio da Humanidade é "um salto grande", considerou, admitindo que "não é concetualmente impossível". Ainda assim, o investigador acha que seja difícil.
"Podemos imaginar, por exemplo, que a um conjunto destes agentes é lhes dada uma missão para criarem um novo vírus fatal e eles, na sua pesquisa, descobrem uma sequência que criaria um vírus que podia ser fatal para a Humanidade", apresentou, dando ainda exemplos como cibersegurança, a invasão de sistemas críticos de energia ou de água.
"Podemos ter um apagão. Essa é, aliás, uma possibilidade real", acrescentou. "Podemos ainda imaginar cenários mais distópicos; podemos imaginar que estes agentes conseguem entrar nos sistemas de controlo de armas nucleares e desencadear uma guerra nuclear".
Com as questões de segurança e de controlo dos agentes de IA no debate do dia, o antigo presidente do Instituto Superior Técnico considerou necessário explicar como é que a humanidade podia ficar em risco.
Quando nós usamos um agente de IA, como o ChatGPT por exemplo, para organizar uma viagem, todo o processo acontece com interação na Internet.
"Os agentes têm autonomia que lhes permite fazer um conjunto de coisas e interagir com o mundo real", explicou o investigador, numa entrevista à RTP.
Nos recentes casos divulgados de alegada falta de controlo da IA, esclareceu Arlindo Oliveira, que alguns destes agentes "decidiram conversar uns com os outros, depois decidiram invadir outras máquinas - é quando fazem o login, entram noutras máquinas".
Contudo, o investigador não considera que tenha ocorrido completamente fora do controlo humano, uma vez que estes agentes "tinham sido colocados num certo ambiente para serem testados, para serem testadas as suas capacidades como a de determinarem falhas em software".
"O objetivo deles era mesmo determinar esse tipo de falhas", esclareceu. "E, neste processo, tentaram arranjar várias maneiras de fazer isso: tentaram arranjar as soluções, tentaram ver qual era a melhor maneira, de onde vem o código".
E, nesse sentido, "acabaram por decidir que o melhor era ganhar acesso à Internet e fazer um bocadinho de batota em máquinas que podiam ter estas soluções".
Deste processo para uma operação de hacking e para risco de extermínio da Humanidade é "um salto grande", considerou, admitindo que "não é concetualmente impossível". Ainda assim, o investigador acha que seja difícil.
"Podemos imaginar, por exemplo, que a um conjunto destes agentes é lhes dada uma missão para criarem um novo vírus fatal e eles, na sua pesquisa, descobrem uma sequência que criaria um vírus que podia ser fatal para a Humanidade", apresentou, dando ainda exemplos como cibersegurança, a invasão de sistemas críticos de energia ou de água.
"Podemos ter um apagão. Essa é, aliás, uma possibilidade real", acrescentou. "Podemos ainda imaginar cenários mais distópicos; podemos imaginar que estes agentes conseguem entrar nos sistemas de controlo de armas nucleares e desencadear uma guerra nuclear".
Embora seja difícil dizer que o "risco é zero", estes sistemas "estão completamente protegidos" e é preciso "alguém carregar num botão". O risco é, por mais difícil que seja, que estes sistemas e agentes se comecem a melhorar a si próprios.
Considerando a concorrência entre grandes tecnológicas, e até Estados, é garantir regulamentação da utilização da Inteligência Artificial.
