Geoffrey Hinton, considerado um dos maiores impulsionadores do desenvolvimento da Inteligência Artificial na Google, demitiu-se da empresa norte-americana e deixou vários avisos sobre os potenciais perigos desta tecnologia. Ao fim de mais de uma década a trabalhar no processo de criação e evolução dos assistentes virtuais, o "padrinho" da IA admitiu estar arrependido de algum do trabalho que desenvolveu.
O especialista em tecnologia trabalhou na Google mais de dez anos e foi um dos principais responsáveis pelos avanços tecnológicos que deram origem aos assistentes virtuais como o “ChatGPT”. Anunciou em abril que ia deixar as funções na empresa, sem adiantar os motivos da saída, e confessou que agora se sente mais à vontade para falar sobre os riscos da Inteligência Artificial.
Segundo Hinton, é difícil “impedir maus atores de a usarem para coisas más”.
"É difícil saber como prevenir as pessoas com más intenções de usar [a IA] para coisas más. Comparem a IA há cinco anos com agora. É assustador", disse ao jornal norte-americano, reforçando que o desenvolvimento destes serviços será ainda mais desenvolvido nos próximos anos.
O britânico-canadiano de 75 anos é um dos grandes pioneiros da Inteligência Artificial e dedicou-se ao longo de quase meio século a investigar formas de usar redes neurais para fins como aprendizagem de máquina, processamento de símbolos, memória e perceção. Mas admite que, agora, sente algum arrependimento pelo trabalho que fez.
À semelhança de outras vozes críticas, o cientista de computação considera que a IA pode ser usada como ferramenta para a desinformação, pode ameaçar vários empregos e até ser um risco para a humanidade.
O britânico-canadiano de 75 anos é um dos grandes pioneiros da Inteligência Artificial e dedicou-se ao longo de quase meio século a investigar formas de usar redes neurais para fins como aprendizagem de máquina, processamento de símbolos, memória e perceção. Mas admite que, agora, sente algum arrependimento pelo trabalho que fez.
À semelhança de outras vozes críticas, o cientista de computação considera que a IA pode ser usada como ferramenta para a desinformação, pode ameaçar vários empregos e até ser um risco para a humanidade.
Chatbots são “bastante assustadores”
Apesar dos receios que expressou quanto aos efeitos futuros da Inteligência Artificial, que ele próprio ajudou a criar e a desenvolver, Hinton não criticou a Google. Numa publicação no Twitter, o “padrinho” da IA assegurou que a renúncia ao cargo na empresa não se justificava com a possibilidade de poder criticar o trabalho da gigante tecnológica.
“Saí para poder falar sobre os perigos da IA sem considerar como isso afeta a Google. A Google agiu com muita responsabilidade”.
Apesar dos receios que expressou quanto aos efeitos futuros da Inteligência Artificial, que ele próprio ajudou a criar e a desenvolver, Hinton não criticou a Google. Numa publicação no Twitter, o “padrinho” da IA assegurou que a renúncia ao cargo na empresa não se justificava com a possibilidade de poder criticar o trabalho da gigante tecnológica.
“Saí para poder falar sobre os perigos da IA sem considerar como isso afeta a Google. A Google agiu com muita responsabilidade”.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
A saída de Hinton ocorre numa altura em que muitos académicos e especialistas em computação têm alertado para os perigos desta tecnologia. A IA generativa é considerada tão importante como a introdução da "world wide web" e com potencial de disrupção maciço, da educação à saúde e aos negócios - o que pode representar um perigo exponencial.
De acordo com o académico, os bots podem vir a ser usados para substituírem totalmente alguns empregos. Em breve, o cenário pode ser pior: a tecnologia, que frequentemente aprende comportamentos inesperados pelos programadores, pode tornar-se um risco para a própria Humanidade.
"A ideia era de que estas coisas podiam vir a ser mais espertas que as pessoas - alguns acreditavam nisso", disse Hinton ao NYT. "Mas a maioria pensava que estava num futuro longe. E eu achei que estava longe. Pensei que demoraria 30 a 50 anos ou ainda mais tempo. Obviamente, já não penso assim".
Numa outra entrevista, divulgada pela BBC esta terça-feira, Hinton afirmou que alguns dos perigos dos chatbots de IA são "bastante assustadores".
"Neste momento, não são mais inteligentes do que nós, pelo que sei. Mas acho que em breve podem tornar-se".
"Neste momento, não são mais inteligentes do que nós, pelo que sei. Mas acho que em breve podem tornar-se".
"Cheguei à conclusão de que o tipo de inteligência que estamos a desenvolver é muito diferente da inteligência que temos", continuou, frisando que "somos sistemas biológicos e estes são sistemas digitais".
A grande diferença é que com sistemas digitais, explicou, existem "muitas cópias do mesmo conjunto de pesos, o mesmo modelo do mundo".
"E todas essas cópias podem aprender separadamente, mas compartilham o conhecimento instantaneamente. Portanto, é como se tivessemos 10.000 pessoas e sempre que uma pessoa aprende algo, todos automaticamente sabem. E é assim que esses chatbots podem saber muito mais do que qualquer pessoa".
A grande diferença é que com sistemas digitais, explicou, existem "muitas cópias do mesmo conjunto de pesos, o mesmo modelo do mundo".
"E todas essas cópias podem aprender separadamente, mas compartilham o conhecimento instantaneamente. Portanto, é como se tivessemos 10.000 pessoas e sempre que uma pessoa aprende algo, todos automaticamente sabem. E é assim que esses chatbots podem saber muito mais do que qualquer pessoa".
Hinton venceu o Prémio Turing de 2018, também conhecido como o Prémio Nobel da Computação, pelo trabalho que levou ao atual boom da inteligência artificial. Além de cientista, é professor e um dos seus alunos é o cientista-chefe da OpenAI, a dona do ChatGPT. Hinton e dois dos seus aprendizes desenvolveram uma rede neural que aprendeu sozinha a identificar objetos comuns como cães, gatos e flores, após analisar milhares de fotos - trabalho que acabou por levar à criação do ChatGPT e do Google Bard.
