Mundo
"Temos de abrandar". CEO da Anthropic exorta empresas de IA a moderarem ritmo de desenvolvimento de modelos
Dario Amodei lançou o apelo dias depois de um funcionário da Anthropic se ter demitido por considerar que a empresa desvalorizava o risco da IA para a humanidade.
O diretor-executivo da Anthropic, Dario Amodei, pediu este sábado às empresas de Inteligência Artificial para moderarem o ritmo a que desenvolvem as capacidades dos modelos, de modo a criar mais tempo para gerir os riscos que comportam.
"Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA. O progresso continuará a parecer rápido e temos de fazer uso sensato do tempo que ganhamos", afirma Amodei num texto publicado online.
As declarações surgem alguns dias depois de um investigador da Anthropic, Jacob Coxon, ter anunciado que decidiu abandonar a empresa, acusando-a de minimizar o risco existencial que a IA representa para a humanidade.
Jacob Coxon afirmou mesmo que “as pessoas que estão a desenvolver a IA acreditam sinceramente que esta poderá matar-nos a todos até ao final da década”.
Dario Amodei reconhece, no seu texto, que a tecnologia de IA avançou “de forma drasticamente mais rápida” nos últimos meses e tornou-se capaz de se aperfeiçoar a si própria, uma dinâmica conhecida como “autoaperfeiçoamento recursivo”.
“Se não for controlada, poderá ultrapassar a nossa capacidade de compreender e controlar estes sistemas e, por isso, deve ser desenvolvida com muito cuidado, se é que deve ser desenvolvida”, refere.
“A IA traz riscos e, por se tratar de uma tecnologia tão poderosa, esses riscos são graves”, alerta o CEO. “Entre eles contam-se o risco de perder o controlo dos sistemas de IA, a utilização indevida da IA para ciberataques e bioterrorismo, assim como graves perturbações económicas”.
Dario Amodei defende, por isso, “um acordo que proíba certas utilizações restritas e manifestamente perigosas da IA, tais como a utilização da IA para a produção de armas biológicas”.
Idealmente, os governos deveriam mesmo “limitar substancialmente o ritmo global de desenvolvimento da IA”, acredita o CEO da Anthropic. “Apoio a ideia de propor isto, mas penso que é improvável que venha a acontecer num futuro próximo”, reconhece.
Para Dario Amodei, “não desenvolver esta tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la demasiado depressa é imprudente”.
“Procurámos um meio-termo: demonstrar que é possível desenvolvê-la com cuidado e ter sucesso comercial, e fazer da segurança um aspeto em que as empresas de IA concorram entre si. Por outras palavras, criar uma corrida até ao topo”, acrescenta.
"Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA. O progresso continuará a parecer rápido e temos de fazer uso sensato do tempo que ganhamos", afirma Amodei num texto publicado online.
As declarações surgem alguns dias depois de um investigador da Anthropic, Jacob Coxon, ter anunciado que decidiu abandonar a empresa, acusando-a de minimizar o risco existencial que a IA representa para a humanidade.
Jacob Coxon afirmou mesmo que “as pessoas que estão a desenvolver a IA acreditam sinceramente que esta poderá matar-nos a todos até ao final da década”.
Dario Amodei reconhece, no seu texto, que a tecnologia de IA avançou “de forma drasticamente mais rápida” nos últimos meses e tornou-se capaz de se aperfeiçoar a si própria, uma dinâmica conhecida como “autoaperfeiçoamento recursivo”.
“Se não for controlada, poderá ultrapassar a nossa capacidade de compreender e controlar estes sistemas e, por isso, deve ser desenvolvida com muito cuidado, se é que deve ser desenvolvida”, refere.
“A IA traz riscos e, por se tratar de uma tecnologia tão poderosa, esses riscos são graves”, alerta o CEO. “Entre eles contam-se o risco de perder o controlo dos sistemas de IA, a utilização indevida da IA para ciberataques e bioterrorismo, assim como graves perturbações económicas”.
Dario Amodei defende, por isso, “um acordo que proíba certas utilizações restritas e manifestamente perigosas da IA, tais como a utilização da IA para a produção de armas biológicas”.
Idealmente, os governos deveriam mesmo “limitar substancialmente o ritmo global de desenvolvimento da IA”, acredita o CEO da Anthropic. “Apoio a ideia de propor isto, mas penso que é improvável que venha a acontecer num futuro próximo”, reconhece.
Para Dario Amodei, “não desenvolver esta tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la demasiado depressa é imprudente”.
“Procurámos um meio-termo: demonstrar que é possível desenvolvê-la com cuidado e ter sucesso comercial, e fazer da segurança um aspeto em que as empresas de IA concorram entre si. Por outras palavras, criar uma corrida até ao topo”, acrescenta.
