ISIS apela à utilização da inteligência artificial
No mês passado, um utilizador de um fórum pró-islamista ligado ao Estado Islâmico (ISIS) instou os apoiantes da organização a integrarem a IA nas suas operações. Uma das melhores caraterísticas da inteligência artificial é o facto de ser fácil de utilizar", escreveu em inglês, acrescentando que "algumas agências de informação estão preocupadas com o facto de a IA contribuir para o recrutamento. Tornar os seus pesadelos numa realidade".

O ISIS, que já ocupou territórios no Iraque e na Síria e atualmente funciona como uma rede descentralizada de grupos armados, reconheceu desde cedo o poder das redes sociais para o recrutamento e a desinformação. Segundo os analistas, não é surpreendente que esteja agora também a testar a inteligência artificial.Propaganda e deepfakes a baixo custo
Para grupos extremistas menos organizados e com recursos limitados - ou mesmo para "lobos solitários" individuais com acesso à Internet - a IA pode ser utilizada para produzir em massa propaganda e conteúdos deepfake, expandindo o seu alcance.

"Para qualquer adversário, a inteligência artificial torna tudo muito mais fácil", afirmou John Lalibert, antigo investigador da NSA e atual diretor executivo da empresa de cibersegurança ClearVector. "Mesmo pequenos grupos sem grandes recursos financeiros podem causar um impacto significativo."Como os grupos extremistas estão a fazer experiências com a IA
As organizações armadas começaram a utilizar a IA quase imediatamente após a disponibilização pública de ferramentas como o ChatGPT. Nos últimos anos, têm vindo a utilizar a IA genética para criar fotografias e vídeos realistas.

Combinados com os algoritmos das redes sociais, estes conteúdos falsos podem contribuir para o recrutamento, causar confusão ou medo e difundir propaganda a uma escala sem precedentes.

Há dois anos, foram divulgadas imagens falsas da guerra entre Israel e o Hamas, mostrando crianças feridas em edifícios bombardeados. Este conteúdo causou indignação e polarização, tendo sido utilizado por grupos violentos no Médio Oriente e por organizações anti-semitas nos EUA e noutros locais para recrutamento.

Do mesmo modo, após o ataque a um local de concertos na Rússia em 2024, que custou a vida a quase 140 pessoas e foi atribuído a uma ramificação do ISIS, foram divulgados vídeos de propaganda em massa criados com inteligência artificial.

De acordo com o SITE Intelligence Group, o ISIS criou ficheiros áudio deepfake com as vozes de líderes a recitar textos religiosos e utiliza a IA para traduzir rapidamente as mensagens para várias línguas, expandindo a audiência internacional."Ambições" com riscos
Apesar disso, as organizações extremistas ainda estão atrás de atores estatais como a China, a Rússia ou o Irão e veem as utilizações mais sofisticadas da IA como "ambições", de acordo com Marcus Fowler, antigo agente da CIA e atual CEO da Darktrace Federal.

No entanto, como salienta, os riscos aumentam à medida que a IA se torna mais barata e mais potente.

Os cibercriminosos já estão a utilizar áudio e vídeo sintéticos para ataques de phishing, fazendo-se passar por executivos seniores ou funcionários governamentais. A IA também pode ser utilizada para criar software malicioso ou automatizar ciberataques.

Particularmente preocupante é a potencial utilização da inteligência artificial para produzir armas biológicas ou químicas, um risco agora incluído na Avaliação Nacional de Ameaças actualizada do Departamento de Segurança Interna dos EUAIniciativas legislativas e medidas de combate
Os legisladores norte-americanos estão a promover uma série de propostas, sublinhando a necessidade de uma ação imediata. O senador Mark Warner, líder democrata do Comité de Inteligência do Senado, afirmou que os EUA devem facilitar a troca de informações entre as empresas de IA e as autoridades sobre a utilização maliciosa destas ferramentas.

Numa recente audição no Congresso, foi revelado que o ISIS e a Al-Qaeda organizaram workshops de formação para a utilização da inteligência artificial pelos seus apoiantes.