Falso Tom Cruise no TikTok levanta questões sobre perigos da Inteligência Artificial

Falso Tom Cruise no TikTok levanta questões sobre perigos da Inteligência Artificial

Milhões de pessoas já viram os vídeos na rede social TikTok nos quais aparece o ator Tom Cruise a jogar golfe e a contar piadas. As imagens são tão convincentes que acabaram por se tornar virais, mas não são verdadeiras. Trata-se de um deepfake, um vídeo manipulado por inteligência artificial mas que parece real.

Inês Moreira Santos - RTP /
Reuters

VER MAIS
Com uma moeda na mão, o suposto Tom Cruise aparece num dos vídeos, amplamente partilhados no TikTok, a rir e a mostrar um truque mágico.

"Vou mostrar-vos um pouco de magia", afirma enquanto sorri, exatamente como o ator de Missão Impossível. "Isto é a sério", insiste rindo-se com gargalhadas semelhantes às do próprio Tom Cruise e fazendo desaparecer a moeda.

"É tudo real", continua.

Na realidade, não é. Não é mesmo Tom Cruise no TikTok. Parece magia, mas é obra da chamada Inteligência Artificial.


Milhões de pessoas assistiram, nos últimos dias, a este vídeo no TikTok, e a maioria pensou que a estrela de Hollywood tinha criado uma conta na plataforma digital preferida dos adolescentes.

Mas nem neste, nem num outro vídeo em que aparece de óculos de sol a jogar golfe é mesmo o ator Tom Cruise. Embora seja uma desilusão para alguns fãs, esta celebridade nem sequer tem conta no TikTok.

As imagens foram manipuladas por computador, são os denominados vídeos "deepfake" - vídeos alterados digitalmente com tecnologia de Inteligência Artificial.

O homem que aparece nas imagens não é o ator de 58 anos, mas o vídeo era realista o suficiente para que os utilizadores não notassem a diferença. Os vídeos começaram a ser partilhados pela conta "Deeptomcruise" na passada quinta-feira, dia 25 de fevereiro.

Na semana passada, surgiram ainda outros dois vídeos nessa mesma conta - cujo nome já indica que se trata aqui de vídeos falsos ou "deepfakes" -, com mais de 382 mil seguidores e 11,3 milhões de visualizações.
Vídeos quase "reais"

Apesar de os três vídeos publicados parecerem convincentes é, no entanto, possível reparar que a pessoa que incorpora o rosto do ator é mais alta e a iluminação, por vezes, deixa dúvidas sobre a veracidade da cena.

Embora os vídeos estejam tão reais que confundem os utilizadores do TikTok, há outras pequenas falhas que, com atenção, podem comprovar que são falsos.

Para começar, a voz do suposto Tom Cruise é parecida mas não é exatamente igual à do ator. Além disso, num dos vídeos em que aparentemente se usou mesmo a voz de Tom Cruise, a sincronização labial não acompanha a voz em determinados momentos.

Depois, no vídeo em que o homem que se faz passar pela estrela de Hollywood a jogar golfe, quando faz o movimento de colocar os óculos de sol, há falhas na imagem, ainda que pouco percetíveis à primeira vista: a boca da pessoa do vídeo altera-se e os óculos desaparecem por instantes.



A conta indica claramente que é falsa ao usar "deep" no nome, mas fica a dúvida se, numa próxima, não aparecerão vídeos falsos numa conta aparentemente fidedigna.

Embora o TikTok ainda não tenha reagido às notícias e ao facto de estes "deepfakes" terem confundido os seus utilizadores, os termos e condições da aplicação digital indicam explicitamente que são proibidas as falsificações de identidade.

"Você não pode: personificar [...] qualquer pessoa ou entidade, ou declarar falsamente ou de outra forma deturpar a sua identidade ou sua afiliação com qualquer pessoa ou entidade, incluindo dar a impressão de que qualquer conteúdo que enviar, publicar, transmitir, distribuir ou disponibilizar de outra forma emana dos Serviços", lê-se nas condições do TikTok.
Inteligência Artificial: um perigo iminente?

O falso Tom Cruise aparece a fazer magia, a jogar golfe e até a cair numa loja, o que divertiu milhões de seguidores e levou a que estas imagens fossem partilhadas e tornadas virais nas redes sociais. Mas o que parece ter sido uma brincadeira para ganhar mais seguidores no TikTok gerou um debate sobre os perigos da Inteligência Artificial e muitos especialistas começaram a alertar que a tecnologia "deepfake" está a desenvolver-se mais depressa do que a maioria das pessoas imagina.

Os vídeos, embora sejam divertidos por natureza, estão a levar muitos a questionar se a tecnologia "deepfake" pode ser prejudicial e se deve haver supervisão adicional.

Os "deepfakes", que se tornaram populares na Internet em 2017, já foram usados como parte de "fake news" políticas e para inserção de rostos em filmes pornográficos, por exemplo. Desde então, esta tecnologia tem evoluído rapidamente.

Esta tecnologia surgiu no Reddit em 2017 e resultou numa série de videos de notícias virais falsas promovidos por apoiantes do ex-presidente norte-americano Donald Trump, incluindo um em que Nancy Pelosi aparece a arrastar o seu discurso.

Para inserir rostos em corpos de outras pessoas, os "deepfakes" usam softwares de reconhecimento facial e dois conjuntos de inteligência artificial chamados de auto-codificadores variacionais (VAE, no inglês). Um VAE é usado em imagens do rosto que será inserido, e outro numa ampla variedade de rostos em diferentes condições de iluminação. Ao combinar os dois VAE, um programador é capaz de simular um rosto a mover-se em determinadas condições.

A manipulação de dados não é de agora e ainda depende de computadores, mas é cada vez mais usado, até na produção de videoclipes musicais, como explica um artigo do MIT. O problema é que também já são usados para manipular ou convencer as pessoas de que o que vêem e ouvem é real.

"Os deepfakes podem ser usados para manipular e ameaçar indivíduos e empresas. Porém, com um melhor entendimento da tecnologia, os executivos podem tomar medidas para se protegerem a si próprios e às suas empresas", denunciam os autores.

De facto, segundo os especialistas, é alarmante que um falso Tom Cruise consiga enganar milhões de pessoas e ganhar popularidade em algumas horas com imagens falsas.

Rachel Tobac, diretora-executiva da empresa de segurança cibernética SocialProof Security, escreveu no Twitter que previu há dois anos que esta tecnologia iria tornar-se impossível de detetar para pessoas comuns.

"Gostaria que minha previsão estivesse errada", escreveu.



Segundo Tobac, os "deepfakes" podem destruir a confiança do público em determinadas pessoas ou plataformas e ser usados ​​para manipular ou prejudicar as pessoas. A responsável pela empresa de segurança informática destacou ainda a necessidade de haver um software de deteção para sinalizar este tipo de vídeos.

"Se está a desenvolver tecnologia de deteção de media artificial/manipulado, trate de o produzir", acrescentou.

Também a fotógrafa Lauren White parece estar preocupada com os avanços desta tecnologia e a forma como é usada.

"Falsificações profundas estão a ficar assustadoras e a dominar o TikTok. Cada figura pública deve estar presente com uma conta verificada - mesmo que não queira criar conteúdo - para facilitar a identificação das suas falsificações", escreveu no Twitter.
Tópicos
PUB
PUB