Falso Tom Cruise no TikTok levanta questões sobre perigos da Inteligência Artificial

por Inês Moreira Santos - RTP
Reuters

Milhões de pessoas já viram os vídeos na rede social TikTok nos quais aparece o ator Tom Cruise a jogar golfe e a contar piadas. As imagens são tão convincentes que acabaram por se tornar virais, mas não são verdadeiras. Trata-se de um deepfake, um vídeo manipulado por inteligência artificial mas que parece real.

VER MAIS
Com uma moeda na mão, o suposto Tom Cruise aparece num dos vídeos, amplamente partilhados no TikTok, a rir e a mostrar um truque mágico.

"Vou mostrar-vos um pouco de magia", afirma enquanto sorri, exatamente como o ator de Missão Impossível. "Isto é a sério", insiste rindo-se com gargalhadas semelhantes às do próprio Tom Cruise e fazendo desaparecer a moeda.

"É tudo real", continua.

Na realidade, não é. Não é mesmo Tom Cruise no TikTok. Parece magia, mas é obra da chamada Inteligência Artificial.


Milhões de pessoas assistiram, nos últimos dias, a este vídeo no TikTok, e a maioria pensou que a estrela de Hollywood tinha criado uma conta na plataforma digital preferida dos adolescentes.

Mas nem neste, nem num outro vídeo em que aparece de óculos de sol a jogar golfe é mesmo o ator Tom Cruise. Embora seja uma desilusão para alguns fãs, esta celebridade nem sequer tem conta no TikTok.

As imagens foram manipuladas por computador, são os denominados vídeos "deepfake" - vídeos alterados digitalmente com tecnologia de Inteligência Artificial.

O homem que aparece nas imagens não é o ator de 58 anos, mas o vídeo era realista o suficiente para que os utilizadores não notassem a diferença. Os vídeos começaram a ser partilhados pela conta "Deeptomcruise" na passada quinta-feira, dia 25 de fevereiro.

Na semana passada, surgiram ainda outros dois vídeos nessa mesma conta - cujo nome já indica que se trata aqui de vídeos falsos ou "deepfakes" -, com mais de 382 mil seguidores e 11,3 milhões de visualizações.
Vídeos quase "reais"

Apesar de os três vídeos publicados parecerem convincentes é, no entanto, possível reparar que a pessoa que incorpora o rosto do ator é mais alta e a iluminação, por vezes, deixa dúvidas sobre a veracidade da cena.

Embora os vídeos estejam tão reais que confundem os utilizadores do TikTok, há outras pequenas falhas que, com atenção, podem comprovar que são falsos.

Para começar, a voz do suposto Tom Cruise é parecida mas não é exatamente igual à do ator. Além disso, num dos vídeos em que aparentemente se usou mesmo a voz de Tom Cruise, a sincronização labial não acompanha a voz em determinados momentos.

Depois, no vídeo em que o homem que se faz passar pela estrela de Hollywood a jogar golfe, quando faz o movimento de colocar os óculos de sol, há falhas na imagem, ainda que pouco percetíveis à primeira vista: a boca da pessoa do vídeo altera-se e os óculos desaparecem por instantes.



A conta indica claramente que é falsa ao usar "deep" no nome, mas fica a dúvida se, numa próxima, não aparecerão vídeos falsos numa conta aparentemente fidedigna.

Embora o TikTok ainda não tenha reagido às notícias e ao facto de estes "deepfakes" terem confundido os seus utilizadores, os termos e condições da aplicação digital indicam explicitamente que são proibidas as falsificações de identidade.

"Você não pode: personificar [...] qualquer pessoa ou entidade, ou declarar falsamente ou de outra forma deturpar a sua identidade ou sua afiliação com qualquer pessoa ou entidade, incluindo dar a impressão de que qualquer conteúdo que enviar, publicar, transmitir, distribuir ou disponibilizar de outra forma emana dos Serviços", lê-se nas condições do TikTok.
Inteligência Artificial: um perigo iminente?

O falso Tom Cruise aparece a fazer magia, a jogar golfe e até a cair numa loja, o que divertiu milhões de seguidores e levou a que estas imagens fossem partilhadas e tornadas virais nas redes sociais. Mas o que parece ter sido uma brincadeira para ganhar mais seguidores no TikTok gerou um debate sobre os perigos da Inteligência Artificial e muitos especialistas começaram a alertar que a tecnologia "deepfake" está a desenvolver-se mais depressa do que a maioria das pessoas imagina.

Os vídeos, embora sejam divertidos por natureza, estão a levar muitos a questionar se a tecnologia "deepfake" pode ser prejudicial e se deve haver supervisão adicional.

Os "deepfakes", que se tornaram populares na Internet em 2017, já foram usados como parte de "fake news" políticas e para inserção de rostos em filmes pornográficos, por exemplo. Desde então, esta tecnologia tem evoluído rapidamente.

Esta tecnologia surgiu no Reddit em 2017 e resultou numa série de videos de notícias virais falsas promovidos por apoiantes do ex-presidente norte-americano Donald Trump, incluindo um em que Nancy Pelosi aparece a arrastar o seu discurso.

Para inserir rostos em corpos de outras pessoas, os "deepfakes" usam softwares de reconhecimento facial e dois conjuntos de inteligência artificial chamados de auto-codificadores variacionais (VAE, no inglês). Um VAE é usado em imagens do rosto que será inserido, e outro numa ampla variedade de rostos em diferentes condições de iluminação. Ao combinar os dois VAE, um programador é capaz de simular um rosto a mover-se em determinadas condições.

A manipulação de dados não é de agora e ainda depende de computadores, mas é cada vez mais usado, até na produção de videoclipes musicais, como explica um artigo do MIT. O problema é que também já são usados para manipular ou convencer as pessoas de que o que vêem e ouvem é real.

"Os deepfakes podem ser usados para manipular e ameaçar indivíduos e empresas. Porém, com um melhor entendimento da tecnologia, os executivos podem tomar medidas para se protegerem a si próprios e às suas empresas", denunciam os autores.

De facto, segundo os especialistas, é alarmante que um falso Tom Cruise consiga enganar milhões de pessoas e ganhar popularidade em algumas horas com imagens falsas.

Rachel Tobac, diretora-executiva da empresa de segurança cibernética SocialProof Security, escreveu no Twitter que previu há dois anos que esta tecnologia iria tornar-se impossível de detetar para pessoas comuns.

"Gostaria que minha previsão estivesse errada", escreveu.



Segundo Tobac, os "deepfakes" podem destruir a confiança do público em determinadas pessoas ou plataformas e ser usados ​​para manipular ou prejudicar as pessoas. A responsável pela empresa de segurança informática destacou ainda a necessidade de haver um software de deteção para sinalizar este tipo de vídeos.

"Se está a desenvolver tecnologia de deteção de media artificial/manipulado, trate de o produzir", acrescentou.

Também a fotógrafa Lauren White parece estar preocupada com os avanços desta tecnologia e a forma como é usada.

"Falsificações profundas estão a ficar assustadoras e a dominar o TikTok. Cada figura pública deve estar presente com uma conta verificada - mesmo que não queira criar conteúdo - para facilitar a identificação das suas falsificações", escreveu no Twitter.
Tópicos
pub
PUB