O que é deepfake e como ele é usado para distorcer realidade

Técnica usa inteligência artificial (IA) e outros conteúdos verdadeiros, como foto e vídeo, para criar adulterações realistas. Deepfake com imagem do jogador de futebol Lionel Messi
Reprodução/EPTV
A criação de vídeos adulterados e realistas ficou muito mais simples com o chamado deepfake. Com ele, é possível colocar pessoas em situações constrangedoras ou, no mínimo, inusitadas.
Uma reportagem da BBC revelou um grupo de criminosos no Brasil que usa inteligência artificial (IA) e deepfake para criar, sob encomenda, imagens pornô falsas envolvendo mulheres.
A investigação mostrou que as negociações para criação desses deepfakes acontecem no aplicativo de mensagens Telegram.
➡️ Mas o que o termo deepfake significa? Deepfake é uma técnica que permite alterar um vídeo ou foto com ajuda de inteligência artificial (IA). Com ele, por exemplo, o rosto da pessoa que está em cena pode ser trocado pelo de outra; ou aquilo que a pessoa fala pode ser modificado.
O material falso é criado a partir de conteúdos verdadeiros da pessoa que são modificados por meio de aplicativos ou programas de edição que já existem no mercado.
Um dos usos mais preocupantes dessas ferramentas é justamente a criação de vídeos pornográficos com o rosto de outras pessoas. Em 2020, um relatório da empresa Sensity indicou que nudes falsos de mais de 100 mil mulheres estavam sendo compartilhados na internet.
As imagens adulteradas também são usadas na política. Em 2019, a ex-presidente da Câmara dos Deputados dos Estados Unidos, Nancy Pelosi, foi vítima de um deepfake que se baseou em um vídeo autêntico para sugerir que a representante democrata tinha dificuldades na fala em um discurso.
O autor do deepfake desacelerou o vídeo original e editou a fala para dar a entender que ela estava tropeçando em suas palavras. O conteúdo com desinformação teve ampla circulação nas redes sociais e chegou a ser removido do YouTube.
Deepfake ao vivo
‘Deepfake ao vivo’: tecnologia que muda rosto e voz em videochamada já existe na vida real
Também é possível encontrar o deepfake ao vivo. Essa solução é nova — surgiu em 2022 — e é uma evolução do “deepfake” que conhecemos hoje, explica Fernando Oliveira, especialista no tema e em inteligência artificial da FaceFactory.
Em 2023, cenas da novela “Travessia” (TV Globo) mostravam um pedófilo que se passava por uma adolescente em videochamada para enganar outra menina. Na trama, o criminoso tinha rosto e voz modificados por um programa de computador.
Segundo especialistas, fazer um deepfake ao vivo com a qualidade que é mostrada na novela exige um computador potente com capacidade para processar as alterações em tempo real.
Fernando afirma que seria necessário desembolsar muito dinheiro em equipamentos para chegar a esse nível. Mas também é possível fazê-lo com menos gastos, usando apps mais baratos, só que de qualidade bem inferior.
“Para conseguir a qualidade que é exibida na novela, não dá para usar só software (programa ou aplicativo). É preciso programar, com algoritmos que trabalham com dados e códigos”, explica Fernando.
Esses algoritmos vão processando dados, que são a imagem e a voz de uma pessoa. Quanto mais dados, maior a eficiência de qualquer deepfake, explicam os especialistas.
g1 explica: o que é deepfake
G1 Explica: Deepfake
Saiba se está sendo vigiado: veja sinais um celular infectado com aplicativo espião
Saiba se está sendo vigiado: veja sinais um celular infectado com aplicativo espião