Deepfake: manipulação de imagens é usada em processos eleitorais e fraudes; entenda

O cenário imaginário é este: eleições gerais no Brasil em 2022. Circula na internet um vídeo viralizado com um candidato em situação vexatória. Ele nega que a imagem seja verdadeira, mas até provar que se trata de uma montagem, a informação falsa já se espalhou pela rede. Se o político conseguir demonstrar que houve manipulação no vídeo, ficaria provado que ele foi vítima de uma deepfake. Mas que técnica é essa? É o uso de inteligência artificial para criar vídeos mentirosos, mas muito realistas a ponto de enganar 3 a cada 5 pessoas. 

Os primeiros vídeos  que usaram deepfake surgiram em dezembro de 2017 e foram usados para pornografia. Logo depois disso, o mineiro Bruno Sartori passou a estudar a técnica e publicou o primeiro vídeo em janeiro de 2018 envolvendo a ex-presidenta Dilma Rousseff (PT). 

De lá para cá já foram mais de 200 criações envolvendo políticos. Sartori admite que apesar de as postagens que faz alertarem para a manipulação, parte do público ainda fica em dúvida. Ele explica que as ferramentas evoluíram muito desde 2018 e por isso a maioria tem dificuldades. 

“Até quem já ouviu o termo deepfake e conhece tem dificuldades de dizer se aquilo é um conteúdo verdadeiro ou falso, se é manipulado”, relata.

No mesmo ano, o portal Buzzfeed publicou um vídeo em que o ex-presidente Obama insultava Donald Trump. O objetivo, segundo o portal, era deixar o usuário mais vigilante sobre o que confiar na internet.

Veja um exemplo

Para a pesquisadora e cientista em computação, Nina da Hora, o termo deepfake não se refere somente a uma técnica moderna, mas ao uso dela com uma intenção maliciosa.

” É só uma manipulação, não é só pegar sua imagem de vídeo e manipular ela. Ela tem um fim que inclui a desmoralização de uma democracia, o foco de desestruturar um projeto ou uma iniciativa, diz a cientista. 

O argumento é compartilhado pela  pesquisadora da Unicamp e membro do Grupo de Estudos de Desinformação em Redes Sociais (EDReS), Nicole De March. 

“A desinformação não é tão caótica como a gente imagina. São mensagens fraudulentas que são deliberadamente fraudulentas. Elas querem atingir um alvo e causar um dano.”

Essa técnica já está em uso nas eleições brasileiras de 2022?

Não exatamente, é o que explicam os especialistas consultados pela reportagem. O que já se vê é o uso de uma outra técnica chamada “cheap fakes” ou falsificações baratas. 

“É quando você pega um vídeo ou áudio e põe fora de contexto, são manipulações baratas realmente. Um exemplo mais antigo é o vídeo do Lula em que deixavam bem devagar para parecer que ele estava bêbado”, explica De March. 

No meio de agosto deste ano, o recurso foi aplicado em postagens com desinformação que reproduziam um trecho de uma reportagem de televisão sobre pesquisa eleitoral. O áudio foi editado invertendo a ordem dos candidatos com mais intenção de voto. Infelizmente, deve ser só o primeiro de muitos desses conteúdos que farão parte do processo eleitoral, afirmam os especialistas. 

Nina da Hora explica que em 2018 foram produzidos muitos materiais de deepfake que o público compartilhava como memes, como se o único objetivo fosse fazer rir, mas para ela, em 2022 existe um perigo real de enganação e confusão de informações e imagens durante o pleito. 

“Há o perigo das deepfakes direcionarem para um lado negativo o debate político que tem que existir independente de lado”, ressalta a pesquisadora da Unicamp.

E como saber se um vídeo foi manipulado?

Não exatamente, é o que explicam os especialistas consultados pela reportagem. O que já se vê é o uso de uma outra técnica chamada “cheap fakes” ou falsificações baratas. 

“É quando você pega um vídeo ou áudio e põe fora de contexto, são manipulações baratas realmente. Um exemplo mais antigo é o vídeo do Lula em que deixavam bem devagar para parecer que ele estava bêbado”, explica De March. 

No meio de agosto deste ano, o recurso foi aplicado em postagens com desinformação que reproduziam um trecho de uma reportagem de televisão sobre pesquisa eleitoral. O áudio foi editado invertendo a ordem dos candidatos com mais intenção de voto. Infelizmente, deve ser só o primeiro de muitos desses conteúdos que farão parte do processo eleitoral, afirmam os especialistas. 

Nina da Hora explica que em 2018 foram produzidos muitos materiais de deepfake que o público compartilhava como memes, como se o único objetivo fosse fazer rir, mas para ela, em 2022 existe um perigo real de enganação e confusão de informações e imagens durante o pleito. 

“Há o perigo das deepfakes direcionarem para um lado negativo o debate político que tem que existir independente de lado”, ressalta a pesquisadora da Unicamp.

E como saber se um vídeo foi manipulado?

A cientista em computação, Nina da Hora, deu algumas dicas:

1. Preste atenção no rosto. As manipulações de deepfake de ponta são quase sempre transformações faciais;
2. Preste atenção nas bochechas e na testa: a pele parece muito lisa ou muito enrugada? O envelhecimento da pele é semelhante ao envelhecimento do cabelo e dos olhos? As deepfakes geralmente são incongruentes em algumas dimensões;
3. Preste atenção principalmente aos olhos e sobrancelhas. As sombras aparecem em lugares que você esperaria? deepfakes muitas vezes não conseguem representar totalmente a física. Observe o número de vezes que uma deepfake pisca, como é uma simulação o tempo entre uma piscada e outra é muito maior (tem delay).

>>> PARA MAIS NOTÍCIAS, SIGA O SCC10 NO TWITTER, INSTAGRAM E FACEBOOK