Mentira tem perna curta. Começou a era do Deep Fake.

Você já ouviu dizer que mentira tem perna curta. A questão agora é: num mundo cada vez mais conectado, frenético e ansioso, essa ideia ainda faz sentido? Estamos preocupados ou minimamente dedicados a isso, tanto quanto deveríamos?

Se a gente pensar por outro lado, e tem frase para tudo na vida, encontraremos a ideia já muito conhecida no mundo da comunicação de que uma mentira contada muitas vezes se torna uma verdade. Bem, isso aqui parece mais adequado à nossa realidade. 

Porque no fim das contas, independente do tamanho da perna, uma mentira bem contada no ambiente digital, pode fazer um estrago enorme: acabar com a reputação de um colega de trabalho, destruir a imagem de uma organização, mobilizar a justiça feita com as próprias mãos ou até mesmo eleger presidentes. 

Aquela velha mentira nossa de cada dia, o boato, o engano, a calúnia, fofoquinha malandra, inocente ou ardilosa, ganha dimensões nunca vistas quando circula sem controle e sem limites na redes sociais, incluindo aí aplicativos de mensagens, espaços tão pródigos para a disseminação deste tipo de conteúdo. Pior, como em uma espécie de raio gourmetizador, ganha ares de vanguada, de hype: não é mentira, é fake. 

É artificial, mas está ficando natural

O fake a essa altura parece naturalizado, banalizado, não incomoda tanto, é pouco, normal e ninguém parece ligar. A gente até compartilha uns, desde que vá de encontro à nossa visão de mundo, crenças e interesses políticos. Afinal de contas, se é contra nossos inimigos, vale tudo, não é? Pior que não… 

É exatamente aí que a gente, enquanto sociedade conectada, não se deu conta de que havia um monstro à espreita, crescendo, se alimentando do nosso deslumbramento tecnológico, das nossas falhas como indivíduos, das fragilidades da nossa democracia e da obsolescência da nossa justiça, não no Brasil, mas no mundo. 

Aqui mesmo, enquanto escrevemos este texto, os parlamentares e sociedade civil lutam para dar os primeiros passos e aprovar um conjunto de leis (sempre elas e nada mais) com o intuito de coibir e punir a disseminação de fakes, como se com apenas duas canetadas o assunto estivesse resolvido. 

Enquanto a gente nem conseguiu entender direito o fenômeno das fakes na internet, o monstro mudou de patamar e agora apresenta uma nova faceta, com tamanho potencial disruptivo que, a essa altura, não podemos sequer estimar as consequências. Estamos falando de DeepFake. E esse bilete é verdade.

Deep F*** Fake

Se a gente estivesse vivendo no século passado, poderia até dizer que DeepFake era apenas mais uma invenção distópica retratada num livro de Orwell, Huxley ou Burgess. No entanto, esta é uma realidade próxima, tão próxima, que são grandes as chances de você já ter sido impactado ou compartilhado conteúdos deste tipo em grupos de WhatsApp ou nas Redes Sociais. 

Numa simplificação rápida, DeepFake remete a conteúdos de áudio e vídeo produzidos por meio de simulações e manipulação de imagens, com base em avançados algoritmos computacionais, inteligência artificial e uso intensivo de máquina, com resultados de tal forma convincentes, que colocam em dúvida a legitimidade do conteúdo e complicam a distinção do que de fato é real. 

Em outras palavras, através desses recursos de inteligência artificial, o DeepFake possibilita a criação de vídeos com manipulação de imagens e sons humanos com extremo realismo, com resultados que tornam quase impossível distinguir a verdade de uma mentira absurdamente bem contada.  

Pode parecer curioso, engraçado, divertido e uma enorme oportunidade para criação de conteúdos, geração de novos memes, charges e paródias. Mas, por outro lado, cabe um alerta logo de cara: manipular imagens com resultados tão convincentes cria uma situação de incerteza extremamente perigosa. 

A essa altura, estamos diante não só de um novo patamar na disseminação de mentiras, mas a potencial precarização completa da verdade. Aquilo que ouvimos alguém dizer foi uma imagem de alguém efetivamente dizendo aquilo? 

Se você ainda não viu na prática até onde chegamos com isso, veja alguns exemplos a seguir e tire suas próprias conclusões. Ao menos pense um pouco sobre como isso abre um leque de possibilidades que não tem limites na maldade e na graça humana. Tem para todos os gostos!

O Portal Uai, de minas fez um vídeo super ilustrativo sobre o tema.

Veja outros exemplos, em inglês. 

Será difícil reconhecer um conteúdo falso, porque por meio dessa técnica, qualquer um pode ser objeto de manipulação e circular por aí com rostos, vozes e corpos em situações simuladas com as quais jamais sonhou se encontrar. Se a mente humana conceber, o computador já é capaz de realizar. 

Não é difícil imaginar uma gama de situações com alto potencial de gerar constrangimento e até mesmo acabar com a reputação de marcas, celebridades, políticos, influenciadores e pessoas comuns, como eu e você. Até porque, convenhamos, o que não falta é imagem nossa circulando por aí. Lembra daquela foto com as amigas na festinha da firma?

O potencial do Deep Fake ainda é desconhecido. 

Se conteúdos simples com imagens estáticas já circulam intensamente nas redes levando as pessoas a tomarem como verdade praticamente qualquer coisa que lhes cai na a tela do smartphone, imagina o poder de vídeos manipulados com alto poder de convencimento, e, que o rosto de um, ocupa o corpo do outro e dá vida à voz de um terceiro?

Multiplique a velocidade de propagação de conteúdos virais, preguiça de dar aquele google para confirmar a veracidade de uma informação e a quedinha que muita gente tem pela fofoca: prato cheio para o implacável tribunal das redes julgar, condenar, sentenciar e jogar nome e a imagem de pessoas no limbo. 

Acho que está protegido desse risco? A resposta é não. A tecnologia avança com rapidez e o volume de selfies, stories, vídeos e fotos compartilhadas em perfis pessoais servem como insumos para que você também possa vir a ser também uma vítima dessa realidade que acomete políticos, celebridades e influenciadores. 

Dentro de casa já está ficando mais fácil.

Impossível falar desse tema sem mencionar o canal de Brunno Sartori, que vem ganhando muita visibilidade com paródias extremamente ácidas tendo como principal objeto o presidente Jair Bolsonaro. 

Obviamente, aqui a ideia central não é convencer as pessoas de que, efetivamente, se trata do presidente diante da sua tela, embora o exemplo deixe bem claro que à brincadeira está ficando cada vez mais acessível. E tem mais, vai que cola?

Apenas assista!

Para explorar mais…

Esse tema é relativamente novo, completo e muito relevante. Neste texto conseguimos apenas começar, porque há muito descobrir e muito por vir. 

Para saber um pouco mais sobre o tema, recomendamos alguns artigos bem completos, de publicações nacionais e estrangeiras, essas em inglês, que podem ampliar muito sua visão sobre o assunto. Um pouco de partida excelente é o episódio do Follow This, disponível na Netflix, com o título “O Futuro das Fakes”, que aliás, foi meu ponto de partida para chegar até esse texto. 

TabUOL
Wired
MetroUK
HelloFutureOrange
MITTechReview
Medium
Phys

Apenas começando.

Particularmente, não há a menor dúvida de que ainda há muito a ser debatido sobre o tema e ainda temos muito que trabalhar para entender suas consequências, potencialidades e os desafios que essa realidade nos impõe, seja como profissional de comunicação, como estrategistas, ator político, pesquisador ou cidadão. 

Como isso tudo vem sendo utilizado no universo da política, até que ponto teremos uma disseminação desses conteúdos nas próximas eleições, como isso pode impactar nossa percepção sobre a verdade e até onde chegamos com isso no Brasil, sabendo que no mundo todo, o acesso a ferramentas, métodos e estruturas computacionais indicam que esse jogo já começou, desafiando questões de ética, legislação, informação e cidadania. 

À verdade é que ainda não vimos nada. A mentira pode até ter perna curta, mas esse assunto ainda vai dar muito pano pra manga. 

Por Mariana Lélis e Thiago Ribeiro