Se as Fake News se tornaram um grande problema no Brasil, principalmente nas eleições, o Deep Fake fará um estrago ainda pior.
Através de Inteligência Artificial, Machine Learning e com ferramentas de código aberto pode se criar um algoritmo para treinar uma Rede Neural a mapear o rosto de uma pessoa e então substituir os movimentos labiais, expressões do rosto e piscar dos olhos, e até o rosto por completo, no corpo de outra pessoa. Em muitos casos, a qualidade fica impressionante.
Veja o exemplo abaixo, ao lado esquerdo o rosto do Presidente Puttin sendo manipulada pelos movimentos feitos por outra pessoa. (A qualidade está baixa devido ao peso do GIF não prejudicar o carregamento da página.)
A base desta aplicação usa o TensorFlow, do Google. Uma biblioteca de código aberto para aprendizado de máquina aplicável a uma ampla variedade de tarefas. É um sistema para criação e treinamento de redes neurais para detectar e decifrar padrões e correlações, análogo à forma como humanos aprendem e raciocinam.
Recentemente, tivemos o caso de um possível Deep Fake usando o até então candidato ao Governo de São Paulo, João Dória. As investigações sobre o caso ainda não terminaram, mas há suspeitas que o vídeo seja um excelente exemplo de Deep Fake, talvez ele seja o primeiro político no Brasil vítima desta nova tecnologia.
Políticos como Obama, Trump e Puttin já foram vítimas. Celebridades como Ariana Grande, Cameron Diaz, Emma Watson, Angelina Jolie e Miley Cirus são vítimas constantes em sites de pornografia, vídeos utilizando seus rostos são facilmente encontrados.
Outro caso em que esta tecnologia está sendo usada é a “pornografia de vingança” onde o rosto de pessoas comuns são aplicados em vídeos de pornografia, para que algum tipo de extorsão seja realizada.
O Twitter baniu qualquer tipo de conteúdo que promova o assunto, como também vídeos que utilizem desta tecnologia. O site pornô, Pornhub, também fez o mesmo, banindo qualquer tipo de vídeo que utilize esta tecnologia. No Brasil, ainda não temos nenhuma iniciativa que impeça a proliferação de conteúdo Deep Fake.
A mecânica de funcionamento é bem simples, funcionando da seguinte forma: o software trabalha analisando primeiro os movimentos faciais de um alvo, cuja aparência será usada no vídeo falso. Após mapear a cabeça, o movimento e o piscar dos olhos, os detalhes da boca e demais movimentos o software analisa essas mesmas marcações no vídeo original e então mescla os movimentos. Isso cria um clipe falso surpreendentemente realista.
Para potencializar isso, duas aplicações podem rodar simultaneamente, uma sendo lançada contra o outra, sendo uma para criar e outra para analisar, em uma série de milhões de ajustes de ida e volta. Isso torna o processo de aprendizado mais rápido e mais preciso do que se um ser humano analisasse cada uma das tentativas.
A Faculdade de Washington promoveu um estudo e publicou o vídeo em que o software após horas de análise conseguiu criar movimentos labiais perfeitos do ex-presidente americano Obama, no qual pegaram falas dele em outras situações e aplicaram a um outro vídeo dele. O estudo pode ser acessado pelo por este link http://bit.ly/2EGGlSq
A falsificação de imagens e vídeos não é nenhuma novidade, existem aplicativos para smartphones que facilmente mudam o rosto de pessoas. No entanto, o ponto em questão é o realismo. A manipulação de imagens e vídeos usando Inteligência Artificial pode se tornar um fenômeno de massa perigoso.
