A cena se abria e via-se um quarto com um sofá vermelho, uma planta em um vaso e arte moderna suave. Na sala estava Michelle Obama, ou uma mulher exatamente semelhante a ela. Usando um top com decote profundo e um sutiã preto visível por baixo, retorcia-se voluptuosamente para a câmera, abrindo o seu sorriso inconfundível. Então, a sósia da ex-primeira dama começava a tirar a roupa.
O vídeo que apareceu no fórum online Reddit era o que conhecemos como um “deepfake” -um vídeo falso extremamente realista feito com software da inteligência artificial. Foi criado usando um programa chamado FakeApp, que sobrepôs o rosto de Michelle Obama ao corpo de uma atriz de filmes pornográficos. O híbrido era extraordinário - se você não fosse uma pessoa informada, pensaria que era realmente ela.
Até pouco tempo atrás, um vídeo realista gerado por computador era uma façanha trabalhosa, disponível somente a produções hollywoodianas de grande orçamento ou a pesquisadores de ponta. Os aplicativos de redes sociais como Snapchat incluem uma tecnologia rudimentar de transformação do rosto.
Mas nos últimos meses, uma comunidade de amadores começou a experimentar com ferramentas mais potentes, como o FakeApp - um programa criado por um anônimo desenvolvedor que usou um programa de código aberto escrito pelo Google. O FakeApp permite gratuitamente e de maneira relativamente fácil mudar o rosto, deixando poucos sinais de manipulação. Desde que uma versão do aplicativo apareceu no Reddit em janeiro, foi baixada mais de 120 mil vezes, segundo seu criador.
Os deepfakes são uma das formas mais novas de manipulação da mídia digital, e uma das obviamente mais fáceis de serem usadas para cometer maldades. Não é difícil imaginar que esta tecnologia está sendo usada para manchar a reputação de políticos, criar falsa pornografia por vingança ou armar para uma pessoa a fim de acusá-la de crimes. Os legisladores já começam a temer que estes deepfakes possam ser usados como arma de sabotagem política e propaganda.
Mesmo em sites de moral duvidosa como o Reddit, os deepfakes suscitaram ceticismo. Recentemente, a FakeApp provocou pânico depois que o site de tecnologia Motherboard noticiou que algumas pessoas o usavam para criar deepfakes pornográficos de celebridades. O Pornhub, o Twitter e outros sites rapidamente proibiram os vídeos, e o Reddit fechou um punhado de grupos de deepfakes, inclusive um deles com cerca de 100 mil membros.
Antes do fechamento destes grupos do Reddit, eles hospedaram uma mescla de usuários que trocavam dicas sobre edição de vídeos e mostravam suas mais recentes falsificações.
Alguns usuários do Reddit defenderam os deepfakes e acusaram a mídia de exagerar seu dano em potencial. Outros transferiram seus vídeos para plataformas alternativas, antecipando-se com razão ao fracasso do Reddit por causa de suas regras contra a pornografia não consensual. Uns poucos manifestaram escrúpulos a respeito de seu trabalho. Depois, produziram mais.
A comunidade de criadores de deepfakes hoje age nas sombras da internet. Mas quando agia abertamente, ela teve um vislumbre perturbador do futuro.
Como fazer deepfakes Decidi ver de perto como é fácil criar (sem problemas, nada pornográfico) um deepfake usando meu próprio rosto, e chamei dois técnicos para me ajudar. O primeiro era Mark McKeague, um colega do departamento de pesquisa de “The Times”. O outro era um criador de deepfakes que descobri por meio do Reddit, conhecido pelo apelido Derpfakes, e que não quis dar seu nome verdadeiro.
Primeiramente, tivemos de encontrar um computador de certa potência; quanto maior a potência de processamento, mais rápido ele trabalha. Alugamos um servidor remoto da plataforma Google Cloud com potência suficiente para reduzir o tempo a horas, e não dias ou semanas.
Depois, seguimos à coleta de dados. Clipes de vídeo breves são mais fáceis de manipular do que os clipes longos. E quanto mais os rostos se parecem, melhor.
Eu sou um homem branco de cabelo castanho com uma barba rente, e então começamos com Ryan Gosling (o negócio é mirar alto, tá?). Em seguida, tiramos várias centenas de fotos do meu rosto e reunimos imagens do rosto de Gosling usando um clipe de uma sua aparição recente na TV. O FakeApp utiliza estas imagens para treinar o modelo de deep learning e ensiná-lo a emular nossas expressões faciais.
A seguir, Mark usou um programa para isolar nossos rostos, e colocou as fotos no FakeApp. Usamos 417 fotos minhas e 1.113 de Gosling.
Mark apertou a tecla "start" no FakeApp, e sua tela de computador encheu-se de imagens do meu rosto e do rosto de Gosling, enquanto o programa tentava identificar padrões e semelhanças. Cerca de oito horas mais tarde, Mark usou o FakeApp para finalizar colocando meu rosto sobre o corpo de Gosling. O vídeo estava embaçado e bizarro.
Fizemos um trabalho melhor com um clipe de Chris Pratt, o astro desorganizado de “Jurassic World”, cujo formato do rosto é um pouco mais parecido com o meu. Mark usou um conjunto maior de dados - 1.861 fotos minhas, 1.023 dele - e deixou o modelo rodando durante a noite.
Depois, Derpfakes me enviou um deepfake acabado mais realista, que utilizara as imagens que eu enviara para ele e um vídeo do ator Jake Gyllenhaal.
Derpfake repetiu o processo com vídeos de Jimmy Kimmel e Liev Schreiber, e ambos funcionaram muito bem (nosso esforço levou três dias e custou US$ 85,96).
O que diz o criador Entrei em contato com o criador anônimo do FakeApp por meio de um endereço de e-mail de seu site. Um homem respondeu, dizendo que era um desenvolvedor de software de Maryland. Ele só se identificou com a inicial do seu nome, N. Disse que criara o FakeApp como um experimento criativo, e que não apoiava seu uso para criar pornografia sem consentimento ou outros conteúdos abusivos. Ele concordara com a proibição do Reddit, por outro lado, discordava dos críticos.
“Não acho certo condenar a tecnologia em si - que evidentemente pode ser utilizada para muitas finalidades, boas e más”, disse N.
N. afirmou que o FakeApp poderia ser usado para a produção de efeitos especiais muito rentáveis para projetos pessoais. Os algoritmos do “deep learning”, acrescentou, serão importantes como poderosos componentes de muitos produtos. “São justamente as coisas que os tornam tão poderosos e úteis que os tornam tão assustadores”, afirmou. “De fato, não há limites para as coisas às quais pode ser aplicado”.
'Não há escolha' Não há razão para acreditar que os vídeos de deepfake atuarão de maneira diferente do que as notícias sobre falsificações. As pessoas os compartilharão quando forem convenientes do ponto de vista ideológico e os ignorarão quando não forem.
“Não há escolha”, afirmou Hao Li, um professor de ciência da computação da Universidade do Sul da Califórnia. “Vejo isso como a próxima forma de comunicação”, acrescentou. “É preciso educar as pessoas para que isso seja possível”.
