Uso de inteligência artificial para criar ‘rostos falsos’ é novo risco na internet

Geradas com base em bancos de imagens, ‘fake faces’ podem ser usadas para amplificar desinform

Quem está na internet já deveria saber: nem tudo que está na rede é real – e é bom ter sempre um pé atrás com o que surge na tela. Mas uma nova onda tecnológica promete nublar ainda mais a noção de verdadeiro e falso no mundo digital: algoritmos de inteligência artificial (IA) estão sendo usados para criar fotos e vídeos bastante realistas de rostos humanos. Há um detalhe: são rostos de pessoas que não existem. Assim, depois das fake news (notícias falsas), a internet caminha para a era das fake faces (rostos falsos).

A princípio a tecnologia foi criada para gerar bancos de imagens para variados fins como publicidade, games, cinema, arte e humor. É um serviço oferecido por diversos sites e startups. O que preocupa, porém, é sua utilização política – algo que, inclusive, já está em prática.

Em dezembro de 2019, o Facebook removeu cerca de 900 páginas, grupos e contas falsas que postavam conteúdo ligado ao EpochMediaGroup, grupo que defende causas conservadoras nos EUA. Muitas mensagens, com conteúdo duvidoso, demonstravam apoio ao presidente Donald Trump durante o processo de impeachment. Após a remoção, a rede social enviou o material para análise de pesquisadores independentes e descobriu que uma parte dos perfis usava fotos de rostos gerados por IA.

“O perigo dessa tecnologia é que as pessoas tendem a processar mais facilmente informações que surgem de um perfil que tem um rosto ligado a ele”, afirma Esteban Ponce de Leon, um dos pesquisadores envolvidos na análise. “É uma tecnologia que pode ser muito popular para replicar e amplificar a desinformação.” Em outras palavras, é como se os rostos artificiais ajudassem a legitimar perfis falsos, virando mais uma peça na intrincada construção de redes virtuais de apoio político.

Passo a passo

Os primeiros algoritmos de IA capazes de criar rostos surgiram em 2014 como resultado do trabalho da equipe liderada pelo pesquisador Ian Goodfellow, do Google. Na época o time estudava a replicação de imagens, sem se dedicar especificamente a retratos de pessoas. Chamados de Generative Adversarial Network (GAN, na sigla em inglês), esses sistemas são compostos por duas redes de algoritmos que disputam para conseguir enganar ou desmascarar o outro lado.

Outro grupo de imagens criado pelo ThisPersonDoesNotExist.com (essa pessoa não existe, em tradução literal)

Antes de tudo, as duas redes são alimentadas com milhares de fotos, de algo que se planeja reproduzir – como paisagens ou flores, por exemplo. Daí, começa o desafio: a rede A busca copiar o que vê no banco de imagens, enquanto a rede B compara as criações com o pacote de informações. As imagens que forem consideradas falsas são devolvidas para a rede A, que busca aprimorar seu processo até criar simulações que passem por verdadeiras. É um trabalho semelhante ao de falsificadores de dinheiro e da polícia: o combate força o aprimoramento dos criminosos.

“Usar as GANs é relativamente fácil. Os códigos estão na internet e é possível instalar pacotes nas máquinas. O maior desafio é coletar imagens e processá-las”, diz Fabio Cozman, professor da Escola Politécnica da Universidade de São Paulo. Dependendo do que se planeja criar e da capacidade do computador dedicado à tarefa, o processo pode demorar semanas.

É o que ocorre em outra utilização conhecida das GANs: a criação de deepfakes, vídeos nos quais o rosto de uma pessoa é substituído pelo de outra.