Facebook e o banimento do Deepfake

Diante das próximas eleições americanas, o Facebook anunciou sua decisão de banir conteúdos com deepfakes. Este tipo de conteúdo tem se tornado polêmico nos últimos tempos, por ter potencial para se tornar um dos maiores problemas de privacidade do século XXI. Confira, agora, uma explicação acerca dos deepfakes e da decisão do Facebook.

Deepfake

O deepfake é uma nova tecnologia que usa a inteligência artificial para criar vídeos falsos, embora realistas. Exemplos são vídeos em que se manipula a face de uma pessoa famosa, coloca-se uma voz e pronto: tem-se um vídeo de alguém fazendo uma declaração nunca feita! No YouTube, você encontra vários: vídeos de políticos falando contra suas próprias medidas, vídeos alterados de celebridades na televisão, etc.

Logo, percebe-se o quão perigoso pode ser o uso mal-intencionado dessa tecnologia. Nesse contexto, teme-se que esses vídeos falsos acabem por influenciar, por exemplo, eleições políticas, à medida que permite que se crie discursos falsos para candidatos, manipulando a opinião pública.

A origem do termo

O termo surgiu em 2017, quando um usuário da rede social Reddit, com nome de usuário “Deepfakes”, publicou vários vídeos pornográficos alterados na internet. O internauta havia pego vídeos reais, com atores verdadeiros, e alterado, colocando os rostos de celebridades neles.

Com o tempo, a comunidade do Reddit, e de outros websites também, passou a se engajar no aprimoramento desse tipo de tecnologia. Então, foi publicada a primeira notícia sobre o tema. Em dezembro de 2017, a revista Vice divulgou um artigo, no qual a autora dissertava sobre algo que poderia se tornar (e está se tornando) um dos maiores problemas da atualidade.

A tecnologia

Deepfakes são criados com o auxílio da inteligência artificial. Isso se dá por meio de dois sistemas. O primeiro, chamado de generator (gerador), cria a imagem ou vídeo falsos. Então, o segundo, o discriminator (discriminador) informa ao outro se o conteúdo é verdadeiro ou falso. Se ele decide que é falso, o generator tem de refazer o trabalho, usando “dicas” dadas pelo discriminator para gerar um resultado mais fidedigno. Dessa forma, esse mecanismo vai “aprendendo” a produzir deepfakes mais verdadeiros. A essa modalidade de inteligência artificial dá-se o nome de redes adversárias generativas, que já foram abordadas aqui, em um caso que também envolvia o Facebook.

O caso

Para livrar a rede social desse tipo de conteúdo, o Facebook contratou uma equipe de 50 especialistas. Estes, com o auxílio de um sistema de inteligência artificial, terão a função de analisar denúncias de deepfakes.

Segundo a rede social, se uma denúncia se confirmar verdadeira, a publicação terá seu alcance significativamente reduzido, tendo seu impulsionamento proibido. Além disso, o usuário que compartilhar tal tipo de conteúdo também receberá um aviso da empresa sobre o fato deste não ser verdadeiro. Ainda conforme o Facebook, essa medida é muito melhor que simplesmente excluir a postagem:

“Essa abordagem é crítica para nossa estratégia e uma que ouvimos especificamente de nossas conversas com especialistas. Se simplesmente removêssemos todos os vídeos manipulados sinalizados pelos verificadores de fatos como falsos, os vídeos ainda estariam disponíveis em outros lugares na Internet ou no ecossistema de mídia social. Ao deixá-los e rotulá-los como falsos, estamos fornecendo às pessoas informações e contexto importantes. ”, divulgou a rede social.

É importante ressaltar, porém, que o deepfake não é o único tipo de conteúdo deletado. A “luta” contra as publicações enganosas inclui quaisquer vídeos com conteúdos que “não são aparentes para uma pessoa comum e, provavelmente, levariam alguém a pensar que um sujeito do vídeo disse palavras que, na verdade, não disse”.

Outro ponto interessante é que não serão afetadas paródias e sátiras. Também não serão excluídos vídeos editados apenas para omitir algumas palavras ou mudar sua ordem.

Porém, alguns criticam a decisão do Facebook por esta não influenciar na redução dos cheapfakes (algo como “fakes baratos). Estes são aqueles vídeos ou imagens apenas divulgados fora de contexto, no máximo com algumas edições. Um exemplo dessa modalidade de fakes é o recente caso no qual um vídeo contendo uma fala da porta-voz da Casa Branca, Nancy Pelosi, teve sua velocidade reduzida, o que fez com ela parecesse bêbada. A edição, nesse caso, foi bem simples, não precisando de inteligência artificial alguma. Contudo, o vídeo, ainda assim, só foi desmentido após ter se tornado um “viral”.

De certa forma, polêmico. A atitude do Facebook é mais uma mostra do engajamento de muitos nessa “onda” de luta contra a desinformação. Os deepfakes podem, de fato, serem perigosos, e, nesse aspecto, é muito bom que a maior rede social da atualidade esteja buscando fazer algo a respeito.