Por Giovanna Crescitelli
Seres humanos quase sempre estão programados para acreditar que algo que parece e soa verdadeiro, é real. É um viés cognitivo conhecido como fluência de processamento. Portanto, não é surpresa que a manipulação da mídia tenha uma longa história como uma ferramenta poderosa para moldar a percepção humana coletiva. Na metade do século XX a manipulação de imagem era um trabalho que exigia dias de trabalho de um artesão muito habilidoso. Até hoje a tecnologia está no processo de se tornar mais fácil, barata e acessível.
Nos anos 1990, surgiu o programa de tratamento de imagem "Photoshop", que foi o primeiro software de edição de fotos amplamente difundido no mundo e que, desde então, passou por grandes transformações como os aplicativos para smartphones e os filtros de vídeo do Instagram, indicando algo completamente novo: a era das deep fakes.
Deep fake é um pedaço de mídia sintética o que significa falar que é uma imagem, vídeo ou áudio que foi ou manipulado por ou gerado inteiramente por um software de Inteligência Artificial (AI) é muito competente em criar mídia falsa de pessoas que existem e também em criar imagens de pessoas que não existem. As AIs podem ser treinadas para emular a biometria de humanos, o que inclui o rosto e a voz. Conforme a AI se desenvolve, menos dados são necessários para treiná-la para clonar alguém. É o que explica Nina Schick em seu livro Deep Fakes and the Infocalypse onde analisa como as tecnologias estão transformando a política e a sociedade.
Capa do livro Deep Fakes and the Infocalypse da autora Nina Schick. (Google, 2020)
Até 2014 criar um humano “sintético” era algo inovador descrito apenas em artigos do genial pesquisador de machine learning Ian Goodfellow que atualmente é diretor da área na Apple. Em cinco isso evoluiu exponencialmente e uma foto de um humano criada hoje pela AI, enganaria a maioria das pessoas. Como todas as tecnologias poderosas, a mídia sintética é um amplificador da intenção humana e oferece muitas oportunidades, mas com potencial para se tornar arma de desinformação.
À medida que o ambiente digital evolui, as restrições técnicas irão se dissipar e a fidelidade das deep fakes já é incomparável. A barreira de entrada para criar algo com altíssima fidelidade ainda existe. Entretanto a limitação tem tudo a ver com restrições técnicas, e não com questões éticas.
Portanto, em 2030, um criador individual, um YouTuber ou TickTalker será capaz de criar conteúdo falso tão bom ou até melhor do que um estúdio de Hollywood pode criar hoje com equipes de artistas de efeitos especiais e orçamentos multimilionários. É o que prevê a autora e especialista.
Em 2023 mais de 5,6 bilhões de pessoas estarão compartilhando fotos e vídeos online, e os produzirão em seus smartphones. Para Schick, os dados sugerem que até o final da década de 2030, o vídeo será a principal fonte de informação para quase todos. Hoje cerca de dois terços da humanidade já usa o vídeo como fonte primária de informação. Portanto, a mídia sintética vai começar a se tornar onipresente em nosso ecossistema de informações digitais.
A pesquisa "The State of Deepfakes 2020" revelou que o número de vídeos sintéticos na Internet dobra tem dobrado a cada seis meses desde dezembro de 2018. As estatísticas do estudo apenas consideram as deep fakes relacionadas a difamação de figuras públicas - estima-se que 96% de todo conteúdo sintético disponível seja pornográfico. É o que afirma Giorgio Patrini, CEO e cofundador da Sensity, empresa que realizou a pesquisa em entrevista ao CyberNews em maio de 2021.
A tecnologia apareceu pela primeira vez no final de 2017 no Reddit. Seu primeiro uso foi na produção de pornografia falsa e não consensual dirigida a mulheres famosas, como a atriz Emma Watson que na época era protagonista da série de filmes “Harry Potter” voltada para o público adolescente e infantil. É inegavelmente um fenômeno de gênero. Segundo Patrini mais de 100.000 mulheres foram alvos de agressores majoritariamente do sexo masculino.
Curiosamente, não se trata apenas de celebridades. Cada vez mais, isso está se tornando um fenômeno voltado para mulheres comuns. O especialista ressaltou que o relatório de 2020 indicou uma mudança no modus operandi. A forma de provocação era, anteriormente, reservada para personalidades famosas. Atualmente, indivíduos comuns são cada vez mais alvo dos ataques difamatórios. Em 2021 a pornografia se tornou um problema sério e desenvolveu seu próprio tipo de ecossistema online. A parte preocupante da pornografia deep fake é sua natureza não consensual. Tudo o que você precisa para criar pornografia falsa é mídia autêntica de alguém para ser usada como trainning data pela AI que, obviamente, é facilmente encontrado nos sites de relacionamento.