Julia, de 21 anos, recebeu fotografias falsas de si própria, geradas por inteligência artificial. O fenómeno está a explodir.
PUBLICIDADE"Já tinha ouvido falar de deepfakes e deepnudes (...) mas não estava realmente consciente disso até me ter acontecido. Era um evento ligeiramente anedótico que acontecia na vida de outras pessoas, mas que não aconteceria na minha", pensou Julia, uma estudante de marketing belga de 21 anos e modelo semi-profissional.
No final de setembro de 2023, recebeu um e-mail de um autor anónimo. Assunto: "Realista? Gostaríamos de saber qual a fotografia que melhor se assemelha a si", lia-se.
Em anexo, cinco fotografias dela.
No conteúdo original, publicado nas suas redes sociais, Julia posa vestida. Em frente aos seus olhos estão as mesmas fotos. Só que, desta vez, Julia está completamente nua.
Julia nunca posou nua. Nunca tirou estas fotografias. A modelo belga apercebe-se de que foi vítima de um deepfake.
Recurso a IA
Os deepfakes são conteúdos falsos de fotografia, vídeo ou áudio criados ou modificados com recurso a inteligência artificial, muitas vezes hiper-realistas.
O indivíduo utilizou uma aplicação de inteligência artificial para lhe tirar a roupa.
Julia ameaçou apresentar queixa. A pessoa com quem estava a falar tentou dissuadi-la, alegando que queria "sensibilizá-la para os perigos da inteligência artificial". "Toda a gente o faz", banaliza.
No dia seguinte, a jovem apresentou queixa na esquadra da polícia "por dever".
"Quis mesmo fazê-lo para fins estatísticos e porque não queria deixar que se aproveitassem de mim", explica.
Foi avisada de que "o Ministério Público estava sobrecarregado" e que havia "muito poucas hipóteses" de a queixa ser bem sucedida, recorda a estudante.
Confiou na mãe e em amigos próximos, deu o testemunho nas suas redes sociais e recebeu muito apoio dos seguidores. "Algumas pessoas quiseram ajudar-me, outras enviaram apenas uma nota rápida", explica a estudante, que diz estar "muito bem apoiada".
Julia também recebe testemunhos de outras vítimas. No caso delas, "foi mais no contexto da pornografia de vingança", explica. É uma coisa muito mais comum do que as pessoas pensam", alerta a manequim, que se preocupa com esta banalização.
Depois de uma pausa de um mês na carreira de modelo - "já não me apetecia fotografar" - a manequim retomou os seus projectos.
Diretiva europeia
"É evidente que as plataformas não estão a fazer o suficiente", lamenta a estudante.
"A lei existe, foi criada, mas não está a ser aplicada", afirma.
No início de fevereiro, uma diretiva europeia sobre a violência contra as mulheres adoptou medidas mais rigorosas contra a ciberviolência.
"Está tudo muito bem, mas é demasiado tarde. Isto devia ter sido feito antes de estas aplicações serem autorizadas em território europeu", lamenta Julia. Estou chateada porque são coisas que podiam ter sido evitadas se tivessem sido feitas corretamente e em ordem".
A jovem, que foi recebida pela secretária de Estado belga para a Igualdade de Género, Marie-Colline Leroy, espera que as autoridades públicas forneçam "apoio e recursos eficazes" para identificar os autores de deepfakes e obrigar as plataformas a moderar os seus conteúdos.
De acordo com um estudo da Universidade de Antuérpia,7% dos belgas com idades compreendidas entre os 15 e os 25 anos já criaram deepnudes.
O estudo também incentiva outras vítimas de deepnude a falarem.
Um fenómeno em crescimento
A start-up Home Security Heroes refere que, em 2023, estarão online 95.820 vídeos gerados com recurso à inteligência artificial. Isto representa um aumento de 550% em comparação com 2019.
Os deepfakes pornográficos representam 98% dos deepfakes na web, de acordo com o seu relatório State of deepfakes, publicado em 2023. 99% das pessoas visadas são mulheres.
Não precisa de ser um especialista. A criação de um vídeo deepfake pornográfico gratuito demora menos de 25 minutos e requer apenas uma imagem nítida de qualquer indivíduo, de acordo com o mesmo estudo.
Por seu lado, a analista americana Genevieve Oh estima que haverá mais de 275.000 vídeos pornográficos deepfake na Internet até ao terceiro trimestre de 2023.