Adolescentes espanhóis receberam nudes IA deepfake de si próprios: será isso um crime?

PUBLICIDADE

Quando regressaram à escola depois das férias de verão, mais de vinte raparigas de Almendralejo, uma cidade no sul de Espanha, receberam fotografias suas nuas nos seus telemóveis.

Nenhuma delas tinha tirado as fotografias, mas pareciam completamente reais.

As imagens tinham sido roubadas das suas contas de Instagram, alteradas através de uma aplicação de inteligência artificial e depois partilhadas em grupos de Whatsapp.

As adolescentes estavam completamente vestidas nas fotografias reais, mas a aplicação fez com que a nudez parecesse completamente real.

Agora, os pais e os procuradores perguntam-se se foi cometido um crime, mesmo que as fotografias sejam reais - poderão as imagens ser consideradas pornografia infantil?

"As montagens são bem realistas, é muito perturbador e um verdadeiro ultraje", escreveu Miriam Al Adib, mãe de uma das raparigas, na sua conta do Instagram.

"A minha filha disse-me com grande desgosto: 'Mãe, olha o que me fizeram'", acrescentou.

Al Adib afirmou ainda que as fotos poderiam ter chegado a portais da Internet como o Onlyfans ou a sites pornográficos. Durante todo este tempo, as raparigas aram os comentários dos seus colegas de turma.

"Não se queixem, as raparigas carregam fotografias que quase mostram o seu p**i", disse uma das raparigas.

A mais nova das raparigas tem apenas 11 anos e ainda não frequenta o ensino secundário.

Outra mãe, Fátima Gómez, disse à Extremadura TV que a sua filha tinha sido chantageada.

Numa conversa com um rapaz nas redes sociais, este pediu-lhe dinheiro e, quando ela recusou, enviou-lhe uma fotografia nua.

As mães organizaram-se para se queixarem do sucedido e a Polícia Nacional abriu uma investigação e já identificou vários menores alegadamente envolvidos.

Alguns deles são colegas de turma das raparigas, revelou um político local.

O caso foi remetido para o Ministério Público de Menores e o próprio presidente da câmara da cidade alertou: “pode ter começado como uma brincadeira, mas as implicações são muito maiores e podem ter consequências graves para quem fez estas fotografias."

10 euros por 25 fotografias de “nudes"

As criações realistas de inteligência artificial, mais conhecidas como deepfakes, foram feitas com a aplicação ClothOff.

Com o slogan "Despir qualquer pessoa, despir raparigas de graça", a aplicação permite aos utilizadores tirar a roupa a qualquer pessoa que apareça na galeria de imagens do seu telemóvel. Custa 10 euros para criar 25 imagens de nudez.

Embora a nudez não seja real, as mães afirmam que a angústia das raparigas ao verem a sua fotografia é de facto muito real.

"Não estão conscientes dos danos que causaram a estas raparigas e também não estão conscientes do crime que cometeram", afirmou Al Adib na sua conta do Instagram, numa mensagem dirigida às pessoas que partilharam as fotografias.

"A minha filha foi informada por um deles que ele tinha feito 'coisas' com a foto dela", disse outra das mães ao jornal espanhol El País.

Mas será que os deepfakes podem ser punidos legalmente?

"Uma questão é se deve ser punido e outra é se pode ser punido pela forma como a lei está redigida em Espanha e em outros países da União Europeia", disse Manuel Cancio, professor de Direito Penal na Universidade Autónoma de Madrid, à Euronews.

O professor salienta que existe uma lacuna legal porque a utilização do rosto de menores em fotografias afeta a sua privacidade, mas quando se trata de crimes em que são distribuídas imagens íntimas, é a imagem como um todo que viola a privacidade.

"Uma vez que é gerada por deepfake, a privacidade real da pessoa em questão não é afetada. O efeito que tem (na vítima) pode ser muito semelhante ao de uma foto real de nudez, mas a lei está um o atrás", acrescenta.

Cancio afirma que o quadro jurídico que poderia funcionar neste caso seria um crime contra a integridade moral, "uma espécie de caixa de desastre para crimes que ninguém sabe onde colocar."

Em março de 2022, a Comissão Europeia propôs criminalizar este tipo de delito numa diretiva sobre cibercrime. De acordo com o professor, o Código Penal neerlandês é o único que tem uma disposição que aborda esta questão.

Pode ser considerado pornografia infantil?

Os especialistas dividem-se quanto ao facto de o crime poder ser considerado distribuição de pornografia infantil, o que implicaria uma pena mais elevada, e preferem optar pela prudência.

Para Leandro Núñez, advogado especializado em novas tecnologias do escritório Audens, a chave não é se a foto é 100% real, mas se parece ser.

"O mais importante é saber se o rosto é identificável. Podemos estar a falar de pornografia infantil, de crimes contra a integridade moral ou de distribuição de imagens de conteúdo sexual não consentido", disse o advogado à Euronews.

"No caso de um crime contra a integridade moral, este seria considerado um crime menor, pelo que teria uma pena menor, de seis meses a dois anos de prisão", acrescenta.

Outros especialistas, como Eloi Font, advogado do Font Advocats, um escritório especializado em direito digital, acreditam que poderia ser classificado como um crime semelhante à reprodução de imagens sexuais de menores.

Neste caso, a pena poderia ser de cinco a nove anos de prisão.