Dorota Mani e sua filha de 14 anos têm conversado com legisladores de Nova Jersey, nos EUA, para pedir a aprovação de uma lei que proíbe pornografia deepfake. Só neste ano, mais de 143 mil vídeos deepfake foram compartilhados na internet, segundo levantamento de pesquisadora. Dorota Mani, mãe de uma das vítimas de falsos nudes em Nova Jersey, nos EUA
AP Photo/Peter K. Afriyie
Uma mãe e sua filha de 14 anos estão defendendo proteções rígidas para as vítimas de inteligência artificial (IA) depois que imagens nuas da adolescente e de outras colegas de classe geradas pela tecnologia foram divulgadas em uma escola de ensino médio em Westfield, Nova Jersey.
“Estamos lutando por nossos filhos”, disse Dorota Mani, cuja filha foi uma das vítimas deste caso. “Eles não são republicanos e não são democratas. Eles não se importam. Eles só querem ser amados e querem estar seguros.”
Mani disse que sua filha criou um site e uma instituição de caridade para ajudar as vítimas de IA. Elas também têm conversado com legisladores estaduais que pressionam pela aprovação da lei em Nova Jersey e planejam uma viagem a Washington para defender mais proteções.
Enquanto isso, em Washington, autoridades investigam um adolescente que supostamente usou IA para criar e compartilhar imagens semelhantes de outros estudantes – também adolescentes – que frequentam uma escola de ensino médio no subúrbio de Seattle.
Os casos colocaram mais uma vez um holofote nos riscos que materiais explícito gerados por IA representam especialmente para mulheres e crianças.
Mais de 143 mil novos vídeos deepfake foram postados on-line este ano, de acordo com uma análise da pesquisadora independente Genevieve Oh compartilhada com a Associated Press.
Desesperadas por soluções, as famílias afetadas pressionam os legisladores a implementar proteções robustas para as vítimas cujas imagens são manipuladas usando novos modelos de IA ou a infinidade de aplicativos e sites que anunciam abertamente seus serviços.
Defensores e alguns especialistas jurídicos também estão pedindo uma regulamentação federal que possa fornecer proteções uniformes em todo o país e enviar uma mensagem forte aos atuais e possíveis perpetradores.
REDES SOCIAIS: a mãe que denunciou o uso da foto de sua filha como meme
Teve um nude vazado? Prática é crime; saiba como denunciar
Problema antigo
O problema dos deepfakes não é novo, mas especialistas dizem que ele está piorando à medida que a tecnologia para produzi-los se torna mais disponível e fácil de usar.
Em junho, o FBI alertou que continuava a receber relatos de vítimas, tanto menores quanto adultos, cujas fotos ou vídeos foram usados para criar conteúdo explícito que foi compartilhado on-line.
Vários estados americanos aprovaram suas próprias leis ao longo dos anos para tentar combater o problema, mas elas variam em escopo:
Texas, Minnesota e Nova York aprovaram este ano legislação criminalizando a pornografia deepfake não consensual, juntando-se a Virgínia, Geórgia e Havaí, que já tinham leis sobre o assunto;
Em alguns estados, como Califórnia e Illinois, as vítimas só podem processar os criminosos por danos em tribunais civis, o que Nova York e Minnesota também permitem.
Outros estados estão considerando sua própria legislação, incluindo Nova Jersey, onde um projeto de lei está atualmente em andamento para proibir a pornografia deepfake e impor penalidades – seja prisão, multa ou ambas – a quem a espalhar.
O projeto de lei de Nova Jersey está parado há alguns meses, mas a autora, senadora estadual Kristin Corrado, acredita que há uma boa chance de que ele seja aprovado, disse ela, especialmente com a atenção que o assunto chamou após o caso das adolescentes vítimas de nudes falsos.
‘Perdi R$ 1.728 com golpe da renda extra’: entenda o risco das pequenas tarefas pelo celular
O evento de Westfield ocorreu neste ano e foi levado ao conhecimento da escola em 20 de outubro, disse a porta-voz da Westfield High School, Mary Ann McGann, em um comunicado.
McGann não forneceu detalhes sobre como as imagens geradas pela IA foram espalhadas, mas Mani, mãe de uma das meninas, disse que foi informada pela escola que as fotos foram criadas usando os rostos de algumas alunas. O material teria circulado em um grupo de amigos no Snapchat.
A escola não confirmou nenhuma ação disciplinar, citando sigilo sobre assuntos envolvendo alunos. A polícia de Westfield e a Promotoria do Condado de Union, que foram notificadas, não responderam aos pedidos de comentários.
Westfield High School, escola de Nova Jersey, nos EUA, em que alunas adolescentes foram vítimas de falsos nudes criados com inteligência artificial
AP Photo/Peter K. Afriyie
Ainda não há detalhes sobre o incidente no estado de Washington, que aconteceu em outubro e está sendo investigado pela polícia.
Paula Schwan, chefe do Departamento de Polícia de Issaquah, disse que há vários mandados de busca e que as informações já obtidas podem estar “sujeitas a alterações” à medida que a investigação continua.
Procurado, o Distrito Escolar de Issaquah disse que não poderia discutir os detalhes por causa da investigação, mas disse que qualquer forma de bullying, assédio ou maus-tratos entre os alunos é “totalmente inaceitável”.
Pressão por mais proteção
Se as autoridades avançarem na responsabilização pelo caso de Nova Jersey, a atual lei estadual que proíbe a exploração sexual de menores já pode ser aplicada, disse Mary Anne Franks, professora de direito da Universidade George Washington.
Franks lidera a Cyber Civil Rights Initiative, organização que visa combater abusos online, e alerta que essas proteções não se estendem a adultos que podem se encontrar em um cenário semelhante.
A melhor solução, disse Franks, viria de uma lei federal que possa fornecer proteções consistentes em todo o país e penalizar organizações duvidosas que lucram com produtos e aplicativos que facilmente permitem que qualquer pessoa faça deepfakes.
Ela disse que isso também pode enviar um forte sinal para menores que podem criar imagens de outras crianças impulsivamente.
“Nem toda criança, menino ou menina, terá o sistema de apoio para lidar com essa questão”, disse Mani. “E eles podem não ver a luz no fim do túnel.”
Em outubro, o presidente dos EUA, Joe Biden, assinou uma ordem executiva (algo como um decreto) em que, entre outras coisas, pedia barrar o uso de IA generativa para produzir material de abuso sexual infantil ou “imagens íntimas de indivíduos reais” não consensuais.
A ordem também orienta o governo federal a emitir orientações para rotular e marcar conteúdo gerado por IA para ajudar a diferenciar entre material autêntico e feito por software.
LEIA TAMBÉM:
Quem posta memes com fotos de terceiros pode ser processado?
O que fazer se publicarem seus nudes? Veja como juntar provas e denunciar o crime
Os casos nudes feitos com inteligência artificial que preocupam autoridades
‘Deepfake ao vivo’: entenda a tecnologia que muda rosto e voz na chamada de vídeo
‘Deepfake ao vivo’: tecnologia que muda rosto e voz em videochamada já existe na vida real
Globo Tecnologia
