Nos últimos anos, a quantidade de vídeos pornográficos deepfakes não consensuais cresceu de forma alarmante na internet. Como consequência, muitas mulheres – incluindo streamers, gamers e criadoras de conteúdo – denunciam constantemente os sites que hospedam esses vídeos e exigem sua remoção dos mecanismos de busca.
O aumento das denúncias pressiona empresas de tecnologia
As reclamações sobre vídeos deepfake não consensuais aumentam a cada ano. Usuários já enviaram mais de 13.000 denúncias por violação de direitos autorais, abrangendo quase 30.000 URLs de alguns dos sites mais acessados.
A legislação de direitos autorais conhecida como DMCA (Digital Millennium Copyright Act) tem permitido a remoção de milhares de vídeos desse tipo. Apenas dois dos principais sites de deepfake receberam, respectivamente, mais de 6.000 e 4.000 denúncias. Dados de transparência sobre direitos autorais indicam que aproximadamente 82% dos links denunciados desaparecem dos mecanismos de busca.
O acesso a conteúdos deepfake ainda permanece fácil
Mesmo com a remoção de muitos vídeos, milhões de pessoas continuam encontrando e acessando esses sites ao pesquisar por deepfakes, muitas vezes adicionando o nome de celebridades ou influenciadores às buscas. Esse cenário preocupa especialistas, que defendem ações mais rígidas por parte das empresas de tecnologia.
Advogados especializados no combate a esse tipo de material argumentam que a solução ideal seria eliminar completamente esses sites dos resultados de busca.
“Se o único objetivo dessas plataformas é manipular a imagem de alguém, retirar sua autonomia ou divulgar pornografia de vingança, elas não deveriam existir”,
Dan Purcell, CEO da Ceartas
internet.
Apenas o maior site de deepfake já recebeu 12.600 pedidos de remoção, resultando na exclusão de 88% dos links. Ainda assim, especialistas questionam por que o site continua aparecendo nos mecanismos de busca. “Se mais de 12.000 links foram removidos, por que ele segue ativo?”, questiona Purcell.
O avanço da tecnologia deepfake e seus efeitos preocupantes
Desde que os vídeos deepfake não consensuais começaram a circular, por volta de 2017, o avanço da Inteligência Artificial (IA) facilitou ainda mais sua criação. Como resultado, diferentes tipos de deepfakes se popularizaram, incluindo:
- vídeos em que um rosto substitui o de outra pessoa em cenas pornográficas já existentes;
- aplicativos que removem digitalmente roupas ou trocam rostos em imagens explícitas;
- tecnologias de IA generativa capazes de criar imagens deepfake inéditas.
Infelizmente, na maioria dos casos, essas ferramentas servem como instrumentos de assédio, humilhação e degradação, especialmente contra mulheres. Além disso, autoridades de segurança digital já identificaram um aumento nas denúncias envolvendo deepfakes, incluindo manipulações de imagens de menores de idade e vídeos falsos criados por aplicativos. No entanto, muitas vítimas ainda hesitam em relatar esse tipo de abuso.
Criadores de conteúdo usam a DMCA para Proteger sua Imagem
Para tentar impedir a disseminação desses vídeos, streamers, modelos adultos e outros criadores de conteúdo recorrem à DMCA. Essa legislação permite que proprietários de conteúdos intelectuais solicitem a exclusão de material indevido tanto de sites quanto de mecanismos de busca.
Até hoje, grandes empresas de tecnologia já receberam mais de 8 bilhões de pedidos de remoção envolvendo conteúdos diversos, desde músicas a vídeos de jogos. No entanto, quando se trata de deepfakes, a legislação ainda enfrenta desafios adicionais.
“A DMCA tem sido essencial para que vítimas de abuso de imagem consigam remover conteúdos não autorizados da internet”
Carrie Goldberg, advogada de direitos das vítimas.
No entanto, a manipulação digital altera as imagens de tal forma que muitas vítimas enfrentam dificuldades para comprovar a autoria e os direitos autorais do material.
Sites de deepfake continuam ativos apesar das denúncias
Apesar da remoção de milhares de vídeos, muitos sites especializados em deepfakes seguem funcionando. Algumas dessas plataformas focam exclusivamente na criação e distribuição desse tipo de conteúdo, direcionando-se a celebridades e figuras públicas. Embora alguns sites disponibilizem formulários para denúncias, a eficácia do processo ainda gera dúvidas.
Atualmente, a maior parte das reclamações de direitos autorais relacionadas a deepfakes se concentra em dois dos maiores portais desse tipo. Estima-se que mais de 80% dos pedidos resultem na remoção do material denunciado. Além disso, muitos relatos demonstram o impacto emocional devastador que essas imagens causam.
“Esses vídeos foram criados para me humilhar e me intimidar”
– Uma vítima ao solicitar a remoção do conteúdo.
Outra pessoa relatou:
“Levo isso muito a sério e farei tudo o que for necessário para apagar esse vídeo.”
– Vítima
O Impacto devastador dos deepfakes na vida das vítimas
A disseminação desse conteúdo afeta diretamente a vida das vítimas. “O impacto desse tipo de material é enorme”, alerta Yvette van Bekkum, CEO da Orange Warriors, uma empresa que auxilia vítimas de vazamentos e compartilhamentos não autorizados de imagens.
Segundo Van Bekkum, a presença de deepfakes na internet cresce rapidamente, e muitas vítimas encontram dificuldades para denunciar e solicitar a remoção. “Imagine estar em um processo seletivo e, ao pesquisarem seu nome, encontrarem esse tipo de material”, exemplifica.
Empresas de tecnologia adotam medidas, mas elas ainda são insuficientes
Grandes empresas de tecnologia alegam possuir políticas para combater deepfakes não consensuais. Além disso, disponibilizam formulários que permitem às vítimas solicitarem a remoção desses conteúdos dos mecanismos de busca.
Quando um site recebe um alto volume de denúncias por direitos autorais, as plataformas o classificam como de baixa qualidade. Recentemente, algumas empresas ajustaram seus algoritmos para reduzir a visibilidade de deepfakes nos resultados de busca. Além disso, algumas ferramentas agora detectam e removem automaticamente cópias duplicadas de vídeos deepfake não consensuais.
A falta de regulamentação ainda gera barreiras jurídicas
Apesar dessas iniciativas, especialistas alertam que as leis atuais não acompanham a evolução da tecnologia. Para que um deepfake seja removido com base na DMCA, a vítima precisa provar ser a detentora dos direitos autorais da imagem. No entanto, como a manipulação digital transforma a foto original, essa comprovação se torna um desafio legal.
“Nosso escritório defende há tempos que as vítimas deveriam ter o direito sobre os conteúdos ilegais para que possam exercer controle sobre ele. Mas, infelizmente, a legislação ainda não avançou nesse sentido.”
– Goldberg.
Além disso, muitos sites que hospedam deepfakes usam estratégias para se manter anônimos, operando em países com leis mais flexíveis. “Os responsáveis por essas plataformas fazem de tudo para esconder sua identidade”, alerta Van Bekkum.
Conclusão: Medidas Mais Rigorosas São Urgentes
Diante desse cenário preocupante, especialistas defendem que empresas de tecnologia devem investir em educação digital e em ferramentas que bloqueiem a disseminação desse tipo de conteúdo.
Além disso, leis mais rígidas precisam ser implementadas para evitar que o peso da remoção recaia apenas sobre as vítimas. “Esse problema deve ser tratado com a mesma seriedade de outros tipos de crimes digitais”, afirma Adam Dodge, especialista em segurança online. “Precisamos garantir que esse tipo de material seja considerado inaceitável em todas as esferas da internet.”