Um levantamento inédito da SaferNet Brasil revelou a identificação de 173 vítimas de deepfakes sexuais em instituições de ensino públicas e privadas de dez estados brasileiros. Os dados, que expõem a crescente vulnerabilidade de estudantes e educadoras à manipulação de imagens por inteligência artificial, foram divulgados na última terça-feira, 10 de outubro de 2023, na capital paulista, durante um evento em celebração ao Dia da Internet Segura.
Deepfakes sexuais são vídeos ou imagens de nudez criados sem consentimento, utilizando tecnologia de inteligência artificial (IA) generativa para sobrepor rostos das vítimas em conteúdos falsos. Essa prática criminosa configura grave violação da privacidade e da dignidade humana, gerando impactos severos às vítimas.
Perfil das Vítimas e Autores
A pesquisa, iniciada em 2023 com base no monitoramento de notícias e recursos do fundo SafeOnline (gerido pelo Unicef), indica que todas as vítimas identificadas são mulheres, abrangendo tanto alunas quanto professoras. O estado de São Paulo lidera o número de ocorrências, com 51 vítimas, seguido por Mato Grosso (30), Pernambuco (30) e Rio de Janeiro (20). O estudo também identificou 60 autores envolvidos nesses crimes cibernéticos.
Atuação Criminosa e Plataformas
De acordo com a SaferNet, os grupos responsáveis pelo compartilhamento desses materiais operam de maneira altamente organizada. Sua atuação se baseia em três pilares principais: bots de notificação (que enviam alertas automatizados), plataformas de mensagens como o Telegram e fóruns na dark web. A organização enfatiza que esses criminosos exploram falhas de governança tanto nas plataformas digitais quanto nos sistemas de fiscalização de conteúdo, facilitando a disseminação.
Diante desse cenário alarmante, a SaferNet Brasil defende medidas urgentes. Entre as propostas estão o banimento das ferramentas de notificação utilizadas pelos grupos criminosos e a “asfixia financeira” dessas redes, visando desmantelar sua estrutura e alcance.
Central de Denúncias e Casos Reais
Além do mapeamento, a SaferNet opera a Central Nacional de Denúncias de Crimes Cibernéticos. Desde 2023, o serviço recebeu e analisou 264 links (URLs) relacionados a deepfakes sexuais não consentidos e materiais artificiais de abuso sexual infantil. A pesquisadora Sofia Schuring destacou que, dessas análises, 125 URLs continham imagens reais de abuso sexual infantil, evidenciando a intersecção entre conteúdos fabricados e abusos reais.
A central também apurou que 8% do total das URLs analisadas hospedavam conteúdo artificial de abuso e exploração sexual infantil, ou eram ferramentas de criação e grupos de disseminação de tais materiais. Além disso, foram registrados dez casos de deepfakes envolvendo adultos e 20 casos de vazamento de imagens íntimas reais, sem o uso de inteligência artificial.
Como Denunciar Crimes Cibernéticos
Denúncias de crimes cibernéticos, incluindo abuso sexual infantil, crimes de ódio e deepfakes, podem ser realizadas de forma anônima e segura pela Central Nacional de Denúncias da SaferNet Brasil. A plataforma é uma ferramenta crucial para combater a disseminação desses conteúdos ilegais e proteger as vítimas, garantindo que as autoridades possam investigar e agir.
