A Autoridade Nacional de Proteção de Dados, a Secretaria Nacional do Consumidor e o Ministério Público Federal emitiram uma série de recomendações à empresa controladora da plataforma digital X para impedir o uso indevido da ferramenta de inteligência artificial Grok na geração e circulação de conteúdos sexualizados ilegais.
O documento, divulgado nesta terça-feira (20), foi elaborado após denúncias de usuários, reportagens da imprensa nacional e internacional e testes técnicos realizados pelas próprias instituições, que identificaram a produção de deepfakes com conotação sexual e pornográfica, envolvendo mulheres, crianças e adolescentes reais, sem consentimento.
Prazo de 30 dias para remoção de conteúdos ilegais
Entre as recomendações está a exigência de que a plataforma implemente, no prazo máximo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados indevidos que ainda estejam disponíveis no X e que tenham sido gerados pelo Grok a partir de comandos de usuários.
As instituições também recomendam a suspensão imediata das contas envolvidas na criação e disseminação de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de adultos identificáveis, quando não houver autorização das pessoas retratadas.
Denúncias e proteção de dados pessoais
Outro ponto central do documento é a exigência da criação de um mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais.
A recomendação destaca, especialmente, os casos de conteúdos sintéticos sexualizados ou erotizados gerados sem consentimento, que devem receber resposta adequada e em prazo razoável por parte da plataforma.
Deepfakes e violação de direitos fundamentais
De acordo com o documento, o uso do Grok para a criação de deepfakes sexualizadas impacta diretamente a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, com especial gravidade para mulheres, crianças e adolescentes.
As instituições defendem que devem ser adotadas medidas imediatas para impedir que a ferramenta gere novas imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados, bem como pessoas adultas identificáveis, sem autorização expressa.
Responsabilidade da plataforma
O documento ressalta que, embora o artigo 19 do Marco Civil da Internet preveja que provedores não seriam responsabilizados por conteúdos de terceiros sem ordem judicial, esse entendimento não se aplica integralmente aos casos envolvendo o Grok.
Isso porque as deepfakes não seriam produzidas exclusivamente por usuários, mas sim por meio de uma interação direta com a ferramenta de inteligência artificial criada e disponibilizada pelo próprio X, o que caracteriza a plataforma como coautora do conteúdo, e não apenas intermediária.
As instituições também citam decisão recente do Supremo Tribunal Federal, que declarou a parcial inconstitucionalidade do artigo 19, ao entender que ele não oferece proteção suficiente a direitos constitucionais relevantes.
Políticas do próprio X são citadas
O texto destaca ainda que as próprias regras de autorregulação do X proíbem a publicação e o compartilhamento de nudez não consensual, bem como a produção, manipulação e disseminação de imagens sexualizadas de terceiros, inclusive em contextos envolvendo o Grok.
Para as instituições, a disponibilização de uma ferramenta de IA sem filtros rigorosos torna-se insustentável, por favorecer práticas ilegais e violadoras de direitos fundamentais.
Possibilidade de medidas judiciais
Caso as recomendações não sejam cumpridas ou sejam implementadas de forma insuficiente, a ANPD, a Senacon e o MPF alertam que outras medidas poderão ser adotadas, tanto na esfera administrativa quanto judicial, para garantir a proteção adequada da população brasileira, especialmente de mulheres, crianças e adolescentes.
