ANPD, MPF e Senacon recomendam medidas contra uso do Grok para geração de conteúdos sexualizados
Órgãos pedem bloqueio imediato de novos conteúdos, remoção de materiais já publicados e criação de mecanismos de denúncia; Idec critica ausência de medidas cautelares
A Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) expediram, nesta terça-feira (21), recomendações à empresa controladora da plataforma X) para que impeça a geração e a circulação de conteúdos sintéticos sexualizados indevidos por meio do assistente de inteligência artificial Grok). A atuação conjunta ocorre após denúncias sobre o uso da ferramenta para criação de imagens sexualizadas com base em fotos de pessoas reais, incluindo mulheres, crianças e adolescentes.
Segundo as três instituições, as denúncias foram corroboradas por testes técnicos realizados no âmbito de suas atribuições e indicam que usuários têm utilizado o Grok para produzir deepfakes de caráter sexualizado, erótico ou pornográfico sem o consentimento das pessoas retratadas. Também foram identificados casos de imagens de mulheres e de crianças e adolescentes em situações de nudez ou com roupas íntimas, acessíveis publicamente na plataforma.
A avaliação conjunta é de que os fatos relatados podem afetar simultaneamente a proteção de dados pessoais, as relações de consumo e direitos fundamentais, em especial a dignidade de mulheres, crianças e adolescentes. Por esse motivo, as recomendações foram expedidas de forma coordenada, dentro das competências legais de cada órgão.
Entre as medidas recomendadas está a implementação imediata de salvaguardas técnicas e operacionais para impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados, bem como pessoas maiores de idade identificadas ou identificáveis em situações semelhantes, quando não houver autorização. As orientações abrangem todas as versões, planos e modalidades da ferramenta.
As instituições também recomendaram que a empresa crie, no prazo máximo de 30 dias, procedimentos claros para identificar, revisar e remover conteúdos desse tipo já produzidos e ainda disponíveis na plataforma quando gerados pelo Grok. Outro ponto é a suspensão imediata das contas envolvidas na produção desses materiais, com a exigência de apresentação de relatórios mensais às autoridades como forma de comprovação do cumprimento das medidas.
O conjunto de recomendações inclui ainda a implementação de um mecanismo transparente e acessível para que titulares de dados possam exercer seus direitos, inclusive por meio do envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais. Além disso, foi solicitada a elaboração de um relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir de imagens, vídeos ou áudios enviados por usuários.
As autoridades informaram que, caso as recomendações não sejam acatadas ou se revelem insuficientes para mitigar os riscos identificados, outras medidas administrativas e judiciais poderão ser adotadas.
Em nota, o Idec) afirmou que considera a resposta das autoridades insuficiente diante da gravidade das violações relatadas. A entidade sustenta que a opção por recomendações, sem adoção de medidas cautelares ou suspensão do serviço, mantém consumidores — especialmente mulheres, crianças e adolescentes — expostos a riscos relacionados ao uso indevido de dados pessoais, e defende uma atuação mais imediata para conter os danos enquanto o caso é analisado.
