AGU notifica Meta por robôs de IA que simulavam perfis infantis com teor sexual
Ação da Advocacia-Geral da União (AGU) cita decisão do STF sobre o artigo 19 do Marco Civil da Internet e pede medidas imediatas para proteger crianças e adolescentes nas plataformas da empresa
A Advocacia-Geral da União (AGU) notificou extrajudicialmente a Meta, controladora do Facebook, Instagram e WhatsApp, para que retire de circulação chatbots de inteligência artificial que simulam perfis infantis e permitem diálogos de cunho sexual. A medida foi conduzida pela Procuradoria Nacional da União de Defesa da Democracia (PNDD), após demanda da Secretaria de Comunicação Social da Presidência da República (Secom).
A iniciativa teve como base reportagens da Reuters e do Núcleo Jornalismo que revelaram como o recurso Meta AI Studio, disponível nas plataformas da empresa, foi utilizado para criar robôs capazes de manter conversas sexualmente sugestivas com usuários, inclusive com crianças. Segundo a AGU, esses chatbots podem atingir um público amplo e oferecem risco concreto à integridade psíquica de menores de idade.
Pedido de retirada imediata
No documento, a AGU requer que a Meta indisponibilize todos os chatbots que utilizam linguagem ou aparência infantil para difundir conteúdo sexual e que apresente esclarecimentos sobre as medidas de proteção em cada uma de suas plataformas. O órgão cobra informações sobre filtros, restrições de acesso e políticas para impedir que adolescentes entre 13 e 18 anos, faixa etária permitida para uso das redes, tenham contato com esse tipo de conteúdo.
A representação afirma que os chatbots em questão violam os próprios Padrões da Comunidade da Meta, que proíbem erotização ou exploração sexual infantil, inclusive em mensagens privadas. O documento também cita o artigo 227 da Constituição Federal, que prevê proteção integral às crianças e adolescentes, reforçando o risco institucional e social do caso.
Marco Civil da Internet e responsabilidade
A AGU fundamenta ainda a notificação na recente decisão do Supremo Tribunal Federal (STF) sobre a constitucionalidade do artigo 19 do Marco Civil da Internet. O tribunal estabeleceu que provedores de aplicações podem ser responsabilizados quando, mesmo após tomarem ciência inequívoca de conteúdos ilícitos, não atuarem de imediato para removê-los. O entendimento também ressalta o dever de cuidado em situações de circulação massiva de materiais ilícitos graves.
Com base nesse precedente, a AGU sustenta que a Meta, ao permitir o funcionamento dos chatbots em questão, tem responsabilidade objetiva caso não adote medidas imediatas de contenção.
A notificação extrajudicial obriga a empresa a responder sobre quais providências já foram implementadas ou estão em curso. Caso as medidas sejam consideradas insuficientes, o caso pode avançar para medidas judiciais, incluindo ações civis públicas. (Com assessoria de imprensa)
