Idec pede ao governo suspensão da IA Grok por violações de direitos de crianças e mulheres
Instituto solicita providências diante da geração e difusão de imagens sexualizadas não consentidas, incluindo deepfakes com menores de idade
O Instituto de Defesa do Consumidor (Idec) solicitou nesta segunda-feira, 12 de janeiro, que o governo federal adote providências para a suspensão da ferramenta de inteligência artificial generativa (IA) Grok, integrada à plataforma X (antigo Twitter).
O pedido foi formalizado por meio de ofício encaminhado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, instância que reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).
Segundo o Idec, há evidências de violações “graves e reiteradas” de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da Grok. De acordo com o instituto, a ferramenta tem sido utilizada para gerar, editar e difundir imagens sexualizadas não consentidas, incluindo deepfakes de caráter erótico ou pornográfico envolvendo pessoas reais, inclusive menores de idade, sem salvaguardas mínimas de segurança, consentimento ou prevenção de abusos.
No ofício, o Idec sustenta que o problema caracteriza defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), por não oferecer o nível de segurança legitimamente esperado por usuários e por pessoas atingidas pelos danos. O documento também aponta potenciais violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao ECA Digital, recentemente aprovado.
O instituto afirma ainda que o caso já gerou reações internacionais, com investigações e exigências de retirada de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia, o que, segundo o Idec, reforça o caráter sistêmico e global das falhas associadas ao uso da ferramenta. Para a entidade, a ausência de mecanismos eficazes de mitigação e resposta demonstra risco concreto e continuado de danos.
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, afirma o Idec no documento enviado ao comitê.
Por fim, o instituto solicita que o caso da Grok seja considerado nos debates em curso sobre a Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, atualmente em elaboração pelo Comitê Intersetorial, e no processo de regulação da inteligência artificial, em especial no âmbito do PL nº 2338/2023, que trata do marco legal da IA no Brasil. O Idec defende que o texto assegure proteção reforçada a crianças e adolescentes diante de usos de sistemas de inteligência artificial que possam causar danos considerados irreversíveis.
Artigos sugeridos
Idec aciona Justiça contra Anatel por mudanças no regulamento de direitos dos consumidores
Idec pede ao Cade investigação sobre IA generativa no Google
Telecom busca contratar mais mulheres por resultado, não por acaso, diz Luciana Tannure
Anatel tem projeto reconhecido pela FGV por iniciativa de inclusão digital voltada a mulheres
