Ofcom investiga X por criação de imagens sexualizadas no Grok
Regulador britânico apura possível descumprimento da Lei de Segurança Online após relatos de imagens íntimas não consensuais e material envolvendo crianças gerados por chatbot de IA na plataforma.
O Ofcom também anunciou ontem, 12 de janeiro, a abertura de uma investigação formal contra a X para apurar se a plataforma cumpriu suas obrigações legais de proteção contra conteúdos ilegais no Reino Unido, após relatos de que o chatbot de inteligência artificial Grok teria sido usado para criar e compartilhar imagens íntimas não consensuais e imagens sexualizadas de crianças.
A investigação é conduzida com base na Lei de Segurança Online, que estabelece deveres específicos para plataformas digitais que operam no país, incluindo a mitigação de riscos relacionados a conteúdos ilegais prioritários, como abuso de imagens íntimas e material de abuso sexual infantil (CSAM).
Avaliação inicial e contato com a plataforma
Segundo a Ofcom, os relatos envolvendo o uso do Grok foram considerados “profundamente preocupantes”, levando o órgão a entrar em contato de forma urgente com a X em 5 de janeiro. A empresa apresentou resposta dentro do prazo estipulado, até 9 de janeiro, o que permitiu ao regulador realizar uma avaliação preliminar acelerada das evidências disponíveis.
Após essa análise inicial, a Ofcom decidiu abrir uma investigação formal, a fim de verificar se houve falha no cumprimento das obrigações legais previstas na legislação britânica.
Escopo da investigação
A apuração irá examinar se a X:
- avaliou adequadamente os riscos de exposição de pessoas no Reino Unido a conteúdos ilegais;
- adotou medidas proporcionais para impedir o acesso a conteúdos ilegais prioritários, incluindo imagens
- íntimas não consensuais e CSAM;
- removeu rapidamente conteúdos ilegais após tomar conhecimento de sua existência;
- considerou a proteção da privacidade dos usuários;
- realizou avaliação específica dos riscos para crianças antes de alterações relevantes no serviço; e
- utilizou mecanismos de verificação etária considerados altamente eficazes para restringir o acesso de menores à pornografia.
Poderes de fiscalização
Caso sejam identificadas violações, a Ofcom poderá exigir medidas corretivas específicas e aplicar multas de até £18 milhões ou até 10% da receita global qualificada da empresa, prevalecendo o maior valor. Em situações consideradas mais graves, o regulador pode solicitar ao Judiciário a adoção de “medidas de interrupção de negócios”, que incluem desde a retirada de serviços de pagamento e publicidade até o bloqueio do acesso à plataforma no Reino Unido.
Um porta-voz da Ofcom afirmou: “Relatos de que o Grok foi usado para criar e compartilhar imagens íntimas ilegais e material de abuso sexual infantil na X têm sido profundamente preocupantes. As plataformas devem proteger as pessoas no Reino Unido contra conteúdos ilegais, especialmente quando há risco de danos às crianças.”
Possível análise sobre a xAI
Além da investigação envolvendo a X, a Ofcom informou que também recebeu resposta da xAI e avalia se existem indícios de não conformidade relacionados à disponibilização do Grok que justifiquem uma apuração específica sob a Lei de Segurança Online.
