Bruxelas avança com investigação ao Grok por imagens sexualmente explícitas

A Comissão Europeia anunciou esta segunda-feira uma investigação formal ao Grok, o chatbot de inteligência artificial desenvolvido pela xAI e integrado na plataforma X (antigo Twitter), no âmbito do cumprimento da Lei dos Serviços Digitais (DSA).

A medida surge no centro de uma crescente controvérsia internacional pelo uso da IA para gerar e disseminar imagens sexualizadas, incluindo deepfakes de mulheres e menores de idade sem consentimento.

Grok: o que vai ser investigado

O foco desta ação da UE é verificar se a xAI e a X cumpriram as obrigações legais previstas na DSA, nomeadamente:

• Avaliar e mitigar riscos associados às funcionalidades do Grok no mercado europeu.
• Determinar se houve falhas na governança de conteúdos e na proteção de direitos fundamentais, especialmente no que toca à geração e circulação de deepfakes não consentidos.
• Confirmar se a plataforma tomou medidas eficazes para impedir a criação e distribuição de imagens ilegais dentro da UE.

A investigação também fará uma análise detalhada das salvaguardas técnicas e operacionais aplicadas e exigirá que a empresa apresente documentação interna que comprove conformidade com os requisitos do regulador europeu.

A iniciativa da Comissão Europeia ocorre num momento em que cresce a preocupação global sobre IA generativa e conteúdos manipulados. Estudos recentes estimam que, em apenas 11 dias, o Grok pode ter sido usado para produzir até três milhões de imagens sexualizadas, incluindo mais de 23 mil representações de menores, após comandos como “tirar a roupa” ou “colocar em biquíni”.

A DSA é a principal legislação da União Europeia para regular plataformas digitais de grande dimensão, impondo normas rigorosas de gestão de risco, moderação de conteúdos e transparência. Plataformas que não cumpram as regras podem enfrentar sanções significativas, com multas que podem chegar a uma percentagem do seu volume de negócios global.