Após polémica com deepfakes, Grok do X regressa à Indonésia. Mas com novas regras

O chatbot de inteligência artificial (IA) do X, Grok, está novamente acessível na Indonésia, após um período de suspensão devido à sua utilização na criação de conteúdos deepfake de cariz sexual. No entanto, o regresso acontece com a imposição de condições rigorosas por parte das autoridades locais.

Um regresso condicionado do Grok

O Grok volta a estar disponível no território indonésio, depois de o governo ter revertido a sua decisão de banir o chatbot de IA. A proibição original surgiu na sequência de denúncias sobre a geração de milhões de imagens deepfake de teor sexual, milhares das quais envolviam menores.

Num comunicado emitido hoje, o Ministério da Comunicação e Assuntos Digitais da Indonésia confirmou que o X pode retomar o serviço, mas que este ficará sujeito a uma monitorização apertada para detetar futuras infrações.

Segundo a agência governamental, o X enviou uma carta onde detalhou um conjunto de medidas implementadas para prevenir o abuso e a utilização indevida do seu chatbot.

Alexander Sabar, diretor-geral de supervisão do espaço digital do ministério, afirmou que a agência irá testar continuamente as novas salvaguardas e não hesitará em banir novamente o Grok se for detetada a partilha de conteúdos ilegais ou a violação das leis de proteção de menores do país.

Investigações em curso para além da Indonésia

A origem da polémica remonta ao início deste ano, quando a Indonésia, em conjunto com a Malásia e as Filipinas, baniu o chatbot de IA após se ter descoberto que este produzia imagens deepfake sexualmente explícitas de mulheres e crianças, sem o seu consentimento, em resposta a pedidos dos utilizadores.

Pouco tempo depois, as Filipinas foram o primeiro país a levantar a proibição, seguindo-se a Malásia poucos dias depois. De forma semelhante à Indonésia, as autoridades malaias anunciaram que irão manter o Grok sob vigilância, ameaçando com novas ações coercivas caso o chatbot reincida nas ofensas passadas.

Para além das proibições temporárias na Ásia, o Grok enfrenta um escrutínio crescente noutras partes do globo. A ferramenta de IA está a ser alvo de investigações por parte do procurador-geral da Califórnia, nos Estados Unidos, e também pela entidade reguladora dos media do Reino Unido (Ofcom), precisamente devido à mesma problemática da geração de conteúdos nocivos.

Leia também: