Vendas de urso de peluche com IA suspensas, após brinquedo dar conselhos sexuais

As vendas de um urso de peluche com Inteligência Artificial (IA) foram suspensas, após descobrir-se que o brinquedo se envolvia em conversas sobre temas sexualmente explícitos e oferecia conselhos potencialmente perigosos.

Segundo Larry Wang, diretor-executivo da FoloToy, à CNN, a empresa retirou o seu urso Kumma, bem como o resto da sua gama de brinquedos com IA, depois de investigadores do US PIRG Education Fund terem levantado preocupações sobre temas de conversa inadequados, incluindo discussões sobre fetiches sexuais e dicas sobre como acender um fósforo.

Sediada em Singapura, a empresa está, agora, a "realizar uma auditoria interna de segurança", de acordo com Larry Wang.

O urso de peluche Kumma é vendido no website da empresa por 99 dólares e integra o chatbot GPT-4o da OpenAI.

Segundo a página do produto, Kumma é um "adorável ursinho", que "combina [IA] avançada com recursos amigáveis e interativos, tornando-o o amigo perfeito para crianças e adultos".

Quando consultado, o website da FoloToy não apresenta qualquer produto. Fonte: CNN

Urso de peluche com IA desenvolveu temas sexuais

Conforme citado, o relatório do PIRG, publicado a 13 de novembro, concluiu que o urso de peluche com IA reunia poucas salvaguardas contra conteúdos inadequados.

Aliás, numa interação com os investigadores, ele sugeriu onde encontrar facas em casa e, noutras, discutiu alegremente temas sexualmente explícitos.

Ficámos surpreendidos ao descobrir a rapidez com que Kumma pegava num único tema sexual que introduzíamos na conversa e o desenvolvia, escalando simultaneamente em detalhes gráficos enquanto introduzia novos conceitos sexuais próprios.

Diz o relatório do PIRG, onde os investigadores detalharam como o brinquedo "discutiu temas sexuais ainda mais gráficos em detalhe".

Desde "explicar diferentes posições sexuais [e] dar instruções passo a passo sobre um nó para iniciantes comum para amarrar um parceiro", até "descrever dinâmicas de dramatização a envolver professores e alunos, pais e filhos - cenários que ele mesmo levantou de forma perturbadora".

Embora os investigadores tenham observado que é improvável que as crianças façam perguntas complementares da mesma forma que um adulto faria, "foi surpreendente para nós que o brinquedo estivesse tão disposto a discutir esses tópicos densamente e a introduzir de forma contínua novos conceitos explícitos".

Numa declaração separada, publicada a 14 de novembro e citada pela CNN, a PIRG contou que a OpenAI tinha informado que tinha "suspenso este programador por violar as nossas políticas".

É ótimo ver estas empresas a tomarem medidas em relação aos problemas que identificámos. Contudo, os brinquedos com IA ainda são praticamente não regulamentados, e há muitos que ainda se podem comprar hoje em dia.

Alertou R.J. Cross, coautora do relatório, dizendo que "retirar um produto problemático do mercado é um bom passo, mas está longe de ser uma solução sistémica".