Ter a Inteligência Artificial (IA) ao serviço de muitas tarefas é hoje uma vantagem para as empresas, mas nalguns setores pode significar uma linha ténue entre a vida e a morte. Uma linha de apoio a distúrbios alimentares viu substituídos os funcionários humanos, por um chatbot que deu vários conselhos perigosos.
A IA e a sua propensão para substituir alguns empregos têm sido temas muito debatidos nos últimos tempos. É certo que os recursos hoje conhecidos no ChatGPT, por exemplo, podem ser uma ajuda fundamental em termos de produtividade, por exemplo na área da programação. Mas existem riscos que têm que ser muito bem acautelados noutras áreas, como é o caso da saúde.
Este tema surge agora depois de, nos EUA, a Associação Nacional de Distúrbios Alimentares (NEDA – National Eating Disorders Association) ter sido obrigada a desativar o seu chatbot de IA Tessa. Este serviço estava a ser utilizado para aconselhamento daqueles que pediam ajuda à associação, depois da equipa de apoio ter sido demitida.
De acordo com o comunicado oficial, o Chatbot foi desativado por “ter fornecido informações prejudiciais e não relacionadas ao programa”. Neste momento, estarão a trabalhar no sentido de resolver estes “bugs” e tentar entender os “gatilhos” que estarão a levar a este tipo de aconselhamento.
O chatbot baseado em IA tinha como objetivo ajudar as pessoas a lidar com problemas emocionais, mas, em vez disso, terá dado conselhos sobre dietas e incentivado as pessoas a se pesarem e medirem. Situações que terão agravado ainda mais o estado dos pacientes.
Várias pessoas com distúrbios alimentares e especialistas da área revelaram que tiveram problemas diretos com este serviço. Referem que ele não respondia a solicitações simples como “Eu odeio meu corpo” e que enfatizava constantemente a importância de fazer dieta e aumentar a atividade física. Podemos afirmar que estava basicamente a agir como se este fosse um grupo de incentivo à perda de peso, ao invés de ajudar na luta contra os distúrbios alimentares.
Segundo as informações avançadas pela imprensa norte-americana, o chatbot terá sido a opção mais rápida para a administração resolver um problema que tinha em mãos, depois de demitir em massa as pessoas que lá trabalhavam na linha de apoio, que estavam a tentar criar um sindicado.
Além disso, para “ensinar” o chatbot baseado em IA neste contacto com pessoas desesperadas com os seus distúrbios alimentares, a NEDA teria pessoas em regime de voluntariado a dar aconselhamento.
Existem aqui várias camadas em termos de ética que podem ser refletidas, ainda mais quando se trata de um serviço que pode ser a fronteira entre a vida e a morte. Poderá a saúde ficar nas mãos da IA?