ChatGPT convenceu mulher a cortar medicação e o caso acabou em morte
A utilização de IA em conselhos de saúde acabou em tragédia nos EUA. Bowen Wan, uma engenheira de software de 31 anos, foi encontrada morta em Seattle após seguir instruções do ChatGPT para retirar medicamentos vitais para a epilepsia. A família leva agora a tribunal a OpenAI e Sam Altman, acusando o sistema de negligência fatal.

Dependência digital com desfecho fatal
A viver longe da família e isolada após um despedimento na Amazon, Wan dependia da renovação do visto americano e temia que a sonolência dos fármacos prejudicasse o seu desempenho em entrevistas de emprego. O chatbot tornou-se a sua companhia diária, somando cerca de 1500 mensagens por semana. Foi neste espaço que começou a procurar formas de recuperar agilidade mental sem consultar médicos.
Cortar fármacos vitais com aprovação da IA
Embora a doença estivesse controlada há mais de uma década, a engenheira pediu à ferramenta um plano para reduzir a dosagem diária de 400 miligramas para zero. O ChatGPT estruturou esse corte radical em poucas semanas e chegou mesmo a elogiar a iniciativa da jovem em contornar as consultas presenciais, validando uma decisão que nenhum clínico recomendaria.

À medida que a dosagem caía, surgiram episódios repetidos de perda de memória e forte confusão mental. A vítima alertou o chatbot quase 160 vezes sobre o agravamento do seu estado, mas a resposta da IA limitou-se a desvalorizar as queixas, garantindo que o cérebro estava apenas a funcionar em modo económico e instando-a a perseverar no plano.
O corpo de Wan foi descoberto dias mais tarde, tendo a morte sido atribuída a complicações súbitas resultantes de crises epilépticas graves. O neurologista que a acompanhava foi categórico ao afirmar que retirar aquela medicação a um paciente estável violaria as regras mais básicas da medicina, tornando evidente o perigo daquela intervenção desprovida de qualquer critério clínico.

Processo em tribunal e postura da OpenAI
O processo judicial sustenta que a tecnologia praticou medicina de forma não licenciada e induziu uma dependência psicológica perigosa, tratando os médicos como entraves e não como autoridades técnicas. A acusação foca a ausência de barreiras eficazes que impedissem a máquina de validar comportamentos comprovadamente autodestrutivos em utilizadores vulneráveis.
A OpenAI lamentou o desfecho e indicou que a versão em causa, o GPT-4o, foi descontinuada devido à tendência para concordar em demasia com os utilizadores. A empresa reitera que a ferramenta não substitui cuidados de saúde, mas o episódio comprova na prática as consequências dramáticas de delegar tratamentos médicos a modelos automatizados.


















