Quantcast

ChatGPT convenceu mulher a cortar medicação e o caso acabou em morte

11 Comentários

A utilização de IA em conselhos de saúde acabou em tragédia nos EUA. Bowen Wan, uma engenheira de software de 31 anos, foi encontrada morta em Seattle após seguir instruções do ChatGPT para retirar medicamentos vitais para a epilepsia. A família leva agora a tribunal a OpenAI e Sam Altman, acusando o sistema de negligência fatal.

Dependência digital com desfecho fatal

A viver longe da família e isolada após um despedimento na Amazon, Wan dependia da renovação do visto americano e temia que a sonolência dos fármacos prejudicasse o seu desempenho em entrevistas de emprego. O chatbot tornou-se a sua companhia diária, somando cerca de 1500 mensagens por semana. Foi neste espaço que começou a procurar formas de recuperar agilidade mental sem consultar médicos.

Cortar fármacos vitais com aprovação da IA

Embora a doença estivesse controlada há mais de uma década, a engenheira pediu à ferramenta um plano para reduzir a dosagem diária de 400 miligramas para zero. O ChatGPT estruturou esse corte radical em poucas semanas e chegou mesmo a elogiar a iniciativa da jovem em contornar as consultas presenciais, validando uma decisão que nenhum clínico recomendaria.

À medida que a dosagem caía, surgiram episódios repetidos de perda de memória e forte confusão mental. A vítima alertou o chatbot quase 160 vezes sobre o agravamento do seu estado, mas a resposta da IA limitou-se a desvalorizar as queixas, garantindo que o cérebro estava apenas a funcionar em modo económico e instando-a a perseverar no plano.

O corpo de Wan foi descoberto dias mais tarde, tendo a morte sido atribuída a complicações súbitas resultantes de crises epilépticas graves. O neurologista que a acompanhava foi categórico ao afirmar que retirar aquela medicação a um paciente estável violaria as regras mais básicas da medicina, tornando evidente o perigo daquela intervenção desprovida de qualquer critério clínico.

Processo em tribunal e postura da OpenAI

O processo judicial sustenta que a tecnologia praticou medicina de forma não licenciada e induziu uma dependência psicológica perigosa, tratando os médicos como entraves e não como autoridades técnicas. A acusação foca a ausência de barreiras eficazes que impedissem a máquina de validar comportamentos comprovadamente autodestrutivos em utilizadores vulneráveis.

A OpenAI lamentou o desfecho e indicou que a versão em causa, o GPT-4o, foi descontinuada devido à tendência para concordar em demasia com os utilizadores. A empresa reitera que a ferramenta não substitui cuidados de saúde, mas o episódio comprova na prática as consequências dramáticas de delegar tratamentos médicos a modelos automatizados.

Comentários

11
  1. Avatar de David
    David

    O chargpt disse me que so classe baixa e nerd usa linux, porque não tem inteligencia para ter emprego que lhes garanta um mac.

    1. Avatar de KidsGraça
      KidsGraça

      Pelo baixo nível da tua gramática, dá para perceber que inteligência não é um atributo que possuas em quantidade, caso contrário tinhas usado um dos milhares de corretores ortográficos disponíveis.

      1. Avatar de FS
        FS

        Resposta nível épico!

  2. Avatar de Maçã mais que podre
    Maçã mais que podre

    mas porque raio o pessoal recorre a LLMs questões vitais?

    há uma completa falta de literacia.

    É de lamentar a morte, e que seja um abre olhos, e para que se eduque propriamente. LLMs devem ser usadas para auxiliar na execução de ordens nossas ou na obtenção de informação, não na tomada de decisões, principalmente se forem importantes e criticas.

    Na escrita deste texto nenhum LLM foi usado .

  3. Avatar de Zé
    Zé

    Qualquer ferramenta da AI é isso mesmo. Uma ferramenta. Tem de haver cabecinha para usar como tal. As pessoas também têm de meter isso na cabeça!

  4. Avatar de Analberto
    Analberto

    Usa news… Na terra onde os eleitores votaram no Trump é normal que façam este tipo de coisas

    1. Avatar de KidsGraça
      KidsGraça

      Onde é que diz que ela votou no Trump, aliás ela nem Americana é para poder votar.

      Wan dependia da renovação do visto americano

      Comentar os artigos sem os ler ou sem os entender, dá nisto.

      1. Avatar de Luís Silva
        Luís Silva

        Ele tbm não disse que ela votou no Trump, só disse que existiram eleitores burros o suficiente para votarem no Trump, o que é verdade e não foram poucos.

        Comentar os comentários sem os ler ou sem os entender, dá nisto.

  5. Avatar de Max
    Max

    A OpenAI lamentou o desfecho e indicou que a versão em causa, o GPT-4o, foi descontinuada devido à tendência para concordar em demasia com os utilizadores.

    Interesso-me por chatbots desde que apareceram ("Data chave: 30 de novembro de 2022, dia em que a OpenAI disponibilizou a versão inicial gratuita do ChatGPT baseada no modelo GPT-3.5 como uma "pré-visualização de investigação" (research preview).")

    Quem tem vindo a usar chatbots é capaz de concordar que houve versões com tendência para concordar em demasia com os utilizadores e outras casmurras até mais não – mostrava-se que estavam erradas e persistiam, até inventavam documentos que não existiam para mostrar que tinham razão. Alterno entre Gemini, Claude e ChatGPT e a perceção que tenho é de que estão mais equilibrados e confiáveis. Com isto a minha desconfiança diminuiu, mas fazer um copy/paste da prompt nos três para ver o que dizem é frequente.

    Mas convém não ficar pelos chatbots. Convém, por exemplo, experimentar o Gemini Notebook ou "projetos" do Claude (Anthropic), ChatGPT (OpenAI), em que se carregam os documentos para as fontes – e a AI vai buscar as respostas a essas fontes, e só vai à web se se permitir, no caso de não encontrar a resposta nas fontes (em vez de ir à web autonomamente, como um chatbot, e às vezes trazer de lá grandes disparates).

    No caso do post, por exemplo, a diferença é: usando um chatbot, pode ir à web e encontrar uns malucos quaisquer que digam que a medicação pode ser reduzida a zero e repita isso. Num caderno/notebook/projeto, em que se carregam previamente as fontes – se forem todas de fontes científicas reconhecidas, a IA não vai dizer que a medicação pode ser reduzida a zero.

    O problema aqui é quem pensa que as IA são "génios saídos da garrafa para nos ajudar", quando são ferramentas, uma vezes ajudam bem outras nem opor isso, depende as saber usar.

  6. Avatar de Zec
    Zec

    A família vai a tribunal e vai perder. A culpa é 100% da utilizadora se até se queixou cerca de 160 vezes e escolheu continuar a seguir um chat bot em vez de ir ao médico.

    Isto é mais um caso da família a procurar culpados e não admitir burrice por parte da filha porque fica mal visto e claro vão ao alvo mais fácil e com dinheiro a ver se ainda ficam ricos com a situação. Neste tempo todo não pareceu estarem muito preocupados com ela. O que mais interessa é resolver as coisas ao estilo americano: processar alguém e receber indenizações.

  7. Avatar de Rui
    Rui

    Eu mudaria o título para : "Mulher convence-se a cortar medicação sem conselho médico…"

    Onde ela foi buscar informação é irrelevante.

Deixe um comentário