Proponha uma correção, faça uma sugestão
Poderá a saúde ficar nas mãos da IA? Há perigos reais para a saúde já a acontecer
Ter a Inteligência Artificial (IA) ao serviço de muitas tarefas é hoje uma vantagem para as empresas, mas nalguns setores pode significar uma linha ténue entre a vida e a morte. Uma linha de apoio a distúrbios alimentares viu substituídos os funcionários humanos, por um chatbot que deu vários conselhos perigosos.
A IA e a sua propensão para substituir alguns empregos têm sido temas muito debatidos nos últimos tempos. É certo que os recursos hoje conhecidos no ChatGPT, por exemplo, podem ser uma ajuda fundamental em termos de produtividade, por exemplo na área da programação. Mas existem riscos que têm que ser muito bem acautelados noutras áreas, como é o caso da saúde.
Este tema surge agora depois de, nos EUA, a Associação Nacional de Distúrbios Alimentares (NEDA - National Eating Disorders Association) ter sido obrigada a desativar o seu chatbot de IA Tessa. Este serviço estava a ser utilizado para aconselhamento daqueles que pediam ajuda à associação, depois da equipa de apoio ter sido demitida.
De acordo com o comunicado oficial, o Chatbot foi desativado por "ter fornecido informações prejudiciais e não relacionadas ao programa". Neste momento, estarão a trabalhar no sentido de resolver estes "bugs" e tentar entender os "gatilhos" que estarão a levar a este tipo de aconselhamento.
O chatbot baseado em IA tinha como objetivo ajudar as pessoas a lidar com problemas emocionais, mas, em vez disso, terá dado conselhos sobre dietas e incentivado as pessoas a se pesarem e medirem. Situações que terão agravado ainda mais o estado dos pacientes.
Várias pessoas com distúrbios alimentares e especialistas da área revelaram que tiveram problemas diretos com este serviço. Referem que ele não respondia a solicitações simples como “Eu odeio meu corpo” e que enfatizava constantemente a importância de fazer dieta e aumentar a atividade física. Podemos afirmar que estava basicamente a agir como se este fosse um grupo de incentivo à perda de peso, ao invés de ajudar na luta contra os distúrbios alimentares.
Segundo as informações avançadas pela imprensa norte-americana, o chatbot terá sido a opção mais rápida para a administração resolver um problema que tinha em mãos, depois de demitir em massa as pessoas que lá trabalhavam na linha de apoio, que estavam a tentar criar um sindicado.
Além disso, para "ensinar" o chatbot baseado em IA neste contacto com pessoas desesperadas com os seus distúrbios alimentares, a NEDA teria pessoas em regime de voluntariado a dar aconselhamento.
Existem aqui várias camadas em termos de ética que podem ser refletidas, ainda mais quando se trata de um serviço que pode ser a fronteira entre a vida e a morte. Poderá a saúde ficar nas mãos da IA?
Este artigo tem mais de um ano
Loading ...
Só os perfeitos anormais é que usam a IA na área da saúide….
A IA pode ser útil MAS não para substituir completamente um humano. Penso que poderá ajudar em na questão de diagnóstico e análise de exames.
Essa ideia de substituir a interacção humana por um chatbot numa área sensível, como neste caso, é só estúpido.
Só um perfeito anormal é que pode ter uma afirmação dessas, na área da saúde deve ser um dos campo onde a IA se pode tornar mais eficaz e melhorar mais especificamente na identificação de doenças.
Um exemplo muito simples preferes um médico com 35 anos de experiencia a fazer a identificação de uma doença que tenhas ou preferes a combinação da experiencia de todos médicos e casos da Europa dos últimos 40 anos? a mim parece-me bastante obvio.
Juntar estes dados todos e uma IA que consiga analisar tudo isto numa questão de segundos e cruzar os dados com os teus sintomas e resultados de exames é uma mais valia na identificação de doenças, hoje em dia praticamente tudo é recuperável se for identificado a tempo muitas vezes as complicações surgem por diagnósticos errados e tardios.
A mim parece me que até a IA é mais útil que tu. És só mais um.
Claro que sim, só um burro é que acha que pode ser mais útil que um sistema de inteligência artificial.
Mas na realidade trabalho na área da IA portanto meio duvidoso quem é mais útil o criador ou a criação ahah
Nitidamente nem tu nem quem te faz são úteis, por isso essa tua regra não tem qualquer fundamento. E nem a inteligência artificial te salva de tanto escremento que tens nessa cabeça de alfinete. Como disse, és só mais um…. zero a esquerda.
Goncalo se a IA errar no diagnostico como e que resolves esse problema ? Se a IA for invadida por algum virus e comecar a dar diagnosticos errados como e que resolves esse problema ? Os humanos nao sao perfeitos mas mesmo assim prefiro ser consultado por humanos do que por uma maquina ou la o que seja o IA
Profeta: A IA não precisa de dar nenhum diagnostico em concreto a IA consoante os sintomas e resultados de exames vai cruzar dados com todos os dados da europa dos últimos 100 anos(ou até onde há registo) e no fim apresenta o resultado ao médico:
Existe 90% de probabilidade de ser uma doença no entanto em x casos dos últimos 100 anos com os mesmos resultados de exame também poderá haver 10% de probabilidade de ser esta doença rara.
Pronto e daí claramente vão ter de ser feitos exames mas despistar a doença rara e ter a certeza do que é, um ser humano provavelmente nunca iria pensar sequer na doença rara porque secalhar nem nunca a tinha visto por isso é que o diagnostico destas doenças por vezes demora anos e as vezes já é tarde demais.
Quanto as vírus embora isso seja uma possibilidade muito remota de afetar um sistema destes haverá sempre o aval do médico e testes para o comprovar não é a IA diz então toma já uma injeção no lombo.
Todos os dados da europa ? Interessante. E isso para ti que funciona a IA em Portugal ? A IA vai ser sempre um cancro ou virus ou la como queiram chamar, e tudo menos humano. E se achas que agora as maquinas ou IA ou o que quer que seja vem substituir as pessoas na area da saude estas enganado. Em pleno sec XXI ainda ha pessoal que cai no engodo dos DDT. Ja deviam ter consciencia de como funcionam estas novas inovacoes que nao sao mais que estragar a vida das pessoas. Que mais terao eles na gaveta para virem com tretas a dizer ao mundo que isto e que e bom. So nao vai ajudar a humanidade.
E está errado ? Pessoas que odeiam o seu corpo por estarem acima do peso devem sim ser aconselhadas a fazer dieta e exercício físico ou de repente estamos a assumir que isto é um problema psicológico e ser gordo agora é saudável? Que mania de no seculo 21 termos medo de chamar as coisas pelos nome também já fui gordo e não tenho vergonha nenhuma entretanto em vez de ir ao psicólogo fui ao ginásio e na realidade foi bem mais eficaz não é uma questão de aparência é uma questão de saúde eu não mudei porque me chamaram gordo mudei porque tive um susto na minha saúde e percebi que tinha de mudar
Há pessoas magras (muito magras até) que têm distúrbios alimentares… anorexia, bulimia… já ouviste falar? Fora que o problema de distúrbio alimentar vai muito além da divisão entre gordos e magros.
Claro que sim, eu disse “Pessoas que odeiam o seu corpo por estarem acima do peso…” ou seja o meu comentário está restringir a este cenário que não vamos fingir que não é o mais comum, claro que há milhares de outros cenários mas uma coisa não invalida a outra ter uma dieta cuidada e fazer exercício físico faz bem a toda a gente.
Felizmente tu e eu lidamos de forma direta e objetiva com o problema. Mas ha pessoas sem essa capacidade e não serve o 1 + 1 que serviu para mim e para ti.
Para além que o açucar não deixa de ser um vicio e é preciso cuidados extras quando se fala de vicios.
Para além que a IA não terá eficácia nenhuma em aconselhar um diabetico tipo 1 a emagrecer de forma assertiva e saudavel, disponha ela de todos os dados possíveis e imaginários.
Nem os próprios médicos conseguem sem ser pela tentativa erro
Gordo: Sinto-me mal com meu corpo
IA: Faz dieta e exercicio
Magro: Sinto-me mal com meu corpo
IA: Come mais
Based IA
na verdade é a mesma resposta para as duas situações dieta tambem pode significar plano de aumento de peso e o exercicio tambem para ganhares massa muscular
Sabes que uma dieta também pode ser para aumentar peso certo? normalmente associamos isso a perder peso porque hoje em dia é o mais comum mas uma dieta pode ter vários objetivos até podes ter uma dieta para manter o peso comendo mais saudável
Há um erro de base na conversa sobre a IA – há milhares de IA, não há “a IA”.
Outro erro é reduzir as IA às chatIA.
A partir do chatTessa, da NEDA, não é possível tirar conclusões sobe “a IA (as IA) na saúde, chatIA ou outras”.
Se quiserem saber mais sobre a Tessa leiam este post (entretanto apagado mas disponível no WayBackMachine)
https://web.archive.org/web/20230524113339/https://www.nationaleatingdisorders.org/blog/tessa-chatbot
E o que escreveu o The Guardian
https://www.theguardian.com/technology/2023/may/31/eating-disorder-hotline-union-ai-chatbot-harm
(Também ajuda um tradutor no browser).
As minhas conclusões:
– O chatTessa foi criado por uma entidade com boa vontade mas poucos recursos
– Um utente da NEDA quer colocar questões, em jeito de conversa, do tipo, como diz no post: “Não me sinto bem com o meu corpo …”. Isso estava bem quando a NEDA tinha assistentes voluntárias, que também tinham tido desordens alimentares. As pessoas telefonavam, ou comunicavam de outra forma e elas aconselhavam.
Isso num chatIA não é assim. A partir das questões que lhe são colocadas, responde com base na informação que recebeu e no seu pré-treino – e com base num aspeto essencial, a “sua liberdade para pensar”, ou seja, responde só a questões bens específicas e com resposta conhecidas ou pode “inventar”?
Acho que toda a gente deve conhecer/usar o ChatGPT e a sua “liberdade para pensar”, que pode levar a “alucinações”, como é reconhecido nos diversos chatIA avançados, nomeadamente da Google.
E a seguir aceder ao chatIA da Agência para a Modernização Administrativa sobre a CMD. Aí não há “liberdade para pensar, nem devaneios”. A chat IA interpreta algumas flexões verbais na questão que lhe é posta e fá-las corresponder às questões que tem listadas e responde com a resposta que está preparada. Qualquer questão “fora da caixa” recebe a resposta “Não estou preparada para responder a essa questão”.
No caso do chatTessa, devia ter listadas as questões que pode responder. Qualquer outra questão, como seja: “Não me sinto bem com o meu corpo … o que devo fazer?”, devia ser capaz de listar questões específicas a que pudesse responder. As que não soubesse devia responder como o chatIA da CMD e acrescentar “marque uma consulta os serviços de saúde”.
Nas mãos dos programadores e dos interesses de para quem trabalham. Isenção de responsabilidade para os serviços médicos de iatrogenia e falsos diagnósticos. Como já temos a experiência daquele produto experimental de que nem o fabricante, nem o comprador seria responsável.
A AI é um vírus que deve ser parado. É só mais uma ferramenta para dar lucro às grandes corporações e despedir as massas.
Ou então … os “Sobreiros & Tiagos” deviam-se começar a esforçar por perceber as IAs e a sua regulação, o que me parece mais produtivo.
Acho que os “Sobreiros & Tiagos” desde criancinhas que sabem tudo, desde as corporações e o capitalismo, até às IAs (as ocidentais, porque as da China e da Rússia são boazinhas e podem ajudar a meter o “ocidente na linha”, quiçá, levar as massas a aderir à revolução anti-capitalista).
Por minha parte, apenas ser humano, com emoções e sensibilidades.
Ora nem mais. Está tudo dito. É acabar com essa porcaria…
O negócio / arma da internet …
( http://escapebigtech.info/posts/privacy-one-of-the-most-fundamental-human-rights-yet-constantly-under-threat/ )
…
O negócio / arma da internet …
( http://escapebigtech.info/posts/privacy-one-of-the-most-fundamental-human-rights-yet-constantly-under-threat/ )
…
E o resto não parece diferente até nas tais políticas abusivas que nela se encontra assim com no tipo de esquizofrenia adotada não só pelas elites da U.E. como do nosso Pais que facilmente se constata ser factual, e não faltam exemplos.
A IA não tem moral nem nunca irá ter porque não tem empatia. A partir daí…. a IA terá a mente próxima de um psicopata.
Alguém refuta?