Médico recorre ao Gemini e entrega recomendações da IA sem validação clínica

Sim, o mundo mudou e a IA é hoje o “médico de família” de muitos portugueses. Aliás, já começa a ser um grande auxíliar de memória (e não só) para a classe médica. Segundo informações, um urologista do Hospital da Trofa terá entregue a uma paciente recomendações produzidas pelo Gemini.

É errado consultar a IA para ajudar na informação médica?

A utilização da Inteligência Artificial (IA) na medicina continua a ganhar espaço, mas um caso ocorrido em Portugal está a gerar polémica e a levantar questões sobre os limites da tecnologia na prática clínica.

Um urologista do Hospital da Trofa terá entregue a uma paciente recomendações produzidas pelo Gemini, o modelo de IA da Google, sem qualquer validação médica aparente antes da sua entrega.

A situação motivou críticas da Ordem dos Médicos, que relembra que estas ferramentas podem apoiar o trabalho clínico, mas nunca substituir a avaliação e a responsabilidade do profissional de saúde.

Paciente recebeu uma “Vista geral do Gemini”

Segundo a notícia avançada pelo Correio da Manhã, o caso ocorreu durante uma consulta de urologia realizada a 2 de junho.

A paciente procurava aconselhamento relacionado com um problema renal e esperava receber um plano nutricional adaptado ao seu estado clínico. Em vez disso, terá recebido uma folha impressa contendo recomendações geradas pelo Gemini, identificadas no topo do documento com a expressão “Vista geral de IA”.

O documento foi entregue diretamente pelo médico, sem qualquer indicação de que tivesse sido revisto, adaptado ou validado para aquele caso clínico específico.

Segundo o testemunho da paciente, citado pelo jornal, o profissional limitou-se a imprimir o conteúdo gerado automaticamente, deixando a sensação de que não existiu uma análise personalizada.

Ordem dos Médicos: “A IA é um apoio, não um substituto”

Questionada sobre o caso, a Ordem dos Médicos foi clara ao recordar que a responsabilidade sobre qualquer ato clínico pertence sempre ao médico.

O bastonário Carlos Cortes afirma que:

A inteligência artificial é um apoio, não um substituto.

A Ordem sublinha ainda que toda a informação produzida por sistemas de IA deve ser obrigatoriamente validada antes de ser entregue ao doente, independentemente da tecnologia utilizada.

Além disso, distingue duas realidades diferentes:

• Utilizar sistemas de apoio clínico devidamente validados científica e tecnicamente;
• Recorrer diretamente a um chatbot generativo, cujas fontes não são certificadas e cuja informação pode conter erros.

Segundo a Ordem, mesmo que uma ferramenta de IA seja utilizada durante a consulta, toda a responsabilidade civil, ética e disciplinar continua a recair sobre o médico.

A IA pode ajudar, mas exige supervisão humana

Apesar deste episódio, especialistas defendem que a Inteligência Artificial pode representar uma enorme mais-valia na medicina quando utilizada corretamente.

Atualmente já existem aplicações para apoio ao diagnóstico, elaboração de notas clínicas, resumo de exames, apoio à decisão clínica,  comunicação com os doentes e organização administrativa.

Contudo, a comunidade científica é praticamente unânime em afirmar que os modelos generativos devem funcionar como um “copiloto” do médico e nunca como um sistema autónomo de decisão. A supervisão humana continua a ser considerada essencial para garantir segurança, rigor científico e adaptação ao historial de cada paciente.

Estudos mostram que os chatbots ainda cometem muitos erros

O caso surge numa altura em que continuam a ser publicados estudos sobre a fiabilidade dos grandes modelos de linguagem na área da saúde.

Uma investigação publicada este ano na BMJ Open, que analisou respostas produzidas por cinco modelos de IA, concluiu que 49,6% das respostas apresentavam problemas relevantes e que 19,6% eram consideradas altamente problemáticas.

Os investigadores identificaram ainda várias limitações importantes:

Os autores defendem que estas ferramentas exigem regulamentação, formação adequada dos profissionais e validação humana permanente antes de serem utilizadas em contexto clínico.

A IA está a mudar a medicina, mas não substitui o médico

A utilização de Inteligência Artificial nos cuidados de saúde continuará inevitavelmente a crescer. Os grandes modelos linguísticos já demonstram capacidade para acelerar tarefas administrativas, resumir documentação clínica e apoiar decisões médicas.

No entanto, este caso mostra precisamente onde reside a principal preocupação: quando a tecnologia deixa de ser uma ferramenta de apoio e passa a substituir o julgamento clínico.

A mensagem deixada pela Ordem dos Médicos é clara: qualquer informação produzida por IA deve ser analisada, validada e assumida pelo profissional de saúde antes de chegar ao doente. A responsabilidade clínica continua a ser exclusivamente humana.