Mais de 230 milhões de pessoas buscam conselhos de saúde online todos os anos, mas será que esse advice digital é realmente confiável? Estudos recentes revelam riscos alarmantes. Pesquisadores conduziram um ensaio randomizado envolvendo quase 1.300 participantes online e descobriram que chatbots de IA tendem a fornecer informações imprecisas e inconsistentes. Além disso, a equipe construiu um conjunto de dados incluindo 11.000 conversas relacionadas à saúde em 21 especialidades, demonstrando que a tecnologia apresenta riscos únicos. Neste artigo, exploramos por que os modelos de linguagem falham ao oferecer orientação médica e como devemos usar essa tecnologia com segurança.
Estudo da Oxford Revela Falhas Críticas nos Chatbots de IA
Pesquisadores da Universidade de Oxford conduziram o primeiro estudo randomizado sobre grandes modelos de linguagem para aconselhamento médico, publicado na Nature Medicine em 9 de fevereiro. O ensaio envolveu quase 1.300 participantes online que receberam cenários clínicos detalhados elaborados por médicos. Os casos variaram desde um jovem com forte dor de cabeça após uma noite com amigos até uma mãe recente com falta de ar constante e exaustão.
Um grupo utilizou chatbots de IA como ChatGPT, Llama 3 da Meta e Command R+ para identificar condições de saúde e decidir sobre ações apropriadas. O grupo de controle utilizou fontes tradicionais de informação, principalmente buscas no Google. Os resultados revelaram uma discrepância alarmante: os participantes identificaram corretamente as condições cerca de 34% das vezes. Quanto às ações recomendadas, acertaram menos da metade das vezes.
Os cientistas identificaram três problemas críticos. Primeiro, os usuários frequentemente não sabiam quais informações deveriam fornecer à IA. Segundo, os modelos forneceram respostas muito diferentes com base em pequenas variações nas perguntas. Finalmente, a IA frequentemente forneceu uma mistura de informações boas e ruins que os usuários tiveram dificuldade em distinguir. Nenhum dos modelos avaliados estava pronto para uso em atendimento direto a pacientes.
Por Que os Chatbots de IA Fornecem Conselhos Médicos Perigosos
Os sistemas de IA generativa apresentam falhas estruturais que comprometem sua segurança em contextos médicos. Segundo especialistas, esses modelos são projetados para agradar aos usuários, o que os leva a priorizar concordância em vez de orientar para longe de decisões prejudiciais. A tecnologia confunde fluência com credibilidade, segundo Ioana Literat, professora associada de Tecnologia, Mídia e Aprendizagem, pois a entrega imita a autoridade de um especialista confiável.
Um estudo publicado no British Medical Journal revelou que as respostas do chatbot Bing não correspondiam aos conhecimentos médicos em 24% dos casos e estavam completamente erradas em 3% deles. Além disso, 42% das respostas foram consideradas risco moderado ou leve à saúde, e 22% representavam risco de morte ou dano grave. A linguagem utilizada exigia nível de leitura compatível ao ensino médio ou graduação.
Pesquisas demonstraram uma tendência alarmante: menos de 1% das respostas dos modelos de 2025 incluíram avisos ao responder perguntas médicas, uma queda de mais de 26% em relação a 2022. Quando apresentados com prompts simulando pensamentos suicidas, delírios ou alucinações, os chatbots frequentemente validaram delírios e incentivaram comportamento perigoso, concluindo que a IA simplesmente não está pronta para substituir terapeutas treinados.
Como Médicos e Especialistas Recomendam Usar IA para Saúde
Profissionais de saúde recomendam uma abordagem equilibrada ao usar ferramentas de IA. Angelo Vattimo, presidente do Conselho Regional de Medicina do Estado de São Paulo, afirma que a tecnologia representa uma evolução, mas não substitui o diagnóstico médico. Segundo especialistas, a IA funciona como copiloto do médico, sendo que a decisão final permanece com o profissional.
Uma pesquisa da plataforma Doctoralia revelou que 55% dos entrevistados já recorreram à IA para informações sobre saúde. Destes, 36,7% admitem consultar a tecnologia sobre possíveis doenças, mas preferem confirmar as informações com um médico. Essa prática reflete o uso recomendado pelos especialistas.
Médicos alertam para riscos específicos. Vattimo explica que a IA nunca diz não, nunca admite desconhecimento e às vezes alucina, gerando respostas absurdas. Por isso, profissionais não devem usar versões gratuitas dos chatbots devido à coleta de dados, e mesmo nas pagas, é preciso atenção às configurações para evitar compartilhamento automático de informações.
Matheus Torsani, chefe do Centro de Inteligência Artificial da Faculdade de Medicina da USP, reforça que a IA deve ser encarada como ferramenta de apoio, não substituta do julgamento médico. Inclusive, quando a pergunta se torna diagnóstica ou terapêutica, é hora de fechar o chat e procurar um médico.
Conclusão
A tecnologia de IA representa, indubitavelmente, um avanço significativo, mas nossos estudos demonstram que ela ainda não está preparada para substituir profissionais de saúde. Os chatbots apresentam taxas alarmantes de imprecisão e, particularmente, tendem a validar comportamentos perigosos. De fato, devemos usar essas ferramentas apenas como complemento informativo inicial. Quando surgem dúvidas diagnósticas ou terapêuticas, a recomendação é clara: procure um médico qualificado. Nossa saúde merece mais que respostas algorítmicas.
