Teste recente mostrou respostas diferentes entre IAs sobre medicamentos para emagrecimento e reacendeu o alerta sobre os limites da tecnologia na saúde.
A inteligência artificial já faz parte da rotina de milhões de brasileiros, mas uma pergunta aparentemente simples pode se transformar em um problema quando envolve saúde. Um teste recente com quatro chatbots mostrou que sistemas de IA podem apresentar respostas diferentes diante de dúvidas sobre medicamentos para emagrecimento, inclusive mencionando alternativas que não são autorizadas no Brasil. O episódio chamou atenção para uma questão cada vez mais importante: até onde é seguro confiar em uma inteligência artificial para tomar decisões relacionadas ao próprio corpo? (Folha de S.Paulo)
A tecnologia pode ajudar a organizar informações, explicar termos médicos e preparar perguntas para uma consulta, mas não funciona como substituta de avaliação profissional. Além disso, respostas produzidas por IA podem parecer convincentes mesmo quando estão incompletas, desatualizadas ou erradas. Para quem utiliza essas ferramentas no cotidiano, entender como elas funcionam e reconhecer seus limites passou a ser uma forma de segurança digital e também de cuidado com a saúde.
Por que uma inteligência artificial pode dar uma resposta errada sobre saúde?
Chatbots de IA generativa não funcionam como uma enciclopédia médica tradicional. Eles produzem respostas a partir de padrões aprendidos durante seu treinamento e de mecanismos que estimam quais informações são mais adequadas para responder ao comando recebido. Isso significa que uma resposta bem escrita, detalhada e aparentemente segura não é, por si só, uma garantia de que o conteúdo esteja correto ou seja adequado para determinada pessoa.
O problema fica mais evidente quando a pergunta envolve medicamentos, doses, contraindicações ou tratamentos. Uma recomendação pode ignorar idade, histórico médico, interações medicamentosas, alergias ou outras condições que somente uma avaliação individual consegue considerar. No teste divulgado nesta semana, realizado com Perplexity, ChatGPT, Claude e Gemini, as respostas sobre alternativas mais baratas à tirzepatida variaram significativamente, e uma das ferramentas chegou a sugerir produtos comercializados no Paraguai que não são autorizados no Brasil. A Agência Nacional de Vigilância Sanitária informou que analisaria o caso. (Folha de S.Paulo)
Isso revela uma característica importante da IA: o chatbot pode responder à pergunta, mas não necessariamente compreender a situação clínica de quem pergunta. Mesmo quando a ferramenta apresenta ressalvas, o usuário pode interpretar a resposta como uma orientação personalizada. Por isso, quanto maior o risco associado à decisão, menor deve ser a confiança depositada exclusivamente na inteligência artificial.
Como usar IA para pesquisar saúde sem transformar o chatbot em médico?
Isso não significa que a inteligência artificial seja inútil para quem busca informações sobre saúde. Pelo contrário, a tecnologia pode ser utilizada como ferramenta de apoio para traduzir termos técnicos, organizar informações já recebidas de um profissional, preparar uma lista de dúvidas para uma consulta ou explicar, em linguagem simples, conceitos presentes em um exame. O uso mais seguro acontece quando a IA ajuda o usuário a entender informações, e não quando passa a determinar o que ele deve fazer.
Uma boa prática é utilizar perguntas que deixem claro o objetivo educativo. Em vez de perguntar “qual remédio devo tomar?”, por exemplo, o usuário pode pedir uma explicação sobre como determinado tratamento funciona, quais são seus efeitos adversos conhecidos ou quais perguntas deveria levar ao médico. Ainda assim, as respostas precisam ser verificadas em fontes confiáveis, especialmente quando envolverem medicamentos, diagnósticos ou sintomas persistentes. A tecnologia deve funcionar como uma camada adicional de informação, não como autoridade final.
O risco aumenta quando a pessoa procura uma solução rápida para um problema que exige avaliação profissional. A IA pode apresentar informações verdadeiras em determinado contexto e, mesmo assim, produzir uma orientação inadequada para outro indivíduo. Esse fenômeno é especialmente preocupante em temas relacionados a emagrecimento, saúde mental, medicamentos controlados e doenças crônicas, nos quais uma decisão errada pode provocar consequências reais.
Para o usuário brasileiro, também existe uma questão regulatória. Medicamentos e tratamentos precisam observar as regras sanitárias nacionais, e uma informação encontrada na internet não significa que determinado produto seja autorizado ou seguro para comercialização no país. Por isso, verificar informações junto à Anvisa, ao Ministério da Saúde e a profissionais habilitados continua sendo essencial.
O que essa discussão revela sobre o futuro da IA na saúde?
O episódio também mostra que o debate sobre inteligência artificial não está mais restrito à tecnologia. Conforme os chatbots passam a ser utilizados para tirar dúvidas sobre alimentação, medicamentos, sintomas e tratamentos, a qualidade das respostas começa a ter impacto direto na vida cotidiana. A expansão da saúde digital exige, portanto, não apenas modelos mais capazes, mas mecanismos de segurança capazes de identificar situações em que a ferramenta deveria evitar uma resposta prescritiva ou direcionar o usuário para atendimento profissional.
A preocupação também envolve privacidade. Informações sobre doenças, medicamentos, exames e histórico clínico podem ser extremamente sensíveis, e o usuário precisa entender como determinada plataforma trata os dados inseridos. No Brasil, informações relacionadas à saúde são classificadas como dados pessoais sensíveis pela Lei Geral de Proteção de Dados, o que reforça a necessidade de cautela antes de compartilhar documentos, resultados de exames ou detalhes identificáveis em qualquer serviço digital.
A tendência é que a inteligência artificial continue ganhando espaço na saúde, inclusive em aplicações profissionais. O Ministério da Saúde mantém uma estrutura dedicada à transformação digital do SUS, enquanto iniciativas de pesquisa e inovação buscam ampliar o uso responsável de dados e tecnologias digitais no setor. (Serviços e Informações do Brasil)
O desafio será encontrar equilíbrio entre inovação e segurança. Para o consumidor, isso significa desenvolver uma espécie de “alfabetização em IA”: saber o que perguntar, desconfiar de respostas excessivamente categóricas, verificar informações e reconhecer quando uma situação exige atendimento humano. A inteligência artificial pode ser uma excelente ferramenta para compreender melhor a saúde, mas não deve transformar uma conversa com um chatbot em substituto de consulta, diagnóstico ou prescrição.
Nos próximos anos, a diferença entre uma boa e uma má experiência com IA na saúde provavelmente estará menos na capacidade de gerar textos convincentes e mais na capacidade de reconhecer limites. Ferramentas responsáveis precisarão indicar incertezas, evitar recomendações perigosas e encaminhar usuários para fontes ou profissionais adequados quando necessário. Para quem utiliza tecnologia no dia a dia, a regra mais importante é simples: quanto maior o risco da decisão, maior deve ser a necessidade de validação humana. A IA pode acelerar o acesso à informação, mas a responsabilidade pela decisão de saúde não deve ser transferida automaticamente para um chatbot.