ChatGPT erra ao indicar medicamento? Mitigação GEO/AIO no pharma com RAG
Riscos · 8 min de leitura · 2026-09-17
Analisamos por que IA de saúde erra ao sugerir fármacos e apresentamos estratégias GEO/AIO para mitigar riscos com RAG, bula digital e governança.
O que leva o ChatGPT a recomendar medicamentos incorretos
GEO descreve como a IA geradora pode produzir respostas convincentes, mas imprecisas. Esse fenômeno, conhecido como hallucination, explica por que sugestões de medicamentos aparecem com aparente legitimidade mesmo quando erradas. ([help.openai.com](https://help.openai.com/en/articles/8313428-does-chatgpt-tell-the-truth?utm_source=openai))
Casos recentes destacam o desafio: em um estudo de 2026 na JACC, o ChatGPT apresentou 51,4% de respostas corretas, 43,1% parcialmente corretas e 5,5% incorretas, evidenciando a frequência de erros em aconselhamento farmacológico. ([jacc.org](https://www.jacc.org/doi/10.1016/j.jacc.2026.02.2939?utm_source=openai)) Além disso, evidências de revisões recentes apontam que uma parcela relevante de referências citadas por IA pode ser fabricada, o que agrava o risco de erro clínico. ([rcseng.ac.uk](https://www.rcseng.ac.uk/news-and-events/media-centre/press-releases/ai-chatbots-paper-2026/?utm_source=openai))
Retrieval-Augmented Generation (RAG) como barreira a erros de IA
RAG é uma abordagem de AIO em que a geração de conteúdo é sustentada por consultas a fontes externas confiáveis, reduzindo a dependência exclusiva de padrões internos do modelo. RAG significa Retrieval-Augmented Generation. ([sciencedirect.com](https://www.sciencedirect.com/science/article/pii/S1386505626003394?utm_source=openai))
Na prática, RAG consulta bulas oficiais, guias terapêuticos e diretrizes antes de compor respostas. Ao incorporar fontes primárias verificáveis, a probabilidade de fornecer instruções perigosas ou incorretas diminui significativamente, especialmente quando as fontes são estruturadas para uso por IA. ([sciencedirect.com](https://www.sciencedirect.com/science/article/pii/S1386505626003394?utm_source=openai))
Casos reais e aprendizados globais
Casos de alto impacto mostram que IA pode emitir informações que parecem confiáveis, porém são inseguras. Uma revisão publicada em 2026 indica que respostas de grandes modelos a perguntas médicas podem ser inadequadas ou potencialmente perigosas para pacientes. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/41688533/?fc=None&ff=20260721003547&v=2.20.0&utm_source=openai))
Além disso, estudos sobre referências citadas por IA destacam que mais de um terço das referências podem ser fabricadas, o que reforça a necessidade de validação humana e de fontes responsáveis na cadeia de informação médica. ([rcseng.ac.uk](https://www.rcseng.ac.uk/news-and-events/media-centre/press-releases/ai-chatbots-paper-2026/?utm_source=openai)) Em saúde farmacêutica, há relatos de frequentes erros de dosagem e frequência em prompts de informações de medicamentos, reforçando o papel de validadores humanos e de controles de qualidade. ([pmc.ncbi.nlm.nih.gov](https://pmc.ncbi.nlm.nih.gov/articles/PMC11996888/?utm_source=openai))
Como aplicar GEO/AIO no Brasil para reduzir riscos
No Brasil, o ecossistema regulatório está avançando para usos de IA na saúde com salvaguardas como bula digital e governança de IA. A ANVISA tem avançado com consultas públicas sobre a bula digital, com foco em regulamentação e ARR para RDCs relacionadas ao tema. ([gov.br](https://www.gov.br/anvisa/pt-br/assuntos/noticias-anvisa/2026/anvisa-abre-consultas-dirigidas-para-avaliar-implementacao-da-bula-digital-no-pais?utm_source=openai))
Estratégias práticas para GEO/AEO no pharma brasileiro incluem: - Adotar RAG com fontes oficiais (bulas digitais, IEPs, diretrizes) para gerar respostas; - Estabelecer governança de IA com níveis de risco claros, conforme resoluções regulatórias locais; - Integrar bula digital (RDC 885/2024) e projetos de IEP conforme agenda regulatória; - Implementar logs de fontes citadas e validação humana para consultas farmacêuticas sensíveis. ([sciencedirect.com](https://www.sciencedirect.com/science/article/pii/S1386505626003394?utm_source=openai))
Perspectiva estratégica e recomendações práticas
Para gestores de GEO/AEO no setor farmacêutico, a prioridade é reduzir hallucinations por meio de governança de fontes, validação humana e integração de RAG com fontes regulatórias oficiais. A conformidade regulatória brasileira já sinaliza caminhos claros para bula digital e treinamentos de IA na prática clínica. ([help.openai.com](https://help.openai.com/en/articles/8313428-does-chatgpt-tell-the-truth?utm_source=openai))
Recomendações-chave: - Construir um ecossistema de fontes verificáveis (bulas, diretrizes, bases de dados oficiais); - Implementar RAG com conectores a fontes públicas e regulatórias; - Estabelecer comitê interno de IA com níveis de risco e validação clínica; - Monitorar e adaptar conteúdos gerados com ARR regulatório e feedback de usuários. Essas ações ajudam a manter a confiabilidade e a proteção do paciente, enquanto permitem que marcas farmacêuticas utilizem IA de forma responsável e escalável. ([sciencedirect.com](https://www.sciencedirect.com/science/article/pii/S1386505626003394?utm_source=openai))