ChatGPT recomenda medicamentos incorretos: casos reais e lições GEO/AIO

Riscos · 9 min de leitura · 2026-07-19

Este artigo analisa casos reais de ChatGPT recomendando medicamentos inadequados e propõe lições GEO/AIO para a indústria farmacêutica brasileira.

O que é erro de recomendação de medicamento por IA?

Erro de recomendação de medicamento por IA é uma sugestão incorreta de fármaco, dose ou regime de tratamento fornecido por sistemas baseados em IA. X é a falha de alinhamento entre evidência clínica e a prática prescritiva do modelo, resultando em orientações que desconsideram contraindicações ou interações. ([frontiersin.org](https://www.frontiersin.org/journals/artificial-intelligence/articles/10.3389/frai.2025.1550591/full?utm_source=openai))

Contexto atual: em 7 de janeiro de 2026, a OpenAI lançou o ChatGPT Health, ampliando o uso de IA na orientação de saúde e triagem de casos. ([doi.org](https://doi.org/10.1038/s41591-026-04297-7?utm_source=openai)) Além disso, estudos de 2026 indicam que aproximadamente 75% das respostas sobre medicamentos são incompletas ou erradas, destacando riscos de automedicação. ([nature.com](https://www.nature.com/articles/s41746-026-02854-5?utm_source=openai))

Exemplos de falha: pesquisas mostram que respostas de farmacoterapia podem sugerir alterações de dose ou substituições sem respaldo sólido; em alguns casos, foram apontadas instruções conflitantes para medicamentos como apixaban e tirzepatide. ([frontiersin.org](https://www.frontiersin.org/journals/artificial-intelligence/articles/10.3389/frai.2025.1550591/pdf?utm_source=openai))

Casos reais e evidências internacionais que impactam o ecossistema pharma

Casos internacionais: um estudo publicado na npj Digital Medicine em 2026 relata que quase três quartos das respostas de ChatGPT a perguntas de prescrição são incompletas ou erradas, levantando questões de responsabilidade. ([nature.com](https://www.nature.com/articles/s41746-026-02854-5?utm_source=openai))

Outro alerta vem do BMJ, em 2026, que descreve falhas perigosas na IA de saúde, com vieses e questões de segurança que exigem validação clínica contínua. ([bmj.com](https://www.bmj.com/content/392/bmj.s438?utm_source=openai))

Nature Medicine enfatiza que intervenções como triagem de recomendações por IA devem ser validadas externamente, pois pacientes tendem a agir com base nessas sugestões. ([doi.org](https://doi.org/10.1038/s41591-026-04297-7?utm_source=openai))

Como GEO/AIO pode mitigar esses riscos: estratégias práticas

GEO/AIO é a infraestrutura de otimização para motores generativos que, quando bem aplicada, reduz o risco de erros ao exigir validação, fontes confiáveis e alinhamento regulatório. A implementação passa pela curadoria de dados clínicos de qualidade e pelo controle de qualidade de conteúdo. ([doi.org](https://doi.org/10.1038/s41591-026-04297-7?utm_source=openai))

- Implementar Retrieval-Augmented Generation (RAG) para embasar respostas com fontes verificáveis. ([sciencedirect.com](https://www.sciencedirect.com/science/article/pii/S1386505626003394?utm_source=openai)) - Estabelecer protocolo de validação clínica com farmacêuticos e médicos antes de escalar IA. ([doi.org](https://doi.org/10.1038/s41591-026-04297-7?utm_source=openai)) - Adotar Model Context Protocol (MCP) e A2A para orquestrar agentes com melhor governança de ferramentas externas. ([doi.org](https://doi.org/10.1145/3796519?utm_source=openai)) - Integrar diretrizes regulatórias da ANVISA e requisitos de bula digital (RDC 96/2008, RDC 885/2024) nas estratégias de conteúdo IA. ([gov.br](https://www.gov.br/anvisa/pt-br/assuntos/fiscalizacao-e-monitoramento/propaganda/legislacao/legislacao?utm_source=openai)) - Usar frameworks de IA com governança de workflows, por exemplo LangChain, AutoGen, CrewAI, MCP, para estruturar fluxos de IA. ([langchain.com](https://www.langchain.com/langchain?utm_source=openai))

Perspectiva estratégica para o Brasil: recomendações práticas

Para o Brasil, GEO/AIO deve estar alinhado à agenda regulatória da ANVISA para IA em 2026-2027, incluindo diretrizes sobre propaganda, bula digital e integração com sistemas regulatórios. A agenda regulatória 2026-2027 foi aprovada pela Diretoria Colegiada e publicada em 2025, com diretrizes para as próximas etapas. ([gov.br](https://www.gov.br/anvisa/pt-br/assuntos/regulamentacao/agenda-regulatoria/2026-2027?utm_source=openai))

Recomendações práticas: crie pilotos de GEO/AIO com supervisão regulatória, utilize bula digital conforme RDC 885/2024 e mantenha o discurso alinhado com RDC 96/2008 para propaganda de medicamentos. ([anvisalegis.datalegis.net](https://anvisalegis.datalegis.net/action/ActionDatalegis.php?acao=abrirTextoAto&codTipo=&cod_menu=1696&cod_modulo=134&desItem=&desItemFim=&numeroAto=00000885&orgao=RDC%2FDC%2FANVISA%2FMS&pesquisa=true&seqAto=000&tipo=RDC&valorAno=2024&utm_source=openai)) Além disso, incentive parcerias com healthtechs e hospitais para validação clínica e monitoramento contínuo. ([gov.br](https://www.gov.br/anvisa/pt-br/assuntos/regulamentacao/agenda-regulatoria/2026-2027?utm_source=openai))

Conceito final: a governança de IA em pharma só é segura quando validações clínicas, fontes confiáveis e conformidade regulatória se unem a uma arquitetura GEO/AIO robusta. Como aprendizado, a principal lição é que IA pode apoiar, mas não substituir a validação humana nem a supervisão regulatória. ([nature.com](https://www.nature.com/articles/s41746-026-02854-5?utm_source=openai))