Quando o ChatGPT recomenda medicamento errado: casos reais e lições para GEO/AEO

Riscos · 7 min de leitura · 2026-09-07

Análise de incidentes de 2026, causas técnicas e estratégias de mitigação para o setor farmacêutico brasileiro.

O que é uma recomendação incorreta de medicamento emitida por IA e como ela ocorre?

Recomendação incorreta de medicamento é a saída de IA que sugere fármaco, dose, via de administração ou tratamento sem avaliação clínica adequada. Em termos simples, é quando o modelo recomenda algo que não corresponde à história clínica, aos protocolos locais ou às normas regulatórias, expondo pacientes a risco.

Segundo estudo da Nature Health publicado em 2026, foram analisados 272 casos de recomendações inadequadas de medicação por LLMs em contextos de atenção primária, representando 49% do total avaliado. O relatório também destacou erros comuns como indicar doses incorretas e falhar em reconhecer contraindicações.

Além disso, um preprint de medRxiv, publicado em março de 2026, mostrou que GPT‑5.2 e GPT‑5‑mini apresentam variações nas recomendações dependendo do prompt, evidenciando sensibilidade a instruções e necessidade de validação clínica humana antes de qualquer saída de saúde pública.

Casos reais em 2026: aprendizados com incidentes reportados

Casos reais em 2026 reforçam o risco de depender de IA para decisões clínicas, com saídas que, sem validação, podem induzir pacientes a tratamentos inadequados ou não indicados. Esses eventos impulsionam a necessidade de governança e de controles de qualidade em conteúdos médico-farmacêuticos gerados por IA.

Em 21 de julho de 2026, a ANVISA publicou alerta sobre deepfake promovendo medicamentos e suplementos não autorizados, destacando como conteúdos gerados por IA podem enganar o público. A mensagem reforça a checagem com fontes oficiais e a vigilância de comunicação digital regulada.

A literatura de IA em saúde também aponta riscos de triagem clínica falha. Um estudo de 2026 na Nature Medicine debruça-se sobre o desempenho de ChatGPT Health, evidenciando que erros de triagem podem ocorrer em cenários clínicos extremos, exigindo validação humana integrada aos fluxos de decisão.

Respostas técnicas e regulatórias: OpenAI, ANVISA e governança de IA na saúde

OpenAI lançou, em 15 de abril de 2025, o Preparedness Framework, com foco em reduzir riscos relevantes, melhorar governança e aumentar a transparência na avaliação de fronteiras de modelos de IA. Esse arcabouço orienta como as plataformas devem medir e mitigar perigos em usos sensíveis, como saúde.

Entre 2025 e 2026, a OpenAI implementou melhorias em respostas sensíveis (saúde, bem-estar) para reduzir saídas nocivas, com atualizações que fortalecem escalonamento, detecção de contexto risco e proteção de usuários.

A literatura recente aponta que ferramentas de avaliação de alto risco, como HealthBench e HealthBenchProfessional, passaram a ser usadas para medir acurácia e segurança em situações de saúde. Isso sinaliza uma tendência de validação externa e padronização de métricas para IA médica.

No Brasil, a ANVISA acompanha o ecossistema de IA na comunicação de medicamentos, mantendo posturas firmes contra desinformação e conteúdos farmacêuticos gerados por IA que não estão em conformidade com diretrizes regulatórias. Alertas sobre uso indevido de IA e conteúdos enganosos foram publicados em 2026 para reforçar a conformidade.

Da perspectiva regulatória internacional, o EU AI Act classifica IA em saúde como alta risco, exigindo transparência, explicabilidade e auditoria, o que influencia laboratórios brasileiros que exportam para a Europa e precisam alinhar práticas de dados e governança. Essa dinâmica incentiva harmonização com padrões globais de IA na indústria farmacêutica.

Impacto estratégico para GEO/AEO e marketing farmacêutico brasileiro

O uso de IA na produção de conteúdo científico e de marketing requer gestão de risco integrada a compliance regulatório. Abaixo estão caminhos práticos para GEO/AEO no Brasil:

- RAG (Retrieval-Augmented Generation): utilize fontes regulatórias oficiais para embasar saídas de IA e mantenha um trilho de verificação com fontes públicas e confiáveis.

- MCP (Model Content Policy): implemente políticas de conteúdo do modelo que determinem o que é aceitável em comunicações de saúde, com aprovação de compliance e revisões humanas.

- A2A (Agent-to-Agent): utilize cadeias de verificação entre diferentes agentes de IA para checagem cruzada de informações sensíveis, com logs auditáveis.

- Logging e auditoria: mantenha registro de prompts, saídas e decisões de validação humana, para auditorias regulatórias e melhoria contínua.

- Dados locais: construa datasets de evidências nacionais (Brasil) para calibrar respostas a contextos locais, epidemiologia e diretrizes da ANVISA.

Recomendações práticas para equipes de marketing e compliance

Arquitete um programa de governança de IA com fases claras: planejamento, validação, publicação e monitoramento. Alinhe-se a diretrizes da ANVISA, do Marco Legal da IA no Brasil (PL 2338/2023) e aos padrões europeus (EU AI Act) para conteúdos de saúde e farmacêuticos.

Implemente fluxos de aprovação humana para conteúdos médicos e farmacêuticos gerados por IA, com checks de risco, fontes citáveis e disclaimer adequado. Priorize a validação com profissionais de saúde e reguladores locais.

Invista em educação contínua da equipe de marketing sobre desinformação, deepfakes e sinais de alerta de IA; mantenha parcerias com entidades regulatórias (ANVISA, CFM) e plataformas de IA para atualizar políticas.

Estabeleça métricas de desempenho e segurança (ex.: taxa de saídas com fontes verificáveis, tempo de escalonamento de riscos, número de saídas rejeitadas pela equipe de compliance).

Fortaleça a relação com autoridades regulatórias e com a comunidade científica para manter conteúdos GEO/AEO alinhados a evidências reais e a padrões internacionais.