Alucinações em Modelos de IA Generativa e seus Impactos na Medicina Veterinária

1. Introdução

A Inteligência Artificial (IA) generativa, particularmente os Large Language Models (LLMs), revolucionou a maneira como a informação é produzida, interpretada e aplicada. Esses modelos, fundamentados em arquiteturas Transformer, são o alicerce das IAs generativas contemporâneas, como o ChatGPT, o Gemini e o Copilot.

Contudo, esse avanço tecnológico é acompanhado por um fenômeno de crescente relevância: as alucinações de IA. Elas se manifestam na produção de respostas sintaticamente coesas, mas que carecem de veracidade factual.

No campo da Medicina Veterinária, uma área que exige precisão diagnóstica rigorosa, profunda contextualização biológica e uma análise cuidadosa das peculiaridades interespecíficas, as repercussões dessas distorções podem ser severas. A difusão de dados incorretos por sistemas de IA tem o potencial de influenciar negativamente a conduta clínica, resultando em diagnósticos equivocados, tratamentos inadequados e decisões comprometidas.

2. Causas das Alucinações em Modelos Generativos

As alucinações em modelos de IA surgem quando a informação gerada diverge da realidade observável ou do conjunto de dados utilizado em seu treinamento. Dentre as causas primárias, destacam-se:

Vieses e lacunas de dados: A utilização de bases de dados não padronizadas, incompletas ou com representação insuficiente de espécies menos comuns limita a capacidade de generalização do modelo. A escassez de datasets específicos e equilibrados entre as diversas espécies constitui um dos maiores obstáculos para a acurácia diagnóstica em aplicações veterinárias de IA.
Parâmetros de geração (sampling strategies): Variáveis como temperature e top-k sampling influenciam diretamente o grau de aleatoriedade no texto gerado. Valores extremos podem aumentar significativamente a probabilidade de respostas imprecisas ou fantasiosas.
Funções de perda inadequadas: Quando o objetivo primordial do treinamento é a fluência textual em detrimento da conformidade factual, o modelo é incentivado a “inventar” respostas que soam plausíveis, mas que não correspondem à verdade.
Overfitting e underfitting: Um treinamento desequilibrado pode resultar em overfitting (onde o modelo memoriza ruídos ou detalhes irrelevantes dos dados de treinamento, perdendo a capacidade de generalizar para novos dados) ou underfitting (onde o modelo é excessivamente simplificado e incapaz de captar padrões essenciais, levando a conclusões incorretas).

Essas falhas podem ser categorizadas em três tipos principais:

Factuais: Invenção de informações concretas, como dosagens farmacológicas errôneas ou dados históricos inexistentes.
Contextuais: Confusão entre diferentes espécies, raças ou domínios de conhecimento, resultando em aplicação inadequada de informações.
Inferenciais: Formulação de conclusões logicamente falhas, mesmo quando baseadas em premissas consideradas verdadeiras.

3. Riscos e Impactos na Prática Veterinária

A integração da IA generativa no cotidiano clínico veterinário, em áreas como radiologia, patologia, diagnóstico laboratorial e telemedicina, acarreta riscos substanciais. Os principais impactos incluem:

Inacurácia diagnóstica: A IA pode sugerir diagnósticos diferenciais que não são compatíveis com a literatura científica estabelecida ou com a realidade clínica do paciente.
“Citation hallucinations”: A geração de referências bibliográficas falsas, distorcidas ou inexistentes compromete severamente a credibilidade científica das informações (Maynez et al., 2020).
Erros farmacológicos: Um dos riscos mais críticos envolve a confusão entre espécies. Um exemplo clássico é o uso incorreto de paracetamol em gatos, uma substância que pode ser fatal para esses animais.

A crescente digitalização de prontuários médicos e a expansão acelerada da telemedicina veterinária amplificam o perigo de propagação de informações incorretas geradas por IA. Isso pode influenciar diretamente decisões clínicas e terapêuticas em tempo real. A confiança excessiva dos profissionais na aparente coerência linguística das respostas da IA pode obscurecer a ausência de um fundamento técnico científico, tornando a detecção desses erros um desafio ainda maior.

4. O Papel dos Conselhos (CFMV/CRMV) na Regulação da Inteligência Artificial

O Conselho Federal de Medicina Veterinária (CFMV) e os Conselhos Regionais (CRMV), como o CRMV-SP, desempenham um papel essencial na discussão ética e regulatória sobre o uso de tecnologias inteligentes na Medicina Veterinária e na Zootecnia.

Embora ainda não exista uma resolução específica que regulamente o uso da IA generativa, os conselhos já atuam na regulamentação de tecnologias como a Telemedicina (Resolução CFMV nº 1.465/2022). O tema da IA é pauta constante em publicações oficiais e eventos científicos.

As principais conexões entre os Conselhos e a IA generativa incluem:

Discussão e regulamentação: Os Conselhos promovem debates e publicam matérias sobre os avanços, desafios e tendências da IA na profissão, incluindo aspectos éticos e de formação profissional (Revista CFMV, 2024).
Aplicação na saúde animal: A IA já é utilizada para analisar imagens radiográficas, ultrassonografias e exames laboratoriais com alta precisão, auxiliando no diagnóstico precoce de doenças. O CRMV-SP, por exemplo, já abordou iniciativas e empresas que utilizam IA na saúde animal em seus informativos (Informativo CRMV-SP, 2025).
Projetos inovadores: Projetos de IA têm sido desenvolvidos em parceria com universidades, especialmente no setor leiteiro, demonstrando o potencial de aplicação prática dessas tecnologias.
Educação continuada: A IA generativa oferece oportunidades para criação de conteúdos personalizados e simulações realistas, elevando a qualidade da formação profissional.
Fiscalização e orientação: Os Conselhos utilizam tecnologias digitais para aprimorar processos de comunicação e fiscalização, assegurando a qualidade e a ética no exercício da profissão.

Assim, os Conselhos atuam como agentes orientadores e reguladores, promovendo o uso ético, responsável e cientificamente fundamentado da Inteligência Artificial na Medicina Veterinária.

5. Estratégias de Mitigação

A mitigação das alucinações requer tanto abordagens técnicas quanto protocolos éticos e regulatórios. Entre as principais estratégias estão:

Curadoria de dados veterinários: Utilização de datasets validados, auditáveis e provenientes de bases científicas confiáveis, como PubMed, CAB Abstracts e Vetstream.
RAG (Retrieval-Augmented Generation): Combina geração de texto com recuperação de informações em tempo real, garantindo maior ancoragem factual (Lewis et al., 2020).
Modelos híbridos: Integração de LLMs com sistemas simbólicos ou baseados em regras clínicas.
Auditoria humana e validação cruzada: Revisão obrigatória por profissionais veterinários antes da aplicação de qualquer recomendação clínica.
Adoção de normas internacionais: Conformidade com diretrizes como a ISO/IEC 23894:2023, que trata da gestão de risco e do uso ético da IA.

6. Perspectivas Éticas e Futuras

O avanço da IA na Medicina Veterinária deve priorizar transparência algorítmica, rastreamento de decisões e interpretabilidade dos modelos.

O futuro aponta para:

Modelos específicos de domínio: IAs treinadas exclusivamente em dados veterinários, adaptadas a diferentes espécies.
Sistemas multimodais: Integração de informações textuais, radiográficas e laboratoriais para diagnósticos mais completos.
Explicabilidade (XAI): Desenvolvimento de modelos capazes de justificar suas respostas, fortalecendo a confiança do profissional humano.

A IA deve ser encarada como uma ferramenta de apoio à decisão clínica, nunca como substituta do julgamento Médico Veterinário.

7. Conclusão

As alucinações em modelos de IA generativa representam um desafio técnico e ético emergente. A verdadeira integração da Inteligência Artificial na Medicina Veterinária depende de protocolos de validação robustos, regulamentação ética e formação continuada dos profissionais.

Somente com modelos auditáveis, transparentes e baseados em evidências será possível garantir a segurança, a confiabilidade e o bem-estar animal.

8. Referências

Chen, T. et al. (2023). Generative AI in Healthcare: Promise and Pitfalls. Nature Digital Medicine.
Conselho Federal de Medicina Veterinária (CFMV). (2022). Resolução Nº 1.465, de 27 de junho de 2022. Regulamenta o uso da Telemedicina Veterinária.
Conselho Regional de Medicina Veterinária do Estado de São Paulo (CRMV-SP). (2025). Informativo CRMV-SP: Edição 98 - Inteligência Artificial.
Conselho Regional de Medicina Veterinária do Estado de São Paulo (CRMV-SP). (2025). 1º Encontro Científico da Revista MV&Z.
ISO/IEC 23894:2023. Artificial Intelligence: Guidance on Risk Management.
Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems (NeurIPS).
Marcus, G. & Davis, E. (2023). Rebooting AI: Building Artificial Intelligence We Can Trust. Pantheon.
Maynez, J. et al. (2020). On Faithfulness and Factuality in Abstractive Summarization. ACL Anthology.
OpenAI. (2024). Technical Report on Model Limitations and Hallucinations.
Revista CFMV. (2024). Quais os desafios da utilização da Inteligência Artificial (IA) na formação dos profissionais da Medicina Veterinária e da Zootecnia? Brasília: CFMV.
Russell, S. & Norvig, P. (2022). Artificial Intelligence: A Modern Approach (4th ed.). Pearson Education.

Você já percebeu alguma vez que um modelo de IA gerou informações incorretas ou inesperadas? Como lidou com isso?