O que é alucinação de IA?
Alucinação de IA (AI hallucination) é quando um modelo de inteligência artificial, como um chatbot, apresenta uma informação falsa, inventada ou sem base nos dados com tom de total certeza, como se fosse um fato verdadeiro.
Em palavras simples
Sabe aquele colega que nunca admite que não sabe algo e, quando perguntado, responde qualquer coisa com muita segurança? A alucinação de IA é parecida. O chatbot não “mente” de propósito, mas foi feito para sempre produzir uma resposta fluente. Quando falta informação, ele pode preencher o buraco com algo que soa plausível: um livro que não existe, uma lei com número errado, uma estatística inventada ou um link quebrado.
O perigo é justamente esse tom confiante. Um erro escrito de forma bem organizada e educada parece muito mais crível do que um erro desajeitado.
Como funciona
Os chatbots modernos são movidos por um LLM, um grande modelo de linguagem. De forma simplificada, ele escreve prevendo, pedaço por pedaço, qual é o próximo trecho de texto mais provável a partir do que veio antes. Ele não consulta uma enciclopédia a cada frase: trabalha com padrões que aprendeu durante o treinamento.
Isso explica por que as alucinações acontecem:
- Lacunas no treinamento: se o assunto é raro, muito recente ou muito específico, o modelo tem poucos exemplos e tende a improvisar.
- Pressão para responder: muitos modelos foram ajustados para serem úteis, e às vezes “ser útil” vira dar uma resposta mesmo sem base.
- Perguntas com premissa errada: se você pergunta “por que o fato X aconteceu?” e X nunca aconteceu, a IA pode inventar uma explicação.
- Contexto longo ou confuso: em conversas muito extensas, o modelo pode misturar informações.
Técnicas como o RAG, que faz a IA consultar documentos confiáveis antes de responder, e a busca na web integrada ajudam a reduzir o problema, mas não o eliminam por completo.
Exemplos
- Processos inventados nos EUA (2023): no caso Mata v. Avianca, advogados apresentaram a um tribunal federal de Nova York uma petição com decisões judiciais que não existiam, geradas com ajuda do ChatGPT. O juiz aplicou multa de 5 mil dólares aos advogados e ao escritório.
- Chatbot de companhia aérea (2024): no Canadá, o chatbot do site da Air Canada informou a um cliente uma regra de reembolso que não correspondia à política real da empresa. Um tribunal de pequenas causas da Colúmbia Britânica decidiu que a companhia era responsável pela resposta e teve de indenizar o passageiro.
- Situações do dia a dia: referências bibliográficas que não existem em trabalhos escolares, receitas com medidas erradas, datas históricas trocadas e citações atribuídas à pessoa errada.
Por que isso importa para você
Se você usa IA para estudar, trabalhar ou tomar decisões, precisa tratar as respostas como um rascunho, não como verdade final. Algumas dicas práticas para reduzir e identificar alucinações:
- Peça as fontes e abra os links. Se a fonte não existir ou não disser aquilo, desconfie da resposta inteira.
- Dê contexto e material: cole o texto, o documento ou os dados e peça para a IA responder só com base neles. Um bom prompt faz muita diferença; veja nosso guia completo sobre o que é prompt.
- Autorize o “não sei”: escreva algo como “se não tiver certeza, diga que não sabe”.
- Use busca na web quando o assunto for recente, como notícias, preços ou leis.
- Confira em duas fontes independentes números, nomes, datas e citações antes de publicar ou repassar.
- Redobre o cuidado com saúde, dinheiro e direito: nesses temas, consulte sempre um profissional.
Para outros problemas comuns, veja também os erros mais comuns do ChatGPT e como resolver.
Termos relacionados
- LLM: o tipo de modelo em que as alucinações aparecem com mais frequência.
- RAG: técnica que busca documentos antes de responder para reduzir invenções.
- Chatbot: a interface de conversa onde a maioria das pessoas encontra o problema.
- Janela de contexto: o limite de texto que o modelo consegue considerar de uma vez.
- IA generativa: a família de sistemas que cria conteúdo novo e, por isso, pode criar erros novos.
Perguntas frequentes
Por que a IA inventa respostas em vez de dizer que não sabe?
Porque o modelo foi construído para gerar o texto mais provável, não para checar fatos. Quando faltam dados, ele preenche a lacuna com algo que parece correto. Alguns modelos já admitem dúvidas com mais frequência, mas nenhum está livre do problema.
É possível eliminar totalmente as alucinações?
Hoje, não. Técnicas como RAG, busca na web e melhores métodos de treinamento reduzem bastante os erros, mas a verificação humana continua necessária, principalmente em temas importantes.
Como saber se uma resposta da IA é uma alucinação?
Desconfie de detalhes muito específicos sem fonte, como números, nomes, datas e citações. Peça as referências, confira se elas existem e compare com fontes confiáveis e independentes.