Alucinação
Quando o modelo inventa algo falso com total confiança — o risco número um da IA generativa.
Alucinação é quando um modelo gera uma informação que soa plausível mas é falsa: uma citação que não existe, uma função de biblioteca inventada, um número que ninguém forneceu. O problema não é o erro em si — é que ele vem com a mesma confiança da resposta certa.
Acontece porque o modelo não "consulta" fatos; ele prevê a continuação mais provável do texto. Quando não sabe, ele completa com o que parece encaixar. Por que importa: é a razão pela qual toda saída de IA usada para decisão — código, número, citação, diagnóstico — precisa de conferência humana. Técnicas como RAG e guardrails reduzem alucinação, mas nenhuma a elimina. Desconfiança produtiva é a única defesa que funciona sempre.