Glossário de IA
Alucinação
Alucinação é quando o modelo produz uma informação plausível e errada — número, cláusula, prazo ou fonte que não existem. Não é falha de configuração: é consequência de um sistema que gera a continuação mais provável do texto.
O modelo não distingue entre saber e parecer. Diante de uma pergunta cuja resposta não está no contexto, ele completa com o que soa provável — e o resultado costuma vir com a mesma confiança de uma resposta correta.
Por isso a estratégia não é procurar um modelo que não alucine, e sim montar o sistema para que a alucinação tenha pouco espaço: ancorar em documento recuperado, exigir citação, restringir o escopo, validar a saída contra o sistema de origem e desviar assunto sensível para regra fixa ou para um humano.
Também importa medir. Sem um conjunto de perguntas com gabarito rodando a cada mudança, o time descobre a regressão pelo cliente.
Também aparece como: hallucination, invenção do modelo.
Onde alucinação entra no seu processo?
Trinta minutos, uma conversa direta e uma resposta honesta sobre o que vale construir agora e o que pode esperar.
Sem compromisso · resposta em até 24h