O que é Alucinação de IA

Alucinação é o termo usado quando um modelo de linguagem afirma com convicção algo que não é verdade: um preço que não existe, uma data errada, uma lei inventada, uma citação que nunca foi escrita.

Não é defeito de um modelo específico nem falha de configuração. É consequência direta do funcionamento: o modelo produz a continuação mais plausível do texto, e plausível é diferente de verificado. Quando ele não tem a informação, o texto mais plausível é uma resposta que se parece com a certa.

Em uso empresarial, o risco é concreto: um agente de atendimento que inventa prazo ou preço gera problema com cliente e às vezes obrigação legal.

O que reduz isso a quase zero não é escolher outro modelo, é mudar o desenho. O modelo responde apenas com base em conteúdo fornecido pela empresa ou em dado consultado no sistema no momento da pergunta, e é instruído a dizer que vai chamar uma pessoa quando a pergunta sai desse território.