AI 幻觉是什么？为什么 AI 会一本正经地胡说八道

AI 幻觉指大模型给出看起来流畅可信、实际上错误或凭空编造的内容。这篇用不涉及公式的方式讲清它从哪里来、哪些场景最容易出现，以及日常使用 ChatGPT、Claude、Gemini 时怎样降低被误导的概率。

先看一个典型场景

你问 AI：「某篇论文的作者是谁？发表在哪一年？」它很快给出了作者名、年份、期刊名，格式工整，语气笃定。但当你去搜索时，发现这篇论文根本不存在。

这就是 AI 幻觉（Hallucination）：模型生成了看起来合理、实际上错误或凭空编造的内容。它最麻烦的地方不在于出错，而在于出错时和正确时语气一模一样。

幻觉从哪里来

1. 模型在预测「下一个词」，而不是查资料

大语言模型的基本工作方式，是根据前面的文字，预测接下来最可能出现的词元，一个接一个地生成回答（完整过程见大模型是怎么回答问题的）。它从海量文本里学到的是语言的规律和大量知识之间的关联，但它没有一个可以逐条核对的事实数据库。

当问题涉及的知识在训练数据里出现得很多、很一致时，「最可能的下一个词」通常就是正确答案；当知识很冷门、或者训练数据里本身就有矛盾时，模型依然会生成一个「听起来最像答案」的句子——这就是幻觉。

2. 训练和评测奖励「猜一个」

OpenAI 研究人员在 2025 年发表的论文《Why Language Models Hallucinate》提出了一个直观的解释：很多评测只按「答对率」打分。就像考试里不会写也要蒙一个选项——蒙对了得分，空着一定是零分。模型在这样的激励下，会倾向于给出一个答案，而不是说「我不确定」。

论文认为，要减少幻觉，需要修改那些占主导地位的评测打分方式，让「承认不确定」不再吃亏。这也解释了为什么幻觉不是一个靠「多训练一点」就能简单解决的问题。

3. 上下文不足或被误导

如果问题本身含有错误前提（比如「请总结某某在 2030 年发布的产品」），模型有时会顺着错误前提编下去。对话很长、超出上下文窗口时，早先给出的信息也可能被「遗忘」，导致前后矛盾。

哪些问题最容易出现幻觉

问题类型	为什么容易出错	例子
冷门事实	训练数据里出现得少	小众人物的生平、地方性规定
精确数字	数字之间的关联很弱	统计数据、价格、日期、版本号
引用与出处	模型学会了引用的「格式」	论文、书籍、法条编号、网页链接
最新消息	发生在训练数据截止之后	本周发布的产品、最新政策
计算与推理链条	中间一步错，后面全错	多步计算、长逻辑推导

日常使用时怎么防

不需要因为幻觉就不用 AI，关键是把它放在合适的位置。下面几个习惯，按效果从高到低排列：

1. 把资料给它，而不是让它回忆：把文章、文档、网页内容直接贴进对话，并要求「只根据以上资料回答，资料里没有的就说不知道」。这是降低幻觉最有效的做法。
2. 明确允许它说「不知道」：在提示词里写上「不确定时请直接说明」，能减少硬编答案的情况。
3. 要求逐条给出处：让它标出每个结论来自哪里，再挑关键的几条自己点开核对。
4. 开启联网搜索，但要看来源：联网能显著改善时效性问题，但模型仍可能读错或拼错信息。
5. 高风险结论一定回到原始来源：涉及健康、法律、合同、金钱的内容，AI 的回答只能作为起点，不能作为结论。

一句话总结

AI 擅长的是组织语言、整理思路、处理你交给它的资料；它不擅长的是凭记忆给出精确、冷门、最新的事实。把它当成一个反应很快但需要核对的助手，而不是一本百科全书，幻觉的影响就会小得多。

想把 AI 用得更顺手，可以看 ChatGPT 怎么用 和 Claude 怎么用 两篇完整教程。