AI 为什么总是
一本正经地胡说八道

有一次我在用 AI 整理一篇关于某位学者的资料，问了他的几篇代表性论文。AI 一口气给了我五篇，标题、期刊名、年份、摘要全都有，写得有板有眼的。我一边整理一边觉得很顺，直到我去数据库里核对——

五篇里面有两篇根本找不到。不是收录问题，而是压根不存在这篇论文。AI 把论文名、期刊、年份全都编了一套，每一个细节都像真的，但拼在一起就是假的。

这就是大模型"幻觉"（Hallucination）最让人抓狂的地方——它不是说"我不知道"，它是信心满满地给你一个错的答案。

先搞清楚 AI 是怎么"想"的

要理解幻觉，得先理解大模型的工作方式——哪怕只是一个很粗糙的类比。

大模型不是一个数据库。它不是你输入关键词、它去库里查、然后把结果返回给你。它是一个被大量文本训练出来的"语言预测系统"——给它前面一段话，它预测接下来最可能出现什么内容，然后一个词一个词地生成下去。

这个机制本身就决定了它有一个根本性的问题：它生成的东西，是"听起来最合理的"，而不是"真实准确的"。对于它来说，生成"爱因斯坦的论文发表于《物理评论》"和生成一个根本不存在的论文标题，在机制上没有任何区别——都是在给定上下文下预测最可能出现的词语序列。

所以当你问它一个它训练数据里没有明确信息的问题时，它不会说"我不知道"，而是会根据相关上下文"猜"一个听起来合理的答案，然后用同样自信的语气说出来。

幻觉分两种，性质不太一样

学术界把幻觉大致分成两类，我觉得这个分类挺有帮助的，理解了这个，你就能更好地判断什么时候要特别小心。

第一种：它真的不知道（数据型幻觉）

最简单直白的情况：你问的东西，它的训练数据里就没有——可能是因为这件事发生在它的训练截止日期之后，可能是因为这个领域的信息在互联网上本来就很少，也可能是因为它的训练数据对这块内容覆盖不足。

在这种情况下，它没有正确答案可以检索，于是就会根据相关领域的"语言规律"拼凑一个看起来合理的输出。你问一个冷僻学者的论文，它训练数据里可能只有这个学者的名字和大致研究方向，但为了回答你，它会用这个领域的"常见论文语言"拼出一个不存在的引用。

第二种：推理过程中跑偏了（推理型幻觉）

这种更隐蔽，也更让人头疼。它其实有正确的知识，但在多步骤的推理过程中，某个中间环节的误差随着推理链条越来越大，最后得出一个错误的结论。

你可以想象成一道数学题：每一步的计算方法都是对的，但其中某一步抄错了一个数字，导致最后的答案是错的。这种错误很难发现，因为你如果只看推理过程，每一步看起来都合乎逻辑。

为什么它不知道自己在胡说？

这是很多人困惑的地方：你都说错了，为什么不知道？

因为大模型没有"知道"和"不知道"这两种状态。它只有"这段话在给定上下文下概率高不高"。它生成一个错误的论文标题，在它的内部机制里，跟生成一个正确的论文标题，没有本质区别——都只是根据概率选择下一个词。它没有一个内置的"事实核查器"在它生成的时候实时对照。

更有趣的是，当你问它"你确定这是对的吗"，它可能会回答"是的，我确定"——同样是用概率预测生成的回答，同样没有实际的事实基础。

这不是说 AI 在"说谎"，说谎是需要知道真相的。AI 的幻觉更像是一个无意识的行为：它被训练得"说话要流畅、自信、有根据"，但这些训练目标都是关于语言形式的，不是关于事实准确性的。

那什么时候最容易出幻觉？

知道幻觉高发的场景，可以让你在使用的时候更有针对性地多做核实。根据我自己的经验和行业研究，以下几类情况是幻觉的重灾区：

• 具体的数字、数据、日期：这类信息有固定的正确答案，但训练数据里可能有多个不一致的版本，或者根本就没有。它很可能给你一个"听起来合理范围内"的数字，但就是不准。
• 冷门领域的专业引用：论文、书籍、学者、法律条文——任何需要精确引用的内容，都要格外小心。它太擅长编造听起来合理的引用了。
• 时效性强的信息：训练截止日期之后的事情，它可能会根据之前的趋势"推断"，但这种推断是没有实际数据支撑的。
• 复杂的多步骤推理：越是长的推理链，中间出错的概率就越高，错误也越难察觉。
• 你暗示了一个错误答案的时候：如果你问"A 是不是 B？"，它有时候会倾向于顺着你的问题方向回答"是的"，即使 A 其实不是 B。

2026 年了，有什么办法缓解吗？

好消息是：这些年业界在这方面做了很多事，已经有不少实用的手段。坏消息是：没有任何一个手段能彻底解决这个问题。

RAG：给它一个可以查阅的知识库

RAG（检索增强生成，Retrieval Augmented Generation）是目前最被广泛采用的方案。简单说就是：不让 AI 全靠"记忆"来回答，而是先从一个可信的知识库里检索相关内容，然后让它基于这些检索到的内容来生成回答。

这个方案对于"企业私有知识"类的场景效果非常好——比如公司的产品文档、内部规定、历史数据。AI 不需要"记住"这些内容，只需要会用这些内容回答问题就够了。

但 RAG 不是万能的。如果知识库本身的内容有误，AI 可能会基于错误内容生成错误答案。而且 RAG 对于需要复杂推理而不只是信息检索的任务，帮助有限。

让它说"不知道"

这个听起来很简单，但实际上非常有效。在你的提示词里明确告诉它：如果不确定，就说不知道，不要猜测和编造。

经过实验，这样做通常能减少 30%–50% 的低级事实错误。当然，它也会因此拒绝回答一些本来可以回答的问题，这是个权衡。

用多个来源交叉验证

对于重要的信息，不要只问 AI 一次就信了。可以换个角度问，或者用不同的模型问一遍，看看答案是否一致。高度一致的内容出错概率相对低，互相矛盾的内容就要特别小心了。

自己去核实重要信息

这个最朴素，也是最可靠的。任何对结果有重要影响的事实，都不要依赖 AI，去找原始来源验证。AI 可以帮你快速建立框架和方向，但事实核查这件事，还得你自己来。

我平时怎么跟幻觉共处

说了这么多理论，说说我自己的实际做法。

我把 AI 的输出分成两类来对待：一类是我用它来思考的内容，一类是我用它来直接呈现的内容。

用来思考的内容，我对幻觉的容忍度很高。比如让它帮我理清一个问题的思路、列出可能的解决方向、分析一段代码的逻辑——这些地方，就算它有点偏差，我自己想一下也能发现，影响不大。

用来直接呈现的内容，我会严格核实。比如要引用的数据、需要在文章里写明的日期和数字、关于某人或某机构的具体描述——这些我都会去找原始来源核对。AI 可以帮我找到大概的方向，但最终落实到具体数字的时候，我会自己确认。

更根本的问题：我们怎么跟这个东西共处

幻觉问题让很多人对 AI 产生了一种不信任感——"你都会编，我怎么敢用你做正事？"这个问题我觉得可以换个角度想。

我们跟人类专家打交道的时候，也会遇到类似的问题：他可能记错了某个数字，可能某个观点是基于有限的样本，可能在某个他不熟悉的领域表现出超出实际水平的自信。我们不会因为人会犯错就不请教任何人，而是学会了辨别什么时候需要核实、什么时候可以信任。

AI 也是一样。幻觉是它的限制，不是它一无是处的理由。真正的问题不是"AI 会不会出错"，而是"我有没有能力识别它什么时候在出错"。

这个能力，才是 AI 时代最值得培养的东西。

文中关于幻觉的分类参考了 ICLR 2026 相关研究，实用建议来自作者个人使用经验及行业实践总结。