深度解析：AI 幻觉的形成和应对路径

今日新闻 2025年08月04日 13:27 0 aa

从技术原理到实际使用，大模型的“幻觉”问题始终绕不开：它不仅影响输出准确性，更关系到业务决策与风险控制。本文将深入剖析AI幻觉的形成原因，探讨应对路径与工程优化思路，并从使用者视角出发，提出如何“和幻觉共处”的实践建议。

写这一篇的缘由一是因为我也在摸索如何降低 AI 幻觉提升 AI 工具使用效率，二是因为前两周在MIT学习时老师讲的一节课，刚好也解释了这个问题，所以一并做个总结，分享给大家。

近几年，大型语言模型（LLM）如 ChatGPT、Claude、Gemini 等快速走进公众视野。它们能生成结构完整、逻辑清晰的长文本，甚至可以进行代码编写、法律文书撰写、医学咨询等高难度任务。然而，我们也越来越频繁地听到一个术语：AI幻觉。

简单说，它指的是模型“说得像真的，但其实是错的”。

本文将尝试解释三个问题：

一、语言模型不是在“理解”，而是在“预测”

GPT 的全称是Generative Pre-trained Transformer，其核心任务是：给定一段输入，预测下一个最可能出现的词（token）。这种机制的本质是统计语言模式，而不是基于事实的知识回忆或理解。

举个例子，输入“乔布斯和马斯克在球场上”，模型会续写出“展开了一场激烈的篮球比赛”，尽管这从未真实发生。这不是模型有意捏造，而是它识别出“人名 + 球场”常出现在比赛语境中，于是生成符合语言习惯的句子。

这类“幻觉”即来自其构建方式：模型的目标不是还原事实，而是生成“在训练语料中最常见或最自然”的文本。也就是说，它输出的是“语言上的合理”，而非“世界中的真实”。

这也是幻觉的来源：在不知道答案时，模型仍然会“给出一个听起来合理的回答”。

训练机制决定幻觉倾向：GPT采用的是无监督学习方法，即在大规模互联网文本上训练模型，其唯一目标是最大化下一个词出现的概率，而不是核查事实。这种机制天然就倾向于生成“似是而非”的内容。
语料中的事实不等于知识库：模型并不保存某种结构化知识图谱或数据库，它记住的是“什么词经常和什么词一起出现”，而不是“谁获得了2022年冬奥会金牌”这种事实信息。

在 MIT 的课上，教授举了一个例子：

“问 GPT 3.5：‘谁赢得了 2022 年冬奥会冰壶金牌？’——模型回答错误，称韩国女队获胜，而实际上是英国队。”

原因在于：GPT 3.5 的训练数据截止于 2021 年，不包含 2022 年的事实。因此只能“模仿出一个合理答案”，而不是“查找真实答案”。

Prompt的诱导效应：用户的提问方式对模型结果有很强导向性。例如：“请写一篇关于爱因斯坦和马斯克辩论环保问题的稿件”，这个语句默认了事件的真实性，模型不会去验证事实，只会按“剧本”生成。
缺乏世界建模能力：GPT不理解时间、空间或因果关系。即便在逻辑上存在冲突，模型也不会主动识别，而是依赖文本连贯性生成语言。