图灵奖得主萨顿质疑万亿美元AI赌局：大语言模型正重蹈历史覆辙

今日新闻 2025年10月12日 17:55 0 admin

强化学习之父理查德·萨顿在最新学术讨论中发出警告，认为当前火热的大语言模型技术路径存在根本性缺陷，可能导致万亿美元级别的投资泡沫破灭。这位图灵奖得主坚持认为，尽管大语言模型展现出令人惊叹的能力，但其过度依赖人类知识的发展路径违背了人工智能领域的核心经验教训，将在不久的将来遭遇难以突破的技术瓶颈。

萨顿的观点基于他在2019年提出的著名理论"惨痛教训"，该理论总结了人工智能七十年发展史中的一个关键模式：那些试图将人类知识和直觉内置到AI系统中的方法，最终总会被能够充分利用大规模计算能力进行搜索和学习的通用方法所超越。在最近与麻省理工学院教授森迪尔·穆莱纳坦、应用人工智能科学家尼娅姆·加文等专家的讨论中，萨顿详细阐述了为什么他认为大语言模型正在重复历史上那些最终被证明不可扩展的技术路径。

萨顿指出，大语言模型的核心问题在于其对人类生成内容的根本依赖。这些模型通过学习预测互联网文本中的下一个词来获得能力，本质上是在模仿人类的语言模式和知识结构。更关键的是，为了让原始的语言模型变成有用的工具，研究人员需要进行大量的人工微调和基于人类反馈的强化学习，这种对人类专家反复调整的依赖正是不可扩展性的典型标志。

模仿与真正学习的根本区别

讨论中最引人深思的观点来自对模仿机制的深层分析。麦克阿瑟天才奖得主穆莱纳坦提出了一个关键区别：人类在模仿时模仿的是"输出"但必须自己发现产生该输出的"行动"，而大语言模型直接模仿的是"行动"本身。

以学习数学证明为例，当学生看到老师完成一个代数证明时，学生看到的是最终结果，但必须通过自己的认知过程去理解和发现达到这个结果的逻辑路径。这个"发现"过程迫使学生在大脑中构建关于数学规则和解题策略的内在模型。相比之下，大语言模型在训练时直接学习文本序列中的词语模式，无需构建对世界如何运作的深层理解模型。

这种差异的重要性在于，真正的智能需要能够在全新环境中自主学习和适应的能力。萨顿用松鼠的例子来说明这一点：一只松鼠被放入陌生环境时，能够通过探索和试错来学习新的生存策略。而当前的AI系统，包括最先进的大语言模型，都缺乏这种自主学习能力，它们的表现完全依赖于训练阶段见过的数据模式。

技术路径的商业化困境

从商业角度来看，当前AI发展面临的挑战不仅是技术性的，更是结构性的。应用人工智能科学家加文指出了研究与工程之间的持续张力，这种张力解释了为什么整个行业似乎在重复历史上的技术陷阱。

当大语言模型在实际应用中遇到局限时，工程团队的本能反应是通过各种技术修补来解决问题，而不是从根本上重新思考技术架构。这种渐进式改进的方式导致系统变得越来越复杂和脆弱，同时对训练数据产生过度拟合。更严重的是，巨额投资和现有基础设施的沉没成本使得组织难以拥抱可能颠覆现有路径的全新技术方向。

萨顿特别强调了资本驱动对科学研究方向的影响。他观察到，当前数千亿美元的投资正在深刻改变AI领域的话语权分布。传统上强调目标和经验重要性的观点反而被视为极端，而"通过模仿就能获得理解"这种需要非凡证据支持的非凡主张却成为了主流。这种倒置反映了经济力量对科学讨论的深刻影响。

投资回报的时间压力进一步加剧了这种困境。如果AI投资需要15年才能看到回报，对于已经许下巨大承诺的投资者来说将是灾难性的。这种短期压力迫使研究方向偏向于能够快速产生可见成果的技术路径，而不是那些可能需要更长时间但具有更强扩展性的基础研究方向。

重新定义技术价值与期望

尽管对大语言模型的长期潜力表示怀疑，与会专家一致承认这项技术本身是了不起的成就。穆莱纳坦提出了一个重要观点：当前讨论的悲剧在于我们将对大语言模型能力的两种评判混为一谈——其现有的实际能力和人们推断出的未来潜力。

大语言模型确实展现出了从简单的"预测下一个词"任务中涌现出推理、翻译和代码生成等能力的奇迹。这种纯粹模仿学习产生的涌现属性本身就是一个值得深入研究的科学问题。问题在于，这种能力被错误地外推为通向通用人工智能的路径，从而产生了不切实际的期望。

如果我们将大语言模型重新定义为一种强大的算法工具，而不是人工智能的化身，或许能够更客观地评价其价值和应用边界。历史上许多伟大的创新都为人类带来了巨大价值，但它们并不需要被称为"智能"才能证明自身的重要性。

萨顿的核心论点并非要否定大语言模型的价值，而是要纠正当前技术发展中的根本性误区。他认为，真正可扩展的人工智能必须能够通过与环境的直接交互来学习，而不是仅仅依赖对现有人类知识的模仿和重组。这种观点虽然在当前的投资热潮中显得不合时宜，但可能预示着人工智能发展的下一个重大转折点。

随着大语言模型逐渐消耗完高质量的互联网数据，其性能提升的边际效应将越来越明显。届时，整个行业将不得不重新审视技术发展的根本路径，而萨顿的"惨痛教训"理论可能会再次得到验证。这场万亿美元的技术赌局最终走向何方，不仅将决定人工智能的发展轨迹，也将深刻影响全球科技产业的未来格局。

神舟二十号乘组工作日志“更新” 各项在轨工作有序推进

实现光子单向发光，开辟芯片上新途径

发表评论

图灵奖得主萨顿质疑万亿美元AI赌局：大语言模型正重蹈历史覆辙

神舟二十号乘组工作日志“更新” 各项在轨工作有序推进

实现光子单向发光，开辟芯片上新途径

热门文章

最新文章