挪门柱效应：AI进化中的AGI迷思

自从2022年ChatGPT受到追捧后，AI世界的变化实在太快了。这本书的撰写过程中，在OpenAI、Anthropic、DeepSeek、GLM、豆包这些AI巨头内部，正在紧锣密鼓地进行第一轮以“强化学习”(RL)为主的后训练。也就是本书第7、8章提到的“在虚拟世界中的开放式学习”。这场强化学习的浪潮至少延续到了2026年初。

书中之所以没有把“强化学习”挂在嘴边，是因为，在2023年初，强化学习在训练中是一个配角，主要应用场合是让刚刚完成预训练的大语言模型学会如何合规合法地回答问题，知道如何得体地回复人类的提问。初代的强化学习前面还要额外加“人类反馈”的定语。说白了，就是给能力已经很好的大语言模型打上与人类规范对齐的补丁。但大约从2023年下半年开始，所有巨头都注意到了强化学习另外的用法，也就是先训练出一个规模比较小的奖励模型，然后让奖励模型对大语言模型成千上万的输出进行批量打分，这样做的好处是去掉了“人类反馈”的成本。你也许可以砸钱找几千位高素质的人，对几百万、上千万道选择题打分，但困难的是，由谁编写出多样性足够丰富，难度梯度适中的上千万道选择题呢？所以，全部依赖人类标记的数据去训练模型实际上是不可能的。摆脱人类反馈的强化学习让大语言模型从“善于闲聊”提升到了“善于解决常见问题”，以至于在极端优化后，甚至可以解决多个学科分类下人类最困难的学术问题，例如，今天一个难度较高的测试集“人类最后的测试”(Humanity's Last Exam)。2023年5月，让GPT-4o去做，正确率大约1%，而Sonnet 3.5做的正确率大约为1.5%，Gemini 1.5 Pro做的正确率大约为1.2%，马斯克的Grok 2 Beta做的正确率是0.9%。2025年1月，给OpenAI刚刚上线的o3做，可以达到25%的正确率；而谷歌在2025年11月上线的Gemini 3 Pro正式版已经可以做到46%的正确率，后续各家发布的推理模型，在这项测试中超过70%正确率的成绩是板上钉钉的。

客观地说，如果把Gemini 3 Pro 这种模型穿越时空，从2025年底拿到2023年初，整个产业界和学术圈一定会同意，这东西肯定是标准的通用人工智能，“通用人工智能已经实现”的新闻会铺天盖地。但实际上，今天已经有上亿人用上了这个模型，可业界还在质疑“以自注意力机制为基础的大语言模型永远也实现不了通用人工智能”。你就会发现，关于什么是“通用人工智能”，学术界不但没有标准，而且尺度还在不断拉高。本书把这种现象称为“挪门柱效应”。也就是说，每当AI完成了更难的挑战后，本该轮到下结论“通用人工智能已经实现”，结果又跳出一帮人说，“那不能算真正的通用人工智能”。

几年前，我自己对智能生成了一个定义，为适应新环境而耗费的时间和资源，耗费得越少就越智能。这个观点也正好和本书第3章的观点不谋而合，书中的观点是：智力是生态位的适应。于是很多动物在它自己的生态环境里能表现出远超人类的智能，比如松鸦的记忆力、章鱼的灵巧性在某些维度上超越人类。我也很赞同书中提到的重要观点：人类可能并没有一种神奇的“通用智力”。我们只是拥有一组适合构建复杂社会和使用工具的特殊认知能力。那么，在这个逻辑下，那些经过强化学习，可以把“人类最后的测试”做到90%正确率的大语言模型，实际上也依然不是通用人工智能。

本书第9章还讨论了我们如何判断AI是否具有意识的问题，我自己的看法是，意识是一种连贯叙事，叙事的元素主要是对世界的主观体验与解读。其中最关键的是“连贯”的特性。严格意义上说，今天的所有AI都没有意识，因为受限于上下文窗口限制，2M的token已经是极限了。2M虽然可以是上百万字的书，但这样一本书的体量实在难以承载一个人的记忆与人生体验。更何况所有大语言模型在处理token时，如果输入token的量接近上下文上限的30%，性能就已经开始显著下降；接近80%的上下文上限时，模型性能就已经接近不可用的地步了。

今天AI领域的研发前沿已经完全迈过了本书第12章展望的两点。

(1) 基于人类数据的自监督学习。

(2) 基于虚拟环境的开放式学习 。

第(1)点对应的就是AI巨头们为模型做的预训练，最典型的方法就是不断地抠去一句话中的每个字，让模型猜抠掉的字是什么。大语言模型就是通过这种方法掌握人类知识的。这项活动今天已经趋于停滞，尤其是针对纯文本信息的预训练，因为可以搜集到的全部可用于训练的数据都已经用过了，各家做预训练时使用的数据也都是高度类似的，训练次数和算力也都足够充分，这时，如果再做更多的训练，练出的模型和上一代也是没有本质区别的，性能也不会有所提高。

而第(2)点对应了今天各种强化学习的竞争，不仅限于多模态(文字，图像，视频)，也在各种软件UI界面中训练操作逻辑。第(2)点曾经只是归属在后训练中，但今天从训练所需的算力占比看，已经和预训练大致相当了，各占50%。而仅仅在两年前，预训练占比算力有95%以上的比例。今天第(2)点之所以也已经迈了过去，是因为各家在竞争中已经走入了自欺欺人的内卷境地，训练人员受迫于投资人的压力或者竞争对手的压力，不得不对各种测试集做过多拟合以求高分，于是强化学习训练出来的模型个个都是考试选手，而在测试集上过拟合就会在日常任务中频繁犯低级错误。

在我写这篇推荐序时，在通用人工智能上，我们已经站在了一个Transformer模型时代的末尾，也就是以自注意力机制为基础的大语言模型，通过参数扩张，增加训练数据，增加算力，这一整套规模化扩张获得性能提升的发展模式今天已经走到了尽头。今天业内很多核心人物都指出了下一代模型的一个模糊的特征，也就是这个模型应该更像一个能力极为出色的15岁孩子，他当然没有多少具体知识，但他可以快速学习，实施更新修正自己的错误。至于这样的模型需要什么算法，在我们还不能探查的那些AI巨头高度机密的实验室里，可能已经有了一点眉目了，我们暂且称之为“学习记忆模型”吧。如果我们真的找到了这样的模型，无论从什么标准看，大部分人都会同意通用人工智能已经实现。在这一天到来之前，我们可以通过回顾这本书的内容，知道大语言模型这一代AI是如何理解通用人工智能的。

卓克

得到App《科技参考》专栏作家 

智能的祛魅

当马克斯·韦伯在20世纪初预言“世界的祛魅”时，他或许未曾料到这一进程将如何在人工智能领域重演。当今，关于AGI(通用人工智能)的辨论常常陷入一种两极分化的漩涡：一端是乌托邦式的盲目乐观，将AGI视为救世主；另一端是反乌托邦的末日恐慌，将AI描绘成人类文明的终结者。

这种辩论让人感到厌倦。而《迈向通用人工智能》让人耳目一新，它给出的视角是一种基于科学实证、历史洞见与哲学思辨的“技术理性主义”，为我们带来一场关于智能的祛魅。

对智能的“解构”

概念并非自然存在，而是特定历史语境中的建构产物。“人工智能”这一术语的诞生，源自1956年达特茅斯会议的一次偶然命名，将各种不相关的技术(符号推理、优化算法、模式识别)强行纳入同一框架。正如作者指出的：事实上，不存在一个神秘的、统一的“AI 实体”，只有各种解决特定问题的算法工具。

而我们关于“通用智能”的定义，也常常囿于人类中心主义的桎梏。克拉克胡桃夹能在冬季精准找回2～3万个食物储藏点，章鱼能瞬间改变肤色融入环境，蚂蚁群体能在无中央控制下构建复杂蚁丘——这些都不是“低等智能”，而是生态位适配的专项能力极致化。人类具备的所谓“通用智能”，不过是多样的专项能力在特定生态位(复杂社交、工具制造、符号交流)中的协同，而非超脱生态约束的全能神祇。

在这种视角下，AGI不应(可能也无法)追求“全知全能”，只能是“受限环境下的通用”，是针对人类关心的物理现实这一特定子集的极致优化。具体而言，应该是“跨生态位适应”的能力——如作者指出的，智能的本质不是已掌握的能力多少，而是适应新环境、学习新任务的元能力。这种动态视角，超越了将智能视为“可量化的固定属性”的传统思维。

对智能的“重构”

本书没有停留在概念澄清的层面，而是深入探索了AGI愿景的多元光谱。从“人类水平智能”到“特殊用途智能”，从“非具身的思维”到“集体智能”，作者通过若干关键维度的细致拆解，展示了AGI的丰富可能性。不同的AGI愿景可共存于同一生态，服务于人类需求的不同面向，而非强求单一标准。

尤其让人印象深刻的是，作者指出，自监督学习与开放式学习这两条技术路径并非对立，而是互补：前者如孔子“述而不作”，通过消化人类文明的结晶而成长；后者如老子“道法自然”，在环境与智能体的共同进化中涌现能力。而AGI的实现，大概率需要多技术路线协同共建。符号人工智能欠缺常识、监督学习高度依赖标注数据、强化学习试错开销高昂，各类方案固有的短板或许可由多技术融合补齐。

写给未来的拓荒者

在这个技术加速迭代的时代，焦虑与狂欢同样廉价。我们需要的是冷静的认知、严谨的逻辑和深切的人文关怀。

智能是宇宙中伟大的奇迹，在我们的有生之年，或许有机会一窥奇迹的门径。在我们达到之前，请握紧手中的罗盘。

刘康

科技博主(tomsheep)

前字节跳动 Data-数据平台-IO 部门负责人

理性的刻度

《迈向通用人工智能》在现在大量贩卖“AI 焦虑”或“AGI神话”的书中显得如此出众，因为它是一部难得保持理性、克制与深度的作品。 

作为一名长期从事人工智能相关工作的从业者，我可以直接感受到作者对“智能”与“AGI”概念的冷静拆解与思考。

书中并没有简单地把大模型能力的提升等同于“真正的通用智能”，而是从人工智能历史、认知科学、强化学习、自监督学习、开放式学习等多个角度，系统分析了今天 AI 的边界与未来可能的发展方向。 

本书最有价值的地方，在于它既理解技术，也理解人类社会。书中第6～8章系统梳理了当前AI技术的发展路径，包括符号AI、机器学习、强化学习、自监督学习，以及GPT、Transformer、基础模型、扩散模型、游戏AI与开放式学习(Open-ended Learning)等前沿方向。与此同时，作者并没有停留在技术层面。第9～11章进一步讨论了AI意识、智能爆炸、超级智能、AI对就业与社会结构的影响，以及 AI 偏见、虚假信息与网络安全等现实问题。 

这种“技术 + 哲学 + 社会”的完整视角，使本书不仅适合 AI 从业者，也适合所有真正关心人工智能未来的人。

在今天这个“人人都在谈AGI”的时代，本书提供了一种非常珍贵的视角：人工智能并不是魔法，AGI也不是一句口号。真正重要的，不只是模型参数的增长，而是我们如何重新理解“智能”本身。 

无论你是AI从业者、科技爱好者，还是对未来世界感兴趣的读者，我都诚恳地推荐你读一读这本书。

张亚东

知乎科技博主(亚东)

微纳核芯高级研发总监

行业名家力荐

《迈向通用人工智能》立足技术却不止于技术，还从生物学、哲学 、心理学等交叉学科视角诠释什么是通用人工智能。其中作者提到的一个观点特别打动我，未来的核心竞争力将从技术技能转向个人的品味和判断力，这对于我们人类在算法时代的人文价值定位极有启示意义。

——李鑫，科大讯飞

AI研究院副院长

人工智能需要跨学科的思考和研究，《迈向通用人工智能》 一书旁征博引、多维探究，在即将到来的AGI时代，带给我们很有意义的启发。

——李建忠，奇点智能研究院院长，

CSDN高级副总裁

如果你曾被“AI统治世界”的标题吓到，又看着手机里笨拙的输入法哑然失笑，《迈向通用人工智能》正是为你准备的。它犀利地拆解了我们对人工智能的种种混淆：把科幻电影里的全能机器人与现实中只会下围棋的AlphaGo混为一谈，把单一任务的“窄AI”与想象中的通用人工智能(AGI)混为一谈。作者从亲身实验的幽默视角告诉你：真正的AI开发远没有头条新闻那么惊悚。翻开本书，一起拨开迷雾，看清智能的真相与未来。  

——茹炳晟 腾讯研究院产业研究顾问、特约研究员，

复旦大学CodeWisdom团队首席技术专家，

中国计算机学会CCF TF多智能体系统SIG副主席

作者简介

朱利安·托格利乌斯(Julian Togelius)是纽约大学计算机科学与工程系的副教授，也是游戏人工智能初创公司modl.ai的联合创始人。他的研究领域涵盖电子游戏人工智能、计算创造力、进化计算，以及人工智能在教育、生物识别等多个领域的应用。他最初攻读哲学与心理学，以期理解心智的奥秘，但后来发现通过构建思维来洞悉其本质或许是更富有成效的途径。

致谢

感谢几位友善且学识渊博的审稿人对本书原稿提供了宝贵意见，他们是：Sam Earle、Noah Giansiracusa、Ahmed Khalifa、Jerry Swan、Mike Preuss和其他三位匿名审稿人。他们的建议帮助我全面改进了这本书，尽管我没有完全采纳他们的建议。当然，我本人对所有的错误和不足负责。然而，我很确定《迈向通用人工智能》比GPT-4写的更具真实性，更值得参考。无论读者是否相信，我在写本书的过程中从未借助过大语言模型的帮助。

我还要感谢麻省理工学院出版社的Elizabeth Swayze和Matt Valades，他们对本书的出版提供了大力支持，他们对我对截止日期的自由态度保持了很大的耐心。

最重要的是，感谢Raz和Dylan容忍我在无数个静谧深夜和阳光明媚的周末下午把时间用在本书的写作上，而不是陪伴他们。我爱你们！

前言

麻省理工学院出版社的Essential Knowledge系列书籍涵盖当下热门的主题，这些口袋书籍易于理解、内容精炼且制作精美。本系列书籍均出自著名思想家之手，内容涉及文化、历史、科学和技术，均提供了相关的真知灼见。

在如今这个信息爆炸的时代，随时获取各种观点、理论解释和虚假描述变得轻而易举，但我们很难获得那些能够让我们真正理解真实世界的底层知识。Essential Knowledge系列书籍弥补了这一需求。这些书籍把专业学科提炼成非专业人士也能读懂的语言，并通过基础知识撬动关键主题，为读者开辟了理解复杂思想的途径。

本书的参考文献请扫描二维码下载。