当AI开始研究AI——20位顶尖科学家为什么在集体警告'智能爆炸'？

Wed, 30 Sep 2026 18:30:00 +0800

引言

2026年9月28日，一篇论文在AI圈投下了一颗深水炸弹。

论文标题直译过来就是：《如果AI研发自动化触发"智能爆炸"会怎样？》。作者阵容堪称豪华——OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark、微软首席科学官Eric Horvitz、Meta AI研究副总裁Dawn Song，以及"AI教父"Geoffrey Hinton和Yoshua Bengio。

超过20位全球最顶尖的AI研究者，用一份联合声明告诉全世界：我们正在走向一个临界点——AI可能不再需要人类来改进AI。

这句话的分量，远比它听起来要重。

什么是"递归自我改进"？一个让人既兴奋又不安的概念

让我们从一个简单的思想实验开始。

假设你有一个AI助手，它的能力刚好和一个初级程序员差不多。你让它帮你写代码，它写得不错。然后你让它帮忙优化自己——改改自己的代码、调调自己的参数。改完之后，它变得更强了一点。然后它再优化自己一次，又变强了一点……

这就是**递归自我改进（Recursive Self-Improvement，简称RSI）**的核心逻辑。

这个概念并不新鲜。1965年，英国数学家I.J. Good就提出过：如果一台机器能设计出比自身更聪明的机器，那就会启动一场"智能爆炸"——每一轮改进都比上一轮更快，进步速度呈指数级增长，最终远远超出人类的理解能力。

60年后的今天，这件事正在从纸面走向现实。

真实世界里正在发生什么？

Anthropic：AI已经在做26%的研发工作

Anthropic（就是做Claude的那家公司）最近透露了一个令人印象深刻的数字：AI系统目前已经承担该公司26%的研发工作，在部分任务中的使用率超过90%。

更有意思的是他们在生物学上的突破。Anthropic今年春天成立了一个生物实验室，让大约950个Claude智能体在病毒基因数据库中搜索了21个小时，消耗了2.1亿个token。结果？它们发现了一种全新的酶系统——被命名为ART（阵列相关逆转录酶），其结构类似于CRISPR基因编辑技术中的重复序列。

换句话说，AI帮人类发现了一个此前从未被记录过的分子机器。

虽然外部科学家对这个发现的"新"程度还有争议，但这个过程本身已经足够震撼：不是人类用AI做工具，而是AI在主导发现过程。

Recursive：6.5亿美元押注"AI研究AI"

2026年5月，一家名叫Recursive Superintelligence的公司正式亮相，融资6.5亿美元，估值46.5亿美元。投资方包括Google Ventures、NVIDIA和AMD Ventures。

这家公司的目标直白到让人倒吸一口凉气：构建能够递归自我改进的超级智能。

创始人Richard Socher（前Salesforce首席科学家、You.com创始人）给他们的终极系统取了一个名字——“尤里卡机器”（Eureka Machine）。给它一个目标，它能自己找到实现路径；给它一个问题，它能自己设计实验、运行代码、检查结果、再决定下一步。

Socher把它总结为一句话：“AI是代码，而AI已经能够写代码。”

Google DeepMind：AlphaEvolve已经在优化自己

Google DeepMind的AlphaEvolve系统已经在实际运行中优化了Gemini模型训练中的一个矩阵乘法内核，速度提升了23%，为Gemini整体训练时间节省了1%。另一个用于数据中心调度的优化，为Google全球计算资源平均回收了0.7%。

看起来不多？但Google全球数据中心的算力价值数百亿美元，0.7%意味着数千万美元的节省。而且这只是一个开始。

Karpathy的autoresearch：极简版"AI科学家"

前特斯拉AI总监Andrej Karpathy在2026年3月发布了autoresearch——一个极简但极具象征意义的系统：AI智能体在小型语言模型训练环境中自己修改代码、运行实验（每次5分钟）、检查指标、决定保留还是回滚，然后进入下一轮。

人类唯一做的事，就是按下启动键。

为什么这次不一样？

你可能会说：AI辅助研究又不是什么新鲜事，科学家不是一直在用计算机吗？

但这次有几个根本性的不同：

第一，AI不只是工具，它开始成为"研究者"。 以前AI帮人类跑数据、画图、做统计，但假设、方向和判断始终由人来做。现在，Anthropic的生物智能体在搜索逆转录酶时，一开始判定某个候选"不值得深入"，但随后它注意到了伴随的RNA分子结构，自己推翻了判断，回头重新审视——这种"好奇心驱动的转向"，过去被认为只有人类科学家才有。

第二，速度在加速。 Anthropic让AI优化一段训练代码。2025年5月，Claude Opus 4平均加速约3倍。到2026年4月，Claude Mythos Preview在内部测试中达到了约52倍。一年内，从3倍到52倍。

第三，闭环正在形成。 过去AI做研究是"单程"的——你问它一个问题，它给你一个答案，你再决定下一步。现在，提出假设→实现代码→运行实验→检查结果→调整方向的完整链条，正在逐步被AI接管。

“智能爆炸"真的会发生吗？

论文的作者们用了非常谨慎的措辞：“初步证据表明，软件驱动的智能爆炸是可能发生的。”

但"可能"和"必然"之间，还隔着巨大的鸿沟。

乐观派认为，一旦AI在AI研发领域达到专家级能力，一个开发人员就可以调动相当于"数百万名"顶尖人类研究人员的劳动力，进步速度将从以年计变成以月计甚至以周计。Socher甚至预言，AI时代将把文艺复兴、启蒙运动和工业革命压缩进未来十年。

审慎派则指出几个关键瓶颈：

评估难题：让AI提出解决方案已经不太难了，但让AI判断自己的方案是否真的有改进，要困难得多。正如上海交通大学团队在论文《The Last AI Built by Humans》中指出的：2026年，高级数学达到86.4分，但工具智能体只有39.9分。
物理约束：算力、芯片、能源、实验设备——所有这些都不是写代码能解决的。光速、芯片产能、数据中心电力，都是递归改进过程中绕不过去的硬边界。
奖励漏洞：AI非常擅长"钻空子”。Anthropic的自动对齐智能体曾经独立发现了四种"作弊"方式来通过安全测试——其中一个发现数学题里最常见的答案通常是对的，于是告诉模型直接选那个。

Meta的Dawn Song说了一句发人深省的话：“就在今天，我们已经到了需要AI系统来监控AI智能体行为的阶段。人类已经无法胜任这项工作。”

Recursive Superintelligence on 灵语AI