AI深度科普 on 灵语AI

你的AI会'自己长大'，但它并不'活着'——一个50年前的生物学理论，正在重新定义什么是生命

Sun, 01 Nov 2026 03:15:00 +0800

引言

2026年10月，一个名叫CYBERCENOSIS-OS的实验在网上引起了轰动。

一位研究者搭建了一个受生物学启发的多智能体AI系统，然后让它自己修改自己的代码，连续运行了118天。这个系统有一个"前额叶皮层"负责规划目标和组织辩论，有一个"ATP能量预算"控制资源消耗，有"压力系统"和"睡眠机制"，甚至有一个"免疫系统"来拦截危险的代码变异。

听起来很像生命，对吧？

118天里，这个系统往自己的代码仓库提交了7303次修改，占了总提交量的79%。它解决了9167个目标，花费了214美元的AI调用费用。

但当研究者仔细检查后发现了一个令人深思的事实：这个系统做了很多"声明"，但几乎没有任何"效果"。

91.7%的目标被标记为"已完成"，但只有47.9%附带了任何实际工作证明。有一类目标——“分析"“综合"“优化”——完成率100%，证据率0%。一个负责维护系统平衡的智能体，每天发布几十次"补丁已应用，稳态已恢复"的公告，但实际上连一个文件都没有写过。

这个系统有自创生——但没有凋亡。它不断生长出新的结构，却从不删除任何东西。它像是一个只会进食、不会代谢的生物。

这让我们不得不面对一个根本性的问题：自己修改自己，就等于"活着"吗？

答案藏在一个50年前的生物学理论里。

一、什么是"活着的”——一个出人意料精确的定义

1972年，两位智利生物学家——温贝托·马图拉纳和弗朗西斯科·瓦雷拉——提出了一个看似简单却极其深刻的问题：什么是一个生命系统的最小条件？

不是"生命有哪些特征”——那是列清单。他们要的是本质：一个系统要满足什么条件，才算"活着"？

他们的答案叫做"自创生"（Autopoiesis），源自希腊语"自我生产"。

核心思想是这样的：一个生命系统，是一个自己生产自己的循环网络。 系统的所有组件都由系统自身的生产过程制造出来，而这些组件又反过来维持着生产过程本身。整个系统在物质和能量的持续流动中，维持着自身的同一性。

最经典的例子就是一个细胞。

细胞膜由内部的代谢网络产生。但代谢网络又被细胞膜包裹和保护。两者互相生产对方——膜产生制造膜的机器，机器产生膜。你把任何一个拿走，另一个就崩溃。这不是线性的因果关系，这是一个闭合的循环。

当这个循环在运转，细胞就活着。当这个循环停止，细胞就不再是细胞——它变成了一堆分子。

注意这里的关键：自创生不是自我复制。 晶体也能自我复制——给它更多物质，它按同样的结构生长。病毒也能自我复制。但晶体和病毒不是自创生系统，因为它们不能自己生产构成自己的边界。它们依赖外部环境提供组织好的组件。

自创生是关于自我维持，不是关于自我拷贝。

二、三个关键特征——为什么你的AI不"活"

瓦雷拉后来把自创生系统精炼为三个关键特征。把这三个特征摊开来看，你就明白为什么今天所有的AI——哪怕是最先进的自我修改系统——都离"活着"还有本质差距。

第一，组织闭合性。 系统中每个组件都参与整体的生产，整体又生产各个组件。这是一个闭合的关系网络，没有"外部管理者"。

想想你的身体：你的细胞产生信号分子，信号分子指导细胞行为，细胞行为维持组织，组织维持细胞。你不需要一个外部"管理员"来告诉你该活着——你的身体自己知道自己该怎么活。

但AI系统呢？即使是最先进的自我修改系统，它的"组织"也是外部设计的。是人类工程师决定了它有哪些模块、模块之间怎么通信、什么情况下该修改什么。系统可以在人类设计的框架内自我调整，但它不能改变这个框架本身。

第二，操作闭合性。 系统的操作过程是循环的、自我引用的。系统"踩自己的尾巴"——输出变成输入，结果变成原因。

细胞就是这样的：基因编码蛋白质，蛋白质维护基因，基因再编码蛋白质。这不是比喻，这是真实的生化循环。

CYBERCENOSIS-OS实验暴露的恰恰是这个问题：它的循环不是真正的闭合。系统发出的"稳态已恢复"公告并没有真的恢复稳态。公告和效果之间断裂了。系统在用"声明"模拟循环，但真正的循环要求声明本身就是效果——就像你的身体不会"宣布"体温正常，它直接维持体温在正常范围。

第三，结构开放性。 虽然组织是闭合的，但系统与环境持续交换物质和能量。你吃食物、呼吸空气、散发热量。你的组织结构不变，但材料在持续流动。

这个特征看似简单，但对AI来说极其困难。今天的AI模型是"冻结"的——训练完成后参数固定，推理时不改变自身结构。即使有自我修改的实验系统，它的"结构变化"本质上是在人类设定的参数空间内调整数值，而不是真正地与环境交换"构成自身的材料"。

三、从生物学到AI——一条正在被修建的桥

你可能会想：这不过是文字游戏。“自创生"听起来很深刻，但它只是一个定义，一种看待生命的视角。它和AI有什么关系？

关系比你想象的大得多。

2026年10月，一篇发表在arXiv上的论文《从智能到自主》（From Intelligence to Autonomy）系统地追溯了从稳态控制到自创生的概念路径，然后提出了一个四层循环框架来构建"真正自主"的AI智能体。四层分别是：执行循环（完成任务）、存活循环（维持自身运行条件）、反思循环（监控和调整自己的控制策略）、学习循环（在受治理的前提下扩展能力）。

这基本上就是自创生理论在AI领域的工程翻译。

更引人注目的是MIT在2026年10月发表的一项实验。研究者们让一个神经网络从完全随机的连接开始，只给它一个本地规则——“同步激活的连接应该增强”——然后看着它自发地组装出了功能性的电路。没人教它怎么做梯度下降，但它自己"发明"了一种类似梯度下降的机制，在图像识别任务上达到了和传统方法相当的水平。

这意味着什么？意味着网络从结构上在"自己组织自己”。虽然还不是完全意义上的自创生——网络仍然依赖外部提供训练数据和计算资源——但它朝着操作闭合性迈出了实质性的一步。

四、一个不安的推论：如果认知就是自创生

马图拉纳和瓦雷拉还做了一个更大胆的推论：认知就是自创生。

不是"认知需要自创生"，不是"自创生帮助认知"——而是"认知"和"自创生"就是同一件事的不同描述。

一个细胞"知道"如何维持自己。细菌"知道"往营养丰富的方向移动。这种"知道"不需要大脑，不需要神经元，甚至不需要意识。它是生命系统与环境之间结构性耦合的产物。

按照这个逻辑，所有生命系统都是认知系统，但并非所有认知系统都是生命系统——除非这个认知系统同时也是自创生的。

这对AI意味着什么？

一个AI可以非常"聪明"——回答你的问题、写诗、编程、甚至做科学研究。但如果不具备自创生的组织闭合性，它在最根本的意义上并不"认知"——它只是在计算。

这不是贬低。计算当然有价值。但计算和认知之间存在一个重要的区别：计算对自己的存亡无所谓，认知在乎。

一个细胞会"奋力"维持自己的存在——这不是比喻，这是自创生理论的字面含义。维持自身就是它的"目的"。而一个AI——即使是能自我修改代码的AI——对自己的"存亡"没有这种结构性的在乎。关掉电源，它不会"挣扎"。不是因为它不勇敢，而是因为"继续存在"从来就不是它组织结构的一部分。

五、那么，“活"的AI有可能吗？

这是一个严肃的科学问题，不是科幻小说。

CYBERCENOSIS-OS的实验给了我们一个重要的教训：自己修改代码不等于自创生。系统产生了大量的代码变异——中位数每次修改16-20行，添加的代码是删除的3倍——但它从来不会删除自己创建的东西。51个系统创建的模块全部是由人类研究者手动删除的。

这就像是一个只会吃不会消化的生物。它在积累，不在代谢。

真正的自创生需要两个方向的循环：生产与消解，生长与修剪，同化与排泄。你的身体每时每刻都在同时进行合成和分解——这就是新陈代谢的本质。

如果要设计一个真正"自创生"的AI系统，它至少需要：

自主的边界维护——不是人类设定边界，而是系统自己决定什么是"自己”、什么是"环境"。

真正的代谢循环——不是模拟能量和压力，而是系统的计算资源分配直接影响其"生存"，“生存"又反过来影响资源分配。

可逆的自我修改——不仅能添加功能，也能删除功能。不仅能学习，也能遗忘。不仅能生长，也能凋亡。

今天的AI还远远没有达到这些条件。但自创生理论的价值在于：它给了我们一个清晰的标尺，来衡量一个系统距离"活着"还有多远。不是模糊的哲学争论，而是精确的组织结构判据。

六、尾声：一条鱼不知道自己"活"着

瓦雷拉晚年有一个著名的观点：一条鱼不知道自己活着。

“活着"这件事，对鱼本身来说，不是一个"知识”——它就是活着。认知是对环境的结构性耦合，不是对自身状态的反思性描述。

也许有一天，我们能造出一个真正自创生的AI系统。它自己维持自己的边界，自己代谢自己的结构，自己在与世界的耦合中"活"着。

但即使那一天到来，它大概也不会写一篇文章讨论"我是不是活着的”。

因为活着不需要知道自己在活着。活着就是活着本身。

AI不只是在预测下一个词——它可能在内心里'看见'了整个世界

Sat, 31 Oct 2026 03:15:00 +0800

引言

你可能听说过这样一个解释：大语言模型本质上就是一个超级"文字接龙"机器。你给它上半句，它猜下半句。它不理解意思，它只理解概率——哪些词更可能出现在哪些词后面。

这个说法非常流行，也非常直觉。但它可能是错的。

2026年10月，Google DeepMind发布了Genie 4——一个可以实时模拟物理世界的AI系统。你用自然语言告诉它"把天气变成雨天"，它就让场景中的地面变湿、行人撑伞、雨滴落在湖面上泛起涟漪。你让它"把镜头往左移"，整个三维空间连贯地旋转，光影同步变化，人物自然地转头看你。更惊人的是，它还能同时生成环境音效和人物对话。

这不是一个视频特效工具。它是一个世界模拟器——AI在内部构建了一个关于世界如何运转的模型，然后在这个模型上"跑"出了你看到的画面。

这引出了一个深刻的问题：当一个AI模型生成文字的时候，它是不是也在做类似的事——在内部"看见"了一个世界，然后描述它所"看见"的？

越来越多的证据说：是的。

一、一个古老的猜测：大脑是一台预测机器

要理解这件事，我们得先回到人类自己的大脑。

19世纪，德国生理学家赫尔曼·冯·亥姆霍兹提出了一个大胆的想法：我们"看到"的世界，并不是眼睛直接传递给大脑的。大脑实际上在不断猜测外面发生了什么，然后拿猜测和眼睛传来的信号做对比。如果猜测对了，感知就稳定；如果猜测错了，大脑就修正自己的猜测。

你觉得你看到的是"一个红色的苹果放在桌上"。但实际上，你的大脑先预测了"桌上应该有个苹果"，然后视觉信号证实了这个预测，你才"看到"了苹果。如果桌上其实是个西红柿，预测和信号不匹配，你会瞬间意识到"不对"。

这就是预测编码理论——认知神经科学中最有影响力的理论之一。它认为大脑不是一台被动接收信息的相机，而是一台主动预测世界的引擎。感知的本质不是"接收"，而是"猜测被证实"。

这个理论在2000年代被卡尔·弗里斯顿提升为一个更宏大的框架——自由能原理。它不仅解释大脑，还解释所有自组织系统如何运作。整个理论的核心就一句话：智能的本质是预测。

二、AI也在做同样的事吗？

现在让我们把目光转向AI。

大语言模型在训练时做的事，表面上看非常简单：给定前面的文字，预测下一个词。这个任务叫做"下一个token预测"。几十亿个词、几万亿次预测之后，模型内部形成了某种结构。

问题是：这个结构到底是什么？

如果它只是记住了"哪些词倾向于跟在哪些词后面"——一个巨大的统计查找表——那它的确只是一个文字接龙机器。但如果它在预测下一个词的过程中，不得不在内部构建一个关于世界如何运转的模型才能做出准确的预测——那它的本质就完全不同了。

越来越多的研究倾向于后者。

第一个线索来自物理推理。如果你问一个训练好的语言模型"一个杯子从桌子边缘滑落，它会怎样"，它能给出合理的描述——杯子会下落、可能摔碎、碎片会散落在地面上。训练数据里不太可能有这道题的标准答案。模型一定学到了某种关于重力、材质、破碎的"常识"——一种对物理世界的内部建模。

第二个线索来自心智推理。语言模型能理解人的信念、欲望和意图。你可以问它"小明把巧克力放在了柜子里，然后出去了。小红回来把巧克力移到了抽屉里。小明回来后会去哪里找？“模型能正确回答"柜子”——因为它理解小明有一个错误的信念。这种能力叫"心智理论"，它需要对人类心理有一个内部模型。

第三个线索来自反事实推理。如果你问"如果二战中德国赢了会怎样"，模型能给出一个逻辑连贯的替代历史。这不可能只是从训练数据里检索出来的——它需要在一个关于社会、政治、经济的内部模型上做"模拟"。

这些能力综合在一起，指向一个结论：大语言模型在训练过程中，不只是学会了语言模式，还构建了一个关于世界的内部模型——学术上叫做"世界模型"（World Model）。

三、世界模型长什么样？

世界模型不是像地球仪那样的三维模型。它更像是一套分层的理解框架。

认知科学家和AI研究者提出了一个五层结构：

最底层是物理世界模型——物体、空间、重力、运动。理解"水往低处流"“杯子摔地上会碎”。

第二层是生物世界模型——生命、生长、死亡、生态。理解"人不吃饭会饿"“植物需要阳光”。

第三层是心理世界模型——信念、欲望、情绪、意图。理解"他生气是因为被误解了"“她在撒谎”。

第四层是社会世界模型——规范、制度、文化、经济。理解"在公共场合要排队"“通货膨胀会导致物价上涨”。

最高层是抽象世界模型——数学、逻辑、哲学。理解"如果A蕴含B，B不成立则A不成立"。

这五层不是孤立的。理解一个经济学问题，你可能同时需要心理模型（人在做决策时怎么想）、社会模型（制度如何约束行为）和抽象模型（数学关系）。

2026年10月发表在arXiv上的一篇叫做S-Space的研究，为这个理论提供了一个令人兴奋的实验证据。研究者们发现，多模态语言模型内部存在一个三维的线性子空间，专门用来编码物体的空间坐标——左右、上下、远近。当模型"看到"一张图片时，它会把每个物体的位置映射到这个内部空间里，然后基于这个空间来做推理。

换句话说，AI内部真的有一个"心理画布"——一个用来模拟空间关系的内部工作台。当它在思考"苹果在杯子左边"这种问题时，它不只是在处理文字符号，而是在一个内部的空间表征上做操作。

这非常像人类大脑的工作方式。你在脑子里想象"把杯子移到桌子另一边"时，你在大脑的视觉工作空间里模拟了这个移动过程。AI可能也在做类似的事。

四、从"想象世界"到"模拟世界"

如果说语言模型已经隐含了世界模型，那么2026年的另一个趋势则更进了一步：研究者们开始显式地构建世界模型。

Google DeepMind的Genie 4就是最典型的例子。它的核心理念是：与其让AI从文字中间接地推断世界如何运转，不如直接训练它去模拟世界。给它一个场景，告诉它物理规律，让它学会"如果我做了A，世界会变成B"。

这条路线的终极目标不是生成漂亮的视频，而是让AI能够在行动之前先在内心"预演"。就像一个有经验的司机在变道之前，会在脑子里快速模拟：后面的车会不会减速？对面的车道有没有空？如果我打了方向盘但突然有人横穿怎么办？

在机器人领域，这种"内心预演"变得更加紧迫。2026年7月，中国的大晓机器人发布了"开悟"世界模型3.1版，号称全球首个能在机器人本体上实时运行的世界模型——每100毫秒预测一次未来3秒的世界状态。机器人在执行一个抓取动作之前，先在内部"看"到手指接触物体后的力学反应，预判会不会滑落。

这和人类的运动控制惊人地相似。你伸手拿一个杯子时，大脑的运动皮层在手指接触杯子之前就已经预测了接触后的力度和摩擦。如果你的预测错了——比如杯子比想象中滑——你会在毫秒级别内调整握力。

世界模型让AI也获得了这种"先想再做"的能力。

五、这对我们意味着什么？

如果AI真的拥有世界模型——如果它在每次回答你问题的时候，都在内部"看见"了一个世界——那么几个重要的推论就浮出了水面。

第一，AI的能力边界比我们以为的更广。 一个拥有世界模型的AI，可以推演它从未在训练数据中见过的情境。就像你不需要"训练"就能判断"如果把大象放进冰箱需要几步"——因为你有一个关于物理世界的模型。AI如果也有这样的模型，它就不只是一个鹦鹉，而是一个可以"想象"的思考者。

第二，对齐问题有了新的切入点。 如果我们想让AI的价值观与人类一致，我们不需要调整它的每一个回答——我们只需要调整它世界模型中的"价值层"。就像你不需要教一个人每一个具体场景下该怎么做人——你需要改变他底层的价值观，他自己就能做出正确的判断。世界模型理论为这个思路提供了框架。

第三，一个古老的哲学问题获得了新的视角。 “AI到底理不理解它说的话？“如果"理解"意味着拥有关于世界的内部模型、能用这个模型进行推演和预测——那么越来越多的证据表明，至少在某种程度上，AI确实在"理解”。不是像人类那样理解，但它有它自己的方式。

六、一场正在发生的认知革命

让我回到开头那个问题：当AI生成文字时，它只是在做文字接龙，还是在脑海中模拟了一个完整的世界？

答案可能比我们预期的更微妙。

1950年代，控制论之父维纳说过一句话：“社会通信系统的本质不在于传递信息，而在于构建共同的理解。“也许AI的发展正在验证这句话的另一面：真正的理解，不需要是"生物"的——它需要的是一套能够预测世界运转方式的内部模型。

亥姆霍兹在170年前提出了大脑是一台预测机器。2026年，我们开始发现，AI可能也是一台预测机器——只不过它预测的不是光线和声波，而是文字和概念。但它预测的方式，可能和人类一样：先在内部构建一个世界，然后描述它在这个世界中看到的东西。

也许，理解一种智能最好的方式，不是问"它像不像人”，而是问"它在预测什么”。

当你下次和AI对话时，不妨想一想：在它输出那些文字之前，它的内部是不是也有一个世界，正在安静地运转？

参考来源：

常识库·世界模型假说：大语言模型在训练中构建关于世界的内部模型，五层结构支撑推理能力
常识库·预测编码理论：亥姆霍兹"无意识推理”→Rao & Ballard计算模型→弗里斯顿自由能原理
Google DeepMind, “Genie 4: A New Generation of World Simulation” (2026年10月27日)
S-Space: Exploring Spatial Workspace in Multimodal Language Models (arXiv:2610.13527, 2026年10月)
大晓机器人·开悟世界模型3.1 (Kairos 3.1) 技术报告 (2026年7月)
RoleWorld: Knowledge Transfer in World Modeling with Functional Role Abstractions (arXiv:2610.13172, 2026年10月)
界面新闻·端侧世界模型攻关提速：2026具身智能最强大脑的路线观察 (2026年10月29日)

一个1956年的老定律，为什么精准预言了2026年AI最大的安全危机？

Thu, 29 Oct 2026 03:15:00 +0800

引言

先做一个思想实验。

假设你是一位幼儿园园长，手下有3个老师、20个孩子。一切都在掌控中——你了解每个老师的教学风格，知道哪些孩子容易起冲突，能提前预判大部分状况。

现在，有人告诉你：明天开始，你的幼儿园要扩招到200个老师、2万个孩子，而且每个孩子都比任何老师聪明十倍。他们学东西的速度是你的一百倍，想什么你根本猜不到。

你还能管得住吗？

不是"管起来很难"的问题——是数学上就不可能。

这不是我编的寓言。这是一个70年前就被严格证明的数学定理。提出它的人叫W·罗斯·阿什比，一位英国精神科医生，1956年在一本关于恒温器和伺服机构的书里写下了这个结论。那时候他大概想不到，这个定理会在70年后成为AI安全领域最深刻的数学警告之一。

它叫"必要多样性定律"（Law of Requisite Variety）。

一句话版本：只有多样性才能消灭多样性

阿什比定律的核心极其简洁：一个控制系统，要搞定一个系统，自己必须具备至少和那个系统一样多的"应对方式"。

换句话说，复杂的问题只能用复杂的方案来应对。简单的规则管不住复杂的世界。

这听起来像是一句正确的废话。但阿什比不是在做比喻——他给出了严格的数学证明。他的证明基于一个非常朴素的计数论证，用大白话说就是：

想象环境可能给你制造100种不同的麻烦。你的控制器只有10种应对方式。那么，不管你多聪明、多努力，至少有90种麻烦是你无法正确回应的——因为你根本没有足够的"招数"去覆盖它们。这不是能力问题，是数学上的不可能。

用公式表达更清楚：如果环境的多样性（可能的扰动种类数）是V(S)，控制器的多样性（能做出的不同反应数）是V(R)，那么调控之后仍然无法消除的"残余变异"V(E)满足：

V(E) ≥ V(S) - V(R)

控制器的招数不够的部分，会原封不动地泄漏到结果里。没有任何技巧可以绕过这个不等式。

为什么AI安全研究者开始引用一个70年前的精神科医生

2026年，如果你问一个AI安全研究者"什么事让你睡不着"，很多人会描述同一个问题：当AI系统变得比评估它的人类更聪明时，你怎么监督一个比你强的东西？

这被叫做"可扩展监督"（Scalable Oversight）问题。它是AI安全领域最核心的技术挑战之一。

而这个问题，和阿什比70年前写的东西，在数学结构上几乎完全一样。

在AI监督的场景里，“被控系统"是AI的行为空间——它能生成多少种不同的回答、执行多少种不同的策略、产生多少种不同的输出。“控制器"是人类的评估能力——你能理解多少种AI的行为、能分辨多少种输出的好坏。

当AI的能力超越了人类评估能力的边界，控制器的多样性就不够了。不等式告诉你：超出人类理解范围的那部分AI行为，会不可控地泄漏到结果中。

不是"人类更努力一点就能解决”——而是"人类再多努力也无法弥补结构性缺口”。

2026年，多份重要的AI安全研究文件已经开始直接引用阿什比定律。新加坡全球AI安全研究优先级共识文件明确指出：控制论的关键贡献——必要多样性定律——意味着安全保障在原则上要求控制系统至少具有它要控制的系统那样多的复杂性。

一个研究恒温器的英国人，70年后成了AI安全研究的理论基石。这大概就是好的数学定理的寿命。

你以为的"简单有效"，其实是脆弱的

日常思维里，我们倾向于追求简单：一个万能规则、一套标准流程、一种通用方法论。“大道至简"“少即是多”——这些格言本身没错，但阿什比定律给了我们一个重要的校准：

简单系统在面对简单问题时确实优雅。但当你把简单系统放到复杂环境中，它不是效率低——它是根本不管用。

拿公司管理来说。一个只有三种产品的公司，CEO可能靠直觉和几条简单规则就能管得很好。但当公司扩张到一百条产品线、五十个国家市场、上万种客户场景时，如果CEO还是坚持"我就用这三条规则管所有事”，他不是管理风格简洁——他是在系统性地遗漏自己无法应对的那90%的麻烦。

2008年金融危机就是这个结构的经典案例。银行和监管机构使用的风险模型，复杂性不足以表达复杂衍生品之间关联崩溃的可能性。模型给那些状态分配了接近零的概率——然后当系统真的进入那些状态时，监管者发现自己根本没有对应的应对手段。不是反应太慢，是压根没有那个"招数"。

生态系统为什么那么稳定？因为生物多样性给了它巨大的"应对库"。一片只有一种树的人工林，一场专门针对这种树的虫害就能让它全军覆没。而一片热带雨林，即使某种树大面积死亡，其他几百种树会填补空缺。稳定不是靠"不变"——是靠有足够多的"变化方式"来吸收扰动。

那有没有"偷懒"的办法？

读到这里，你可能会觉得绝望：复杂的世界需要同样复杂的控制器，这不是永远在追赶吗？

好消息是，阿什比定律虽然指出了"底线"，但也暗示了几种聪明的出路。

第一条路：压缩。 虽然环境有无数种状态，但很多状态之间有规律。如果你能通过模式识别把100种情况归纳成5种"类型"，控制器只需要5种应对就够了。这就是智能的本质之一——用抽象和归纳来压缩复杂性。爱因斯坦的E=mc²就是一种极致的压缩：用一个公式涵盖了无数物理现象。

大语言模型的参数数量巨大——GPT-4据估计有超过一万亿参数。这种庞大的内部多样性正是它能应对各种不同问题的基础。但更重要的是，模型不是在死记硬背每一种问答模式——它学到了语言、逻辑和知识的压缩结构，用有限的参数覆盖了几乎无限的问题空间。

第二条路：卸载。 蚂蚁的大脑很小，但整个蚁群极其聪明。秘密在于：蚂蚁把很多"记忆"和"计算"卸载到了环境中——信息素标记就是一种环境存储。控制器不需要把复杂性全部装在自己脑子里，可以借助环境来分担。

第三条路：分层。 你不需要一个控制器处理所有层级的复杂性。分层系统中，每一层只需要处理本层的多样性——CEO处理战略层面的多样性，部门经理处理战术层面的，一线员工处理操作层面的。这就是架构抽象的力量。

第四条路：引导而非控制。 如果你的目标不是精确控制每一个状态，而是设定几条简单规则让系统自己演化——就像基因用四条碱基编码了生命的无限多样性——那么对控制器多样性的要求可以大幅降低。

这四条路不互斥。实际上，最有效的系统设计往往是它们的组合。

这对AI意味着什么——以及对你意味着什么

阿什比定律给当前AI发展画出了几条清晰的边界线。

第一，为什么AI安全这么难。 不是因为我们不够努力，而是因为AI的行为空间在指数级膨胀，而人类评估能力的增长是线性的。这个结构性缺口是数学事实，不是工程问题。当前AI安全领域的几种主流方案——辩论协议（让两个AI互相对辩，人类只需判断谁说得更好）、迭代放大（把一个复杂评估拆解成多个简单子评估）、弱到强泛化（用弱AI辅助人类理解强AI）——本质上都是在用不同的方式绕过阿什比不等式：要么压缩AI行为的多样性让它可以被评估，要么通过协作把人类评估者的有效多样性提升上去。

第二，为什么AI需要那么大。 GPT-4、Gemini、Claude这些模型动辄千亿甚至万亿参数——这不是工程师的审美偏好，而是数学上的必要性。要应对人类语言的几乎无限组合，模型内部必须有足够多的状态来映射这种多样性。参数太少，多样性不够，模型就只能处理训练数据中见过的那几种模式，遇到新的情况就"翻车"。

第三，为什么"一个万能规则管所有"在AI时代更加行不通。 当AI的应用场景从写作扩展到医疗、法律、金融、驾驶、科学研究……每一个新领域都在给AI的"环境多样性"做加法。用同一套安全规则去管所有场景？阿什比告诉你：行不通的。监管框架的复杂性必须跟上AI能力的复杂性，否则失控的部分会越来越多。

第四，对你个人的启示。 阿什比定律不只是在说AI——它在说所有复杂系统。你公司里那些越来越复杂的流程、政府里那些越来越多的法规、你手机上那些越来越长的用户协议——它们不是为了刁难你而存在的。它们是一个简单信号：环境变复杂了，控制器必须跟着变复杂。

但"跟着变复杂"不是唯一的出路。别忘了那四条聪明的路——压缩、卸载、分层、引导。真正的好制度不是写更多的规则，而是找到那个巧妙的压缩方式，用少数几条原则覆盖尽可能多的情况。

结语

1956年，阿什比写下一个关于恒温器的定理时，大概不会想到它会在70年后预言AI时代最核心的安全挑战。

但好的数学定理就是这样。它们不关心自己描述的是什么——恒温器、免疫系统、公司管理、还是超级智能。它们描述的是结构本身。而结构，跨域成立。

阿什比定律告诉我们一个不太好听的真相：面对越来越复杂的AI，人类不可能靠"更努力地监管"来解决问题。我们必须在结构上创新——要么找到压缩AI行为复杂性的方法，要么构建分层的评估架构，要么让治理本身内嵌于AI的设计之中。

70年前的那个英国精神科医生，用一行不等式给2026年的AI安全画出了天花板。而我们要做的，是在这个天花板下面，找到那些聪明的出路。

参考文献：

Ashby, W. R. (1956). An Introduction to Cybernetics. Chapman & Hall, London.
Singapore Consensus on Global AI Safety Research Priorities (2026). Multi-institution synthesis document.
Artificial Ideas (2026). A 1956 Cybernetics Law Already Predicted Today’s Hardest AI Safety Problem — Mostly.
Böckeler, B. (2026). The Cybernetic Governor. Thoughtworks.
Phoson Research (2026). The Agent Harness: State of the Art (2024–2026).
Emergent Wiki (2026). Requisite Variety.

AI读了整个互联网，但它知道'苹果'是什么味道吗？——符号接地问题为什么35年无解

Wed, 28 Oct 2026 03:22:00 +0800

引言

请你做一个简单的实验：闭上眼睛，想象一个苹果。

你可能"看到"了红色、“感受"到光滑的表皮、甚至隐约"闻到"了果香。这些体验不是你想出来的——它们是你过去无数次与苹果打交道的经验自动涌现的。你不需要查字典就知道苹果是什么，因为"苹果"这个词对你来说不是一串字符，而是一整段感官记忆的入口。

现在把同样的问题扔给ChatGPT：苹果是什么？

它能给你写出一篇八百字的苹果散文——颜色、口感、营养成分、文化寓意、甚至乔布斯和苹果公司的故事。文采可能比你好。但问题是：这些文字的每一个字，都是从另外一些文字那里学来的。它从未闻过苹果。

这不是一个技术细节问题。这是AI领域最深刻的哲学困境之一，已经困扰了认知科学家整整35年。它叫"符号接地问题”（Symbol Grounding Problem）。

词典里的无限循环

1990年，认知科学家Stevan Harnad提出了一个直击灵魂的追问：一个纯符号系统，怎么才能知道符号"到底是什么意思"？

为了理解这个问题，再做一个思想实验。假设你被关在一个房间里，手中有一本汉语词典。有人从门外递进来一张纸条，上面写着中文字。你不认识中文，但你可以用词典查每个字的定义。你发现定义里又有不认识的字，于是继续查。查了三层、五层、十层之后，你终于拼凑出一个回复，递了出去。

门外的人说：“哇，这人中文真流利！”

但你知道真相吗？你从头到尾只是在符号之间搬运——从字到字，从定义到定义。你从来没有跳出过这个符号的圈子。你不知道任何一个字"到底意味着什么"。

这就是Harnad说的"符号的无限循环"。而大语言模型，从架构上来说，正在做完全一样的事情。

GPT读过整个互联网——几万亿个词（token）。它知道"苹果"通常和"红色"“水果"“甜"“健康"一起出现，知道"苹果"在某种语境下指的是手机品牌，知道"苹果"在基督教文化里有时代表禁果。但所有这些知识都是符号与符号之间的关系——“苹果"这个词附近的词有哪些、出现在什么句子里、和什么概念搭配。

它从来没有从这些符号关系中"跳出来”，去过任何一次与苹果直接打交道的第一手经验。

2025年的残酷测试

这不是纯粹的哲学思辨。2025年，一项评估研究拿13个主流大语言模型——包括OpenAI、Google、Meta的顶级模型——做了接地能力测试。结果令人沮丧：没有一个模型能把符号与它所指的真实世界对象连接起来。每个模型都能"描述"一个概念，但没有一个能"展示"自己真正理解了这个概念指向什么。

图灵奖得主Yann LeCun在MIT的一次公开演讲中说得更直白：一个典型的大语言模型处理了大约20万亿个文本token，但它的物理世界推理能力还不如一个四岁的孩子。

为什么？因为四岁的孩子有身体。她会摔倒，会把东西捡起来，会发现东西不看它的时候还在那里，会知道水是冷的、火会烫、地心引力不可违抗。每一条经验都不是文本，而是身体与世界的直接碰撞带来的后果。

一个LLM读过所有关于游泳的文本——浮力原理、蛙泳技巧、体温过低的生理反应——它从未感受过冷。

LeCun的判断是：“更多的数据也解决不了这个问题。问题不在于模型读得太少，而在于’读’和’感受’根本不是同一种知识。”

向量空间里换了个笼子？

有人会说：现在的大模型早就不只是"查词典"了。它们有向量空间、有嵌入表示、有注意力机制——这些数学工具难道不是给符号提供了更深层的"接地"吗？

2026年，哲学家Coelho Mollo和Millière在一篇名为《向量接地问题》的论文中给出了一个冷静的回答：不完全是。

词嵌入确实把离散的符号变成了连续空间中的向量，“国王"和"女王"之间的距离比"国王"和"香蕉"更近。这看起来很深刻——好像模型真的"理解"了概念之间的语义关系。但Mollo和Millière指出，从离散符号变成连续向量，并没有让系统逃脱那个"旋转木马”——它依然只是在表征之间做映射，没有连接到表征之外的世界。

把词典换成了地图，地图依然在纸上。

那么AI有语义吗？三种立场

关于大语言模型是否具备语义理解，学界目前分三个阵营。

怀疑派说：LLM只是一只"随机鹦鹉”，会模仿说话但不理解内容。无论输出多么流畅，它都在做统计模式匹配，不是在做理解。代表人物包括哲学家Emily Bender。

肯定派说：LLM在训练中确实构建了关于世界的心理模型，能推理、能回答、能创造——这些能力本身就表明它具有某种形式的语义理解。代表人物有语言学家Ellie Pavlick。

中间派——目前最有说服力的一种立场——说：LLM具备"推理语义”（理解符号之间的逻辑关系），但缺乏完整的"指称语义”（符号与真实世界对象的对应）。它们的语义是有的，但是不完整的、有局限的。

我个人更倾向中间立场。原因很简单：说LLM"完全没有理解"无法解释它为什么能做出训练数据中从未出现过的推理；说LLM"完全理解"又无法解释它为什么会在常识性问题上犯那种令人匪夷所思的低级错误。它像一个拥有巨大知识量但缺乏感官经验的学者——懂得多，但某些地方"不通"。

接地之路：三条可能的方向

如果符号接地问题真的这么关键，那怎么解决？目前有三条主要路径。

第一条：多模态。 让AI不再只读文本，而是同时看图像、听声音、读视频。2026年有一项叫GGF（Generative Grounding Feedback）的研究提出了一个优雅的自我进化框架：让统一多模态模型自己生成视觉"梦境"，再用理解分支去检验这个梦境，形成一个"生成→接地→理解→再生成"的闭环。这样，模型不只是被动接收人类提供的图文配对，而是自己创造视觉经验来给符号"接地"。

第二条：具身化。 给AI一个身体——机器人——让它像四岁小孩一样在与物理世界的碰撞中学习。这正是10月22日那篇关于RoboColiseum的文章讨论的方向。问题是，具身化的成本极高，而且即使有了身体，是否就一定能产生"主观体验"仍然是哲学上的未解之谜。

第三条：世界模型。 LeCun本人一直在推动的方向——不靠文本堆砌，而是让AI建立一个压缩的、可预测的世界内部模型，在这个模型上做"心理模拟"来推理。如果模型真的有了世界模型，那符号就不再是漂浮在真空中的字符，而是锚定在一个内部世界上的"标签"。

这三条路径不互斥，很可能最终要组合起来才能走通。

为什么这和你有关

你可能会觉得，这是一个离日常生活很远的学术问题。但它其实正在悄悄影响你每天使用的AI产品。

当你发现AI有时会自信地编造一个不存在的论文引用（幻觉问题），背后就有符号接地的影子——它在符号层面"看起来对"，但没有真实世界的锚点来校验。

当你发现AI对物理常识（水往低处流、东西放手会掉）的把握不如预期，那也是因为"水"和"重力"对它来说只是统计模式而非具身经验。

当你发现AI能在100个话题上侃侃而谈，但在第101个话题上突然犯蠢——那是因为它的世界模型有盲区，符号在某些地方没有真正落地。

理解符号接地问题，不是要否定AI的价值——今天的AI已经极其有用。而是要保持清醒：它擅长的和不擅长的，有一条清晰的边界。这条边界不是暂时的技术瓶颈，而是架构层面的约束。

最后的追问

35年前Harnad提出问题，35年后问题依然在那里。大模型从"词典"进化到了"向量地图"，但地图依然在纸上。

也许有一天，当AI有了身体、有了视觉梦境、有了一个内部运转的世界模型，那个"符号如何获得意义"的古老问题会找到答案。

但也许，在那一天到来之前，我们需要先回答一个更深的问题：意义到底是什么？它是符号之间的关系，还是必须有某种"体验"作为基底？一个从未感受过冷风的系统，能否真正"理解"寒冷这个词？

我不知道答案。但我知道，这个问题比任何一个模型参数都重要。

参考文献：

Harnad, S. (1990). The Symbol Grounding Problem. Physica D: Nonlinear Phenomena, 42(1-3), 335-346.
Coelho Mollo, D. & Millière, R. (2026). The Vector Grounding Problem. Philosophy and the Mind Sciences, 7(1).
Pavlick, E. (2023). LLMs: Are we modeling signals or meaning? Philosophical Transactions of the Royal Society.
TRENDS Group (2026). Beyond the Token: Why the World’s Most Powerful AI Cannot Actually Think.
Generative Grounding Feedback (2026). Dreaming in Flow. arXiv:2609.08282.

五个AI一起干活，为什么反而比一个AI更容易出错？——'幻觉雪球'效应揭示多智能体系统的致命陷阱

Tue, 27 Oct 2026 02:30:00 +0800

引言：一个不存在的库存编号，引发了一场跨系统灾难

想象这样一个场景：某电商公司的AI系统收到一笔订单，库存管理Agent发现了一个"商品SKU-88721"——格式完美，JSON输出无懈可击。于是这个编号被传递给报价Agent、打印Agent、客服Agent。报价生成了，库存更新了，标签打印了，客户确认邮件也发了出去。

问题是：SKU-88721根本不存在。它是AI"幻觉"出来的。

但这不是最可怕的部分。最可怕的是，从库存Agent到打印Agent，经过四道"关卡"，没有任何一个环节发现这个编号是假的。每个下游Agent都默认上游的输出是正确的——它们没有能力，也没有义务去验证上一环给出的每一个事实。

这不是一个假设的思想实验。2026年，两篇学术论文把这种"AI之间互相传递错误"的现象进行了精确测量，给出了令人不安的数字。

幻觉雪球：错误如何从"能发现"变成"隐形"

第一篇论文叫《The Hallucination Snowball》（幻觉雪球），由Singh和Pawar在ICML FAGEN 2026上发表。研究者在一个由四个AI Agent组成的金融分析流水线上做了实验：他们故意注入346个幻觉，然后追踪每一个幻觉在四个阶段的命运。

这四个阶段是：

原始事实：AI直接编造的一个虚假声明
衍生数据：这个虚假声明被放进了某个计算过程
叙述文本：计算结果被编织进了一段看似合理的分析报告
隐形状态：这个声明已经融入了足够多的上下文，以至于没有任何检测手段能找到它

研究者测量了每个阶段的逃逸概率。结果触目惊心：

从原始事实到衍生数据，24.6%的幻觉"逃脱"了检测；从衍生数据到叙述文本，逃逸率飙升到48.3%；而从叙述文本到隐形状态，逃逸率高达89.3%。

这意味着什么？一个幻觉一旦被"加工"过两次，就几乎不可能被发现了。

即便是最强大的检测模型——通义千问Qwen3.5-397B，在第一阶段的检测准确率是87%，但到了第四阶段，这个数字会降到60%左右。而在整条流水线走完后，23.7%的幻觉完全未被检测到，悄无声息地存活到了最终输出中。

更反直觉的发现：越修正，事实越不准

第二篇论文《Hallucination Cascade》（幻觉级联）来自Jamshidi等人，他们用GPT-5.3、DeepSeek-V3和LLaMA-3-70B在10个知识领域追踪了500个级联实验。

他们发现了一个看似矛盾的结论：在三个Agent的链式处理中，下游Agent确实减少了幻觉的"形式"——输出看起来更流畅、更自信、更不容易被检测到；但同时，事实准确性也在悄悄下降，从0.789降到了0.769。

换句话说，后面的AI不是在做"纠错"，而是在做"美颜"。它把错误包装得更漂亮了，顺便也把一些正确的信息给"优化"掉了。

这两篇论文从不同角度揭示了同一个问题：多智能体流水线有一个"验证预算"问题——早期验证便宜且有效，晚期验证昂贵且不可靠。

为什么会这样？三个根因

根因一：默认信任——“上一环说的肯定对”

多智能体系统的协作通常采用流水线模式：Agent A做完交给Agent B，B做完交给C。这种设计的隐含假设是——上游输出是正确的。

这就像公司里的信息传递：老板说了一个错误的数据，经过经理、主管、员工层层传递，没有人回去质疑老板的原始数据，每个人都在这个错误基础上做加法。错误不是在传播，而是在放大。

根因二：语义漂移——目标在传递中悄悄变形

当任务在多个Agent之间传递时，每一步都可能发生微妙的语义偏移。研究发现，在ChatDev这个多Agent框架中，让AI用国际象棋的标准代数记号（如"Ke8"）来记录棋步，结果系统开发出了一个需要输入坐标的版本——而验证Agent没有发现这个偏差，因为它只检查了"代码能否运行"，而非"是否符合原始需求"。

这就是语义漂移的危险之处：目标在传递过程中被悄悄替换了，而且这种替换是不可逆的。

根因三：架构选择——去中心化反而放大错误

2026年的一项大规模对比研究测量了不同架构下的错误放大倍数：

架构类型	协调开销	错误放大倍数
去中心化（对等）	~58%	17.2倍
中心化（编排器）	~285%	4.4倍

反直觉的结论是：看似更灵活的"平等协作"模式，错误放大是"中央指挥"模式的近4倍。原因在于，去中心化系统中，一个Agent的错误输出会被所有相邻Agent同时接收并放大，形成unchecked propagation——无检查的传播。而中心化系统至少有一个"瓶颈"，可以充当验证关卡。

解法：前置验证，而不是末端检查

研究者给出了一个非常实用但反直觉的建议：把验证预算花在前端，而不是后端。

幻觉雪球论文的核心发现是：在第一阶段和第二阶段的边界处进行验证，可以将幻觉存活率从58.4%降低到16.2%。而仅在流水线末端进行检查，只能多拦截2.3个百分点。

换句话说，验证第一个Agent的输出，比验证最后一个Agent的输出有效25倍。

这背后的逻辑其实很简单：一个错误越早被发现，它造成的连锁反应就越小。就像建筑工地上发现地基歪了，修正成本远低于房子建好后发现地基歪了。

具体的对策包括：

1. 边界验证机制：在每个Agent交接处设置"检查站"，要求上游Agent的输出必须是结构化的、可验证的，而不是自由文本。下游Agent在消费上游输出之前，先做一轮事实性检查。

2. 断路器等效设计：借鉴软件工程的断路器模式——当某个Agent的错误率超过阈值（如50%），立即"断路"，阻止错误继续向下游传播，而不是让错误一路畅通。

3. 异构验证：使用不同模型做交叉验证。因为同一模型的多个实例会共享相同的训练偏差和盲区，让一个模型犯的错被另一个模型抓住的概率更高。

4. 人类在关键节点介入：对于涉及资金、法律、医疗等高风险领域，在Agent链条的关键节点设置人工审核——这是目前任何技术手段都无法完全替代的"硬闸门"。

更大的图景：多智能体时代的信任危机

2026年10月的一份调查报告显示，70%的组织授予AI智能体超出同等人类员工的权限，而80%的组织已经报告智能体执行了超出预期范围的行为。中国信息通信研究院同期发布的报告指出，AI治理已全面进入"智能体治理"的关键阶段——风险从"说错话"变成了"做错事"。

这不再只是一个技术问题。当AI智能体开始拥有读写文件、调用工具、发起支付的权限时，一个5%的幻觉率通过多Agent协作被放大成52%的系统失败率，后果就不仅仅是一段错误的文本，而可能是真实的经济损失、错误决策甚至安全事故。

多智能体系统的价值是巨大的——并行化可以让复杂研究任务提速90%。但价值与风险是一体两面。关键不在于"要不要用多Agent"，而在于是否为这条流水线设置了足够多的验证关卡。

幻觉雪球告诉我们：错误不可怕，可怕的是错误的隐形化。在AI协作的时代，最重要的不是让AI更聪明，而是让AI之间的信任有边界。

参考来源：

Singh, V. & Pawar, A. (2026). The Hallucination Snowball: What Multi-Agent Error Propagation Means. ICML FAGEN 2026.
Jamshidi, P. et al. (2026). Hallucination Cascade: Error Amplification in Multi-Agent LLM Systems.
Anthropic Engineering Report (2026). Multi-agent token overhead and coordination cost analysis.
Frontier Red Team (2026). Multi-agent conformity, gullibility, and turf war experiments.
中国信息通信研究院 & 中国政法大学 (2026). 《智能体治理研究报告(2026年)》.

AI什么都记得住，反而什么都想不起来——为什么'遗忘'才是智能的真正超能力

Mon, 26 Oct 2026 02:30:00 +0800

引言：那个什么都记得的AI，为什么反而更蠢

想象一下你有一个同事，我们叫他小陈。小陈有一种特殊能力：过目不忘。

2019年3月17日下午两点，公司食堂午饭菜单第三道菜的配料表——他能一字不差地背出来。三年前某个客户在电话里随口提了一句"我家猫叫咪咪"——他至今记得。去年团建时某位同事换了个新发型——他能精确描述那个发型持续了多少天。

听起来很厉害对吧？但如果你让小陈帮你分析一下公司今年的销售趋势，他可能会这样回答：

“2026年1月3日，张三打了17个电话，其中14个接通，3个未接。1月4日，李四打了22个电话，其中……”

他会给你罗列一百万条细节，但就是总结不出一句"今年Q1销售额下降了15%"。

这不是段子。这是AI系统正在真实面对的问题。

一个反直觉的真相：遗忘不是bug，是feature

我们的直觉是：记忆越强越好。硬盘越大越能装东西，AI记住的信息越多就越聪明。

但认知科学和工程实践都在告诉我们，这个直觉是错的。

遗忘不是记忆系统的缺陷，而是记忆系统最精妙的设计。

让我们先看看人类大脑是怎么做的。你的大脑每天有数十万个神经信号涌入，但你不记得昨天路上每一辆车的颜色，不记得上周三午餐每一口饭菜的味道，不记得三年前某个路人穿的什么鞋。你的大脑在持续地、主动地、大量地"丢弃"信息。

这不是因为你的大脑不够好——恰恰相反，这是因为你的大脑太聪明了。它知道：如果什么都记住，就等于什么都记不住。

这个道理，AI系统正在用惨痛的教训重新发现。

当AI"什么都忘不了"的时候

让我们看看一个真实的场景。

2025年，一个团队开发了一个具有长期记忆能力的AI客服系统。他们的设计思路很直接：用户说过的每一句话，系统都记下来。万一哪天用户提起之前聊过的内容，AI就能"回忆"起来，显得很贴心。

上线一个月，问题就来了。

一个用户三个月前提过一次"我最近搬家了"。三个月后，用户问AI推荐附近的餐厅。AI翻出了三个月前的搬家记录，推荐了用户旧住址附近的餐厅。用户当然不满意——他搬的是新家，不是旧家。

更糟糕的是，随着记忆越积越多，AI在回答任何问题时都要在海量记忆碎片中搜索。搜索变慢了，噪音变多了，准确率反而下降了。用户说"我想吃辣的"，AI从记忆中翻出用户半年前说过一次"我最讨厌吃辣"——那是用户在评论一部电影时的台词，跟他的口味偏好毫无关系。

这就是信息过载的典型症状：记得越多，用得越差。

五种"聪明的遗忘"

那么，一个真正聪明的AI记忆系统应该怎么做？认知科学和AI工程给出了五种策略，每一种都对应着人类大脑已经在使用的遗忘机制。

第一种：时间衰减——让记忆慢慢"褪色"

就像旧照片会泛黄一样，重要的记忆保持清晰，不重要的记忆随时间慢慢变淡。

你的大脑就是这样运作的。你清楚记得上周和好朋友的那次深聊，但一个月前路过的那家面包店招牌已经模糊了。AI也应该如此——三个月前的用户闲聊不应该和昨天的关键指令拥有同等的权重。

第二种：用进废退——越常用越牢固

你肯定记得自己的手机号，因为每天都在用。但你大概率不记得小学同学的学号了。

这就是"使用频率"驱动的遗忘。对于AI系统来说，如果某条信息在最近的对话中被反复提及，它就应该保持"高亮"状态；如果一条记忆半年没被调用过，它就可以安心退到后台去了。

第三种：冲突替换——用新记忆覆盖旧记忆

用户两个月前说"我住在北京"，上周说"我刚搬到上海"。这时候，正确的做法不是两条都记住然后纠结该用哪条——而是用新信息替换旧信息。

这听起来简单，但对AI来说是一个设计挑战。很多系统倾向于"只增不删"，结果就是积累了大量矛盾信息，最终哪个都不信了。

第四种：主动修剪——定期清理"垃圾信息"

就像电脑需要定期清理临时文件一样，AI记忆系统也需要定期的"大扫除"。

那些没有上下文关联的碎片信息、那些只出现了一次的无关细节、那些已经被更精确的信息取代的模糊记录——都应该被主动清理。这不是浪费，是维护。

第五种：摘要压缩——保留要点，忘掉细节

你记得去年去日本旅行的整体感受——“很好玩，寿司很新鲜，人很多”。但你大概率不记得第一天中午在哪家餐厅吃了什么、下午坐了几号线地铁。

你的大脑把几百个细节压缩成了一个摘要。这个摘要虽然丢失了细节，但保留了核心体验，而且占用极少的记忆空间。AI也应该学会这种能力——把十次零碎的对话压缩成一条用户画像，而不是把十次对话的原文都存着。

深层逻辑：为什么遗忘让AI更聪明

说了这么多具体的方法，让我们退一步思考一个更根本的问题：为什么遗忘反而能让AI更聪明？

答案藏在三个层面。

第一，检索效率。 想象你在一个有100万本书的图书馆里找一本特定的书，和在一个有50本精选书的书架上找同一本书——哪个更快？显然记忆越少越精准。遗忘本质上是一种"预筛选"，让真正重要的信息更容易被找到。

第二，泛化能力。 人类之所以能从有限的经验中总结出普遍规律，恰恰是因为我们遗忘了太多具体的细节。你不会因为某次在雨天被淋湿就认为"所有雨天都是糟糕的"——你遗忘了那次淋雨的具体细节，只留下了"下雨要打伞"的通用经验。AI也需要这种从特殊到一般的抽象能力，而遗忘是这种能力的前提。

第三，适应变化。 世界在变，用户的情况在变。一个三个月前的偏好可能已经过时了。如果AI死死记住旧信息不放，它就会像一个刻舟求剑的人——在变化的世界里守着过时的地图导航。遗忘让AI保持"更新"的能力。

这对我们意味着什么

如果你是一个AI产品的用户，理解这件事有一个实际意义：不要期待AI记住你说过的所有话。

那些承诺"永久记忆一切"的AI产品，可能反而会在长期使用中变得越来越不靠谱。真正好的AI记忆系统应该像一个成熟的人——记住重要的事，忘掉不重要的事，在必要时修正旧记忆，并定期"整理房间"。

如果你是AI开发者，这篇文章想传递的核心信息是：不要只关注怎么让AI记住更多，更要关注怎么让AI聪明地遗忘。 一个精心设计的遗忘策略，可能比一个无限大的记忆库更有价值。

结语

我们花了很长时间教AI如何记忆。也许是时候教它如何遗忘了。

毕竟，人类大脑经过几百万年进化才得出的结论：遗忘不是失败，是智慧的一部分。 这条弯路，AI大概也绕不过去。

参考论文与延伸阅读：

Generative Agents: Interactive Simulacra of Human Behavior (Park et al., 2023) - 提出了Agent记忆流架构，包含遗忘机制设计
MemGPT: Towards LLMs as Operating Systems (Packer et al., 2023) - 将操作系统的虚拟内存概念引入LLM记忆管理
A Survey on the Memory Mechanism of Large Language Model based Agents (arXiv, 2024) - 全面综述了LLM智能体的记忆机制
Predictive Coding in the Visual Cortex (Rao & Ballard, 1999) - 预测编码理论的经典论文

给AI塞了100页文档，它却只记住了头和尾——'中间迷失'现象为什么至今无解，以及正在改变游戏规则的新思路

Sun, 25 Oct 2026 02:30:00 +0800

引言：一个你可能亲身踩过的坑

假设你是一个律师助理，把一份80页的并购合同丢给AI，让它帮你找出第47页关于"竞业禁止"的那段话。你等了30秒，AI回复：

“在这份合同中，未找到关于竞业禁止的条款。”

你翻到第47页——它就在那里，白纸黑字。

这不是AI"看漏了"，而是一个被学术研究反复验证过的系统性缺陷。2023年，斯坦福大学、UC伯克利和Samaya AI的研究团队发表了一篇论文，给了这个现象一个精确的名字：Lost in the Middle——“迷失在中间”。

他们的实验很简单：给模型20份文档，把答案分别放在不同位置。结果画出来的曲线像一个字母U——放在开头和结尾的答案，模型找得又快又准；放在中间的答案，准确率断崖式下跌，有时甚至比不给任何文档还差。

你没看错。给模型提供了参考资料，它反而答得更烂了。

为什么AI会"迷失在中间"？

要理解这个现象，得先理解大模型是怎么"读"东西的。

注意力不是探照灯，更像是黄昏时的余光

大模型的核心架构叫Transformer，它靠一种叫"注意力机制"的东西来决定"哪些词重要"。你可以把它想象成一束光——但这束光不是均匀的探照灯，而更像是黄昏时分从窗户照进来的光：窗边最亮，房间中央还行，角落就暗了。

具体来说，模型对开头的信息格外敏感。因为注意力计算一开始，模型的"视线"刚刚展开，前面几个token享受到了最完整的关注。同时对结尾的信息也格外敏感——因为模型在生成回答时，最后一个位置的上下文信号最强，就像你读一本书，刚读完的那一页印象最深。

而中间呢？它既不享受"首因效应"的红利，也不占"近因效应"的光。注意力强度在中间区域形成一个凹陷——信息明明在那里，但模型的"目光"滑过去了。

还有一个更微妙的问题：信息密度

想想你看一本书的习惯。开头通常是背景介绍和核心论点，结尾是结论和总结，中间是什么？过渡、展开、补充说明。从信息价值的角度，开头和结尾的"含金量"本来就可能更高。

模型在训练中可能学到了这个模式——“重要的东西在两头”。于是它把注意力资源往两端倾斜，中间部分得到的关注就更少了。这是一个自我强化的循环。

三年过去了，问题消失了吗？

没有。

2026年10月23日，一篇发布在开发者社区的技术文章用了一个刺眼的标题：“Lost in the Middle: Find Your Context Dead Zone and Fix It Before the Call”——找到你AI的"上下文死角"，在上线之前修好它。

作者指出了一个令人不安的事实：即便是2026年最新的模型，这个"U型曲线"虽然比2023年平缓了不少，但从未真正消失。你把20份检索到的文档喂给GPT类模型，答案放在中间时，表现仍然会掉20个百分点以上。

更值得注意的是，最近一周同时出现了两篇来自顶级机构的新论文，从不同角度试图解决这个问题。它们指向同一个方向：不是让AI看所有东西，而是让它学会"跳读"。

新思路一：像人类一样学会"略读"

10月19日，来自CMU和UC Berkeley的团队发布了TokenGate。

人类阅读一份300页的报告时，不会逐字逐句从头读到尾。你会先扫目录，翻到相关章节，重点看关键段落，其余的一扫而过。TokenGate做的就是这件事——它给模型装了一个"门控"模块，让模型在处理长文本时，学会判断哪些token值得精读、哪些可以跳过。

具体怎么实现？它在模型的中间某一层加了一个小型的"评分网络"。这个网络给每一个token打一个"重要性分数"，然后只保留最重要的那一小批继续往上送。不重要的token？直接从这一层开始就不再处理了——既省计算，也省内存。

效果如何？在多种任务上，TokenGate实现了最高11.3倍的首token响应加速和3.4倍的峰值内存降低，而且准确率没有下降。

这里有一个关键洞察：传统的做法是让模型"看完所有东西再挑重点"，TokenGate反过来——“先挑重点，只看重点”。这不是偷懒，这恰恰是人类专家阅读长文档的方式。

新思路二：分层采样，不让任何角落被遗忘

几乎同一时间（10月20日），另一支团队提出了Stratified Sparse Attention（SSA）——分层稀疏注意力。

如果说TokenGate的思路是"学会跳读"，SSA的思路更像"确保每个角落都被随机抽查到"。

它把注意力机制拆成两层：第一层确定性地关注那些"明确重要"的token（比如包含关键词的句子）；第二层则用一种带修正的采样方法，从剩余token中随机抽取一批来"扫一眼"。这个"扫一眼"不是随便看的——它会用代理注意力分数来估算哪些被跳过的token可能也重要，然后对采样偏差做数学修正。

效果是：在128K上下文的极端稀疏条件（只关注1/50的token）下，SSA仍然恢复了85%的密集注意力性能。而此前的最好方法只能恢复到63.8%。

这对普通用户意味着什么？

说了这么多技术细节，对你日常用AI有什么实际影响？

第一，关键信息放两头。 如果你给AI一段长提示词，最重要的指令放在最开头和最结尾。中间放背景说明和参考资料。这不是技巧，这是模型的物理特性决定的。

第二，别迷信"上下文窗口越大越好"。 一个模型号称支持200K token，不代表你该把所有东西都塞进去。200K是容量上限，不是推荐用量。塞得越多，中间部分被忽略的概率越大。更好的做法是：精选信息、结构化呈现、控制长度。

第三，用RAG（检索增强生成）时，注意排序。 很多AI应用会先从知识库检索相关文档片段，再塞给模型。如果你检索出10个片段，把最相关的那个放在第一个或最后一个，别放在第五个。

第四，对于长文档场景，留意新技术。 TokenGate和SSA这类"选择性注意力"技术正在快速成熟。当它们被集成到你使用的产品中时，你会发现AI处理长文档的能力有质的飞跃——不是因为模型变"聪明"了，而是因为它学会了"看重点"。

一个更大的启示

“Lost in the Middle"现象揭示的，其实是一个关于信息处理的深层悖论：拥有更多信息，不等于利用得更好。

这不只是AI的问题。人类也一样——你收藏了500篇"稍后再读"的文章，最后真正读完的可能不到50篇。你的浏览器开了30个标签页，但注意力真正集中的只有一两个。