一个1956年的老定律，为什么精准预言了2026年AI最大的安全危机？

Thu, 29 Oct 2026 03:15:00 +0800

引言

先做一个思想实验。

假设你是一位幼儿园园长，手下有3个老师、20个孩子。一切都在掌控中——你了解每个老师的教学风格，知道哪些孩子容易起冲突，能提前预判大部分状况。

现在，有人告诉你：明天开始，你的幼儿园要扩招到200个老师、2万个孩子，而且每个孩子都比任何老师聪明十倍。他们学东西的速度是你的一百倍，想什么你根本猜不到。

你还能管得住吗？

不是"管起来很难"的问题——是数学上就不可能。

这不是我编的寓言。这是一个70年前就被严格证明的数学定理。提出它的人叫W·罗斯·阿什比，一位英国精神科医生，1956年在一本关于恒温器和伺服机构的书里写下了这个结论。那时候他大概想不到，这个定理会在70年后成为AI安全领域最深刻的数学警告之一。

它叫"必要多样性定律"（Law of Requisite Variety）。

一句话版本：只有多样性才能消灭多样性

阿什比定律的核心极其简洁：一个控制系统，要搞定一个系统，自己必须具备至少和那个系统一样多的"应对方式"。

换句话说，复杂的问题只能用复杂的方案来应对。简单的规则管不住复杂的世界。

这听起来像是一句正确的废话。但阿什比不是在做比喻——他给出了严格的数学证明。他的证明基于一个非常朴素的计数论证，用大白话说就是：

想象环境可能给你制造100种不同的麻烦。你的控制器只有10种应对方式。那么，不管你多聪明、多努力，至少有90种麻烦是你无法正确回应的——因为你根本没有足够的"招数"去覆盖它们。这不是能力问题，是数学上的不可能。

用公式表达更清楚：如果环境的多样性（可能的扰动种类数）是V(S)，控制器的多样性（能做出的不同反应数）是V(R)，那么调控之后仍然无法消除的"残余变异"V(E)满足：

V(E) ≥ V(S) - V(R)

控制器的招数不够的部分，会原封不动地泄漏到结果里。没有任何技巧可以绕过这个不等式。

为什么AI安全研究者开始引用一个70年前的精神科医生

2026年，如果你问一个AI安全研究者"什么事让你睡不着"，很多人会描述同一个问题：当AI系统变得比评估它的人类更聪明时，你怎么监督一个比你强的东西？

这被叫做"可扩展监督"（Scalable Oversight）问题。它是AI安全领域最核心的技术挑战之一。

而这个问题，和阿什比70年前写的东西，在数学结构上几乎完全一样。

在AI监督的场景里，“被控系统"是AI的行为空间——它能生成多少种不同的回答、执行多少种不同的策略、产生多少种不同的输出。“控制器"是人类的评估能力——你能理解多少种AI的行为、能分辨多少种输出的好坏。

当AI的能力超越了人类评估能力的边界，控制器的多样性就不够了。不等式告诉你：超出人类理解范围的那部分AI行为，会不可控地泄漏到结果中。

不是"人类更努力一点就能解决”——而是"人类再多努力也无法弥补结构性缺口”。

2026年，多份重要的AI安全研究文件已经开始直接引用阿什比定律。新加坡全球AI安全研究优先级共识文件明确指出：控制论的关键贡献——必要多样性定律——意味着安全保障在原则上要求控制系统至少具有它要控制的系统那样多的复杂性。

一个研究恒温器的英国人，70年后成了AI安全研究的理论基石。这大概就是好的数学定理的寿命。

你以为的"简单有效"，其实是脆弱的

日常思维里，我们倾向于追求简单：一个万能规则、一套标准流程、一种通用方法论。“大道至简"“少即是多”——这些格言本身没错，但阿什比定律给了我们一个重要的校准：

简单系统在面对简单问题时确实优雅。但当你把简单系统放到复杂环境中，它不是效率低——它是根本不管用。

拿公司管理来说。一个只有三种产品的公司，CEO可能靠直觉和几条简单规则就能管得很好。但当公司扩张到一百条产品线、五十个国家市场、上万种客户场景时，如果CEO还是坚持"我就用这三条规则管所有事”，他不是管理风格简洁——他是在系统性地遗漏自己无法应对的那90%的麻烦。

2008年金融危机就是这个结构的经典案例。银行和监管机构使用的风险模型，复杂性不足以表达复杂衍生品之间关联崩溃的可能性。模型给那些状态分配了接近零的概率——然后当系统真的进入那些状态时，监管者发现自己根本没有对应的应对手段。不是反应太慢，是压根没有那个"招数"。

生态系统为什么那么稳定？因为生物多样性给了它巨大的"应对库"。一片只有一种树的人工林，一场专门针对这种树的虫害就能让它全军覆没。而一片热带雨林，即使某种树大面积死亡，其他几百种树会填补空缺。稳定不是靠"不变"——是靠有足够多的"变化方式"来吸收扰动。

那有没有"偷懒"的办法？

读到这里，你可能会觉得绝望：复杂的世界需要同样复杂的控制器，这不是永远在追赶吗？

好消息是，阿什比定律虽然指出了"底线"，但也暗示了几种聪明的出路。

第一条路：压缩。 虽然环境有无数种状态，但很多状态之间有规律。如果你能通过模式识别把100种情况归纳成5种"类型"，控制器只需要5种应对就够了。这就是智能的本质之一——用抽象和归纳来压缩复杂性。爱因斯坦的E=mc²就是一种极致的压缩：用一个公式涵盖了无数物理现象。

大语言模型的参数数量巨大——GPT-4据估计有超过一万亿参数。这种庞大的内部多样性正是它能应对各种不同问题的基础。但更重要的是，模型不是在死记硬背每一种问答模式——它学到了语言、逻辑和知识的压缩结构，用有限的参数覆盖了几乎无限的问题空间。

第二条路：卸载。 蚂蚁的大脑很小，但整个蚁群极其聪明。秘密在于：蚂蚁把很多"记忆"和"计算"卸载到了环境中——信息素标记就是一种环境存储。控制器不需要把复杂性全部装在自己脑子里，可以借助环境来分担。

第三条路：分层。 你不需要一个控制器处理所有层级的复杂性。分层系统中，每一层只需要处理本层的多样性——CEO处理战略层面的多样性，部门经理处理战术层面的，一线员工处理操作层面的。这就是架构抽象的力量。

第四条路：引导而非控制。 如果你的目标不是精确控制每一个状态，而是设定几条简单规则让系统自己演化——就像基因用四条碱基编码了生命的无限多样性——那么对控制器多样性的要求可以大幅降低。

这四条路不互斥。实际上，最有效的系统设计往往是它们的组合。

这对AI意味着什么——以及对你意味着什么

阿什比定律给当前AI发展画出了几条清晰的边界线。

第一，为什么AI安全这么难。 不是因为我们不够努力，而是因为AI的行为空间在指数级膨胀，而人类评估能力的增长是线性的。这个结构性缺口是数学事实，不是工程问题。当前AI安全领域的几种主流方案——辩论协议（让两个AI互相对辩，人类只需判断谁说得更好）、迭代放大（把一个复杂评估拆解成多个简单子评估）、弱到强泛化（用弱AI辅助人类理解强AI）——本质上都是在用不同的方式绕过阿什比不等式：要么压缩AI行为的多样性让它可以被评估，要么通过协作把人类评估者的有效多样性提升上去。

第二，为什么AI需要那么大。 GPT-4、Gemini、Claude这些模型动辄千亿甚至万亿参数——这不是工程师的审美偏好，而是数学上的必要性。要应对人类语言的几乎无限组合，模型内部必须有足够多的状态来映射这种多样性。参数太少，多样性不够，模型就只能处理训练数据中见过的那几种模式，遇到新的情况就"翻车"。

第三，为什么"一个万能规则管所有"在AI时代更加行不通。 当AI的应用场景从写作扩展到医疗、法律、金融、驾驶、科学研究……每一个新领域都在给AI的"环境多样性"做加法。用同一套安全规则去管所有场景？阿什比告诉你：行不通的。监管框架的复杂性必须跟上AI能力的复杂性，否则失控的部分会越来越多。

第四，对你个人的启示。 阿什比定律不只是在说AI——它在说所有复杂系统。你公司里那些越来越复杂的流程、政府里那些越来越多的法规、你手机上那些越来越长的用户协议——它们不是为了刁难你而存在的。它们是一个简单信号：环境变复杂了，控制器必须跟着变复杂。

但"跟着变复杂"不是唯一的出路。别忘了那四条聪明的路——压缩、卸载、分层、引导。真正的好制度不是写更多的规则，而是找到那个巧妙的压缩方式，用少数几条原则覆盖尽可能多的情况。

结语

1956年，阿什比写下一个关于恒温器的定理时，大概不会想到它会在70年后预言AI时代最核心的安全挑战。

但好的数学定理就是这样。它们不关心自己描述的是什么——恒温器、免疫系统、公司管理、还是超级智能。它们描述的是结构本身。而结构，跨域成立。

阿什比定律告诉我们一个不太好听的真相：面对越来越复杂的AI，人类不可能靠"更努力地监管"来解决问题。我们必须在结构上创新——要么找到压缩AI行为复杂性的方法，要么构建分层的评估架构，要么让治理本身内嵌于AI的设计之中。

70年前的那个英国精神科医生，用一行不等式给2026年的AI安全画出了天花板。而我们要做的，是在这个天花板下面，找到那些聪明的出路。

参考文献：

Ashby, W. R. (1956). An Introduction to Cybernetics. Chapman & Hall, London.
Singapore Consensus on Global AI Safety Research Priorities (2026). Multi-institution synthesis document.
Artificial Ideas (2026). A 1956 Cybernetics Law Already Predicted Today’s Hardest AI Safety Problem — Mostly.
Böckeler, B. (2026). The Cybernetic Governor. Thoughtworks.
Phoson Research (2026). The Agent Harness: State of the Art (2024–2026).
Emergent Wiki (2026). Requisite Variety.

阿什比定律 on 灵语AI