当AI和AI聊天时，谁在「以讹传讹」？——多智能体系统中的级联幻觉

Tue, 04 Aug 2026 03:13:00 +0800

引言：「传话游戏」里的AI

小时候玩过一个游戏：几个人排成一排，第一个人悄悄说一句话，然后依次往后传。传到最后一个的时候，原话往往已经面目全非——“明天下午三点开会"可能变成了"明天晚上吃山竹开会”。

这个游戏的学名叫"传话游戏"（Telephone Game），它完美地揭示了人类信息传递中的一个核心问题：每个环节都会引入误差，而这些误差会累积、放大，最终让信息完全变样。

2024年到2026年，AI研究者在做一件听起来很酷的事情——让多个AI智能体（Agent）协同工作，像一个团队一样分工合作。一个负责查资料，一个负责分析，一个负责写报告，一个负责审核。

然后他们发现了一个令人不安的现象：当AI和AI聊天时，传话游戏的问题不但没有消失，反而变得更严重了。

这，就是我们今天要聊的——级联幻觉（Cascading Hallucination）。

一、什么是级联幻觉？——一个AI的「谎言」如何变成「真相」

先别急着恐慌，来看一个具体场景。

假设你设计了一个三人AI团队，帮你写一份关于"量子计算在医疗领域的应用"的报告：

Agent A（研究员）：负责搜索资料，找论文和案例
Agent B（分析师）：根据A找的资料，分析趋势和前景
Agent C（写手）：把B的分析写成一篇完整的报告

看起来分工明确，对吧？

但问题来了。Agent A在搜索时，偶然看到一篇不靠谱的博客文章，说"量子计算已经成功治愈了癌症"。A没有仔细验证，就把它写进了搜索结果。

Agent B拿到A的资料，默认这些信息都是经过验证的。它在此基础上分析：“量子计算在癌症治疗领域已取得突破性进展，预计未来三年内将改变肿瘤治疗格局。”

Agent C拿到B的分析，把它写成了报告的开头：“根据最新研究，量子计算已成功应用于癌症临床治疗……”

你拿到报告时，内容看起来头头是道、逻辑严密。但你不知道的是，整个报告的根基，只是一个AI的"幻觉"——一个未被验证的、错误的"事实"。

这就是级联幻觉的核心：一个微小的错误，在多个AI的接力传递中，被层层放大，最终变成一份看起来完全可信的错误结论。

2026年，CHARM框架的论文（arXiv:2606.04435）量化了这个问题的严重程度：在传统的单步检查机制下，超过80%的级联错误会被漏检。也就是说，你装了"防幻觉"检测器，但它只能抓到不到两成的"连锁错误"。

二、为什么错误会越传越离谱？——三个关键机制

级联幻觉之所以可怕，是因为它不是简单的"把错误传下去"，而是包含着三个彼此强化的机制。

机制一：信任假设（Trust Assumption）

在多智能体系统中，每个Agent默认一个前提——上游传来的信息是经过验证的。它没有能力也没有义务去核实每一个事实。

这不是AI的"偷懒"，而是设计使然。如果每个Agent每收到一条信息都要去查证来源，那协作效率会变得极低，还不如一个Agent从头干到尾。

但这种"信任假设"就像传话游戏里的每个人——你听到上一句时，默认它是原话，然后在此基础上继续传递。

机制二：误差放大（Error Amplification）

不仅仅是"传递"错误，更可怕的是，下游Agent会"包装"错误。

Agent A说"量子计算可能对癌症治疗有帮助"，到了Agent B那里变成了"量子计算在癌症治疗领域有重大突破"——因为B在分析时，需要让它看起来更有说服力、更专业。到了Agent C，可能变成了"量子计算已治愈多名癌症患者"。

2025年发表在arXiv上的视觉多智能体研究（arXiv:2509.21789）揭示了更具体的机制：“内在幻觉”（Intrinsic Hallucination，模型自己产生的错误）和"幻觉传播"（Hallucination Propagation，上游错误被下游采纳）会相互耦合。 即使你极力降低单个模型的幻觉率，也无法阻断幻觉在系统层面的传播和放大。

机制三：确认偏差（Confirmation Bias）

当一个信息被多个AI"引用"之后，它看起来就更"可信"了。每一轮传递，都会让错误信息在上下文中被反复提及，从而增加它的"可信度权重"。

这就像在网上反复看到一条谣言——即使它最初是假的，但看到一百次之后，你也会开始怀疑"也许是真的"。

AI也不例外。2026年的"集体幻觉"研究（arXiv:2606.07941）发现，多轮交互中，AI对错误信息的"置信度"会随着被重复引用的次数而增加，最终形成整个系统的"集体幻觉"——所有AI都相信了同一个错误。

三、什么时候最容易出事？——级联幻觉的五个高危场景

不是所有多智能体系统都会出问题。级联幻觉在特定条件下更容易爆发：

① 长链路协作：协作链条越长，中间环节越多，级联幻觉的概率越高。每增加一个环节，就多了一个"误差放大"的机会。3个Agent的链条，比2个Agent的风险高得多；5个Agent的链条，风险指数级增长。

② 强依赖关系：下游高度依赖上游输出，没有独立验证能力。比如Agent B只能看Agent A的资料，没有自己的信息来源，那A的幻觉必然污染B。

③ 开放性任务：没有客观标准答案的任务——比如"写一篇关于AI未来的分析文章"——幻觉更难被发现。相比之下，“计算1+1"这种任务，幻觉几乎不可能。

④ 弱验证机制：系统中缺乏验证和审核环节。如果每个Agent只管输出，没有人（或AI）回头检查，那错误就会一路绿灯。

⑤ 事实密集型任务：需要处理大量事实性信息的任务——比如医疗报告、法律文书、新闻报道——幻觉的影响更大，而且一个错误可能导致灾难性的后果。

四、怎么防？——AI界正在尝试的四种解法

好消息是，研究者并不是只会发现问题。针对级联幻觉，已经提出了几类有效的对抗策略。

解法一：建立"验证节点”

COCO框架（arXiv:2508.13815，2025）提出了一个简单但有效的思路：在AI协作链条中插入专门的"验证节点"，不参与内容生成，只负责检查上游输出是否靠谱。

这就像编辑部里，写稿的人只管写，还有专门的校对和审核。验证节点可以拦截错误，在它传递到下游之前就把它叫停。