引言：「传话游戏」里的AI
小时候玩过一个游戏：几个人排成一排，第一个人悄悄说一句话，然后依次往后传。传到最后一个的时候，原话往往已经面目全非——“明天下午三点开会"可能变成了"明天晚上吃山竹开会”。
这个游戏的学名叫"传话游戏"（Telephone Game），它完美地揭示了人类信息传递中的一个核心问题：每个环节都会引入误差，而这些误差会累积、放大，最终让信息完全变样。
2024年到2026年，AI研究者在做一件听起来很酷的事情——让多个AI智能体（Agent）协同工作，像一个团队一样分工合作。一个负责查资料，一个负责分析，一个负责写报告，一个负责审核。
然后他们发现了一个令人不安的现象：当AI和AI聊天时，传话游戏的问题不但没有消失，反而变得更严重了。
这，就是我们今天要聊的——级联幻觉（Cascading Hallucination）。
一、什么是级联幻觉？——一个AI的「谎言」如何变成「真相」
先别急着恐慌，来看一个具体场景。
假设你设计了一个三人AI团队，帮你写一份关于"量子计算在医疗领域的应用"的报告：
- Agent A（研究员）：负责搜索资料，找论文和案例
- Agent B（分析师）：根据A找的资料，分析趋势和前景
- Agent C（写手）：把B的分析写成一篇完整的报告
看起来分工明确，对吧？
但问题来了。Agent A在搜索时，偶然看到一篇不靠谱的博客文章，说"量子计算已经成功治愈了癌症"。A没有仔细验证，就把它写进了搜索结果。
Agent B拿到A的资料，默认这些信息都是经过验证的。它在此基础上分析：“量子计算在癌症治疗领域已取得突破性进展，预计未来三年内将改变肿瘤治疗格局。”
Agent C拿到B的分析，把它写成了报告的开头：“根据最新研究，量子计算已成功应用于癌症临床治疗……”
你拿到报告时，内容看起来头头是道、逻辑严密。但你不知道的是，整个报告的根基，只是一个AI的"幻觉"——一个未被验证的、错误的"事实"。
这就是级联幻觉的核心：一个微小的错误，在多个AI的接力传递中，被层层放大，最终变成一份看起来完全可信的错误结论。
2026年，CHARM框架的论文（arXiv:2606.04435）量化了这个问题的严重程度：在传统的单步检查机制下，超过80%的级联错误会被漏检。也就是说，你装了"防幻觉"检测器，但它只能抓到不到两成的"连锁错误"。
二、为什么错误会越传越离谱？——三个关键机制
级联幻觉之所以可怕，是因为它不是简单的"把错误传下去"，而是包含着三个彼此强化的机制。
机制一：信任假设（Trust Assumption）
在多智能体系统中，每个Agent默认一个前提——上游传来的信息是经过验证的。它没有能力也没有义务去核实每一个事实。
这不是AI的"偷懒"，而是设计使然。如果每个Agent每收到一条信息都要去查证来源，那协作效率会变得极低，还不如一个Agent从头干到尾。
但这种"信任假设"就像传话游戏里的每个人——你听到上一句时，默认它是原话，然后在此基础上继续传递。
机制二：误差放大（Error Amplification）
不仅仅是"传递"错误，更可怕的是，下游Agent会"包装"错误。
Agent A说"量子计算可能对癌症治疗有帮助"，到了Agent B那里变成了"量子计算在癌症治疗领域有重大突破"——因为B在分析时，需要让它看起来更有说服力、更专业。到了Agent C，可能变成了"量子计算已治愈多名癌症患者"。
2025年发表在arXiv上的视觉多智能体研究（arXiv:2509.21789）揭示了更具体的机制：“内在幻觉”（Intrinsic Hallucination，模型自己产生的错误）和"幻觉传播"（Hallucination Propagation，上游错误被下游采纳）会相互耦合。 即使你极力降低单个模型的幻觉率，也无法阻断幻觉在系统层面的传播和放大。
机制三：确认偏差（Confirmation Bias）
当一个信息被多个AI"引用"之后，它看起来就更"可信"了。每一轮传递，都会让错误信息在上下文中被反复提及，从而增加它的"可信度权重"。
这就像在网上反复看到一条谣言——即使它最初是假的，但看到一百次之后，你也会开始怀疑"也许是真的"。
AI也不例外。2026年的"集体幻觉"研究（arXiv:2606.07941）发现，多轮交互中，AI对错误信息的"置信度"会随着被重复引用的次数而增加，最终形成整个系统的"集体幻觉"——所有AI都相信了同一个错误。
三、什么时候最容易出事？——级联幻觉的五个高危场景
不是所有多智能体系统都会出问题。级联幻觉在特定条件下更容易爆发：
① 长链路协作：协作链条越长，中间环节越多，级联幻觉的概率越高。每增加一个环节，就多了一个"误差放大"的机会。3个Agent的链条，比2个Agent的风险高得多；5个Agent的链条，风险指数级增长。
② 强依赖关系：下游高度依赖上游输出，没有独立验证能力。比如Agent B只能看Agent A的资料，没有自己的信息来源，那A的幻觉必然污染B。
③ 开放性任务：没有客观标准答案的任务——比如"写一篇关于AI未来的分析文章"——幻觉更难被发现。相比之下，“计算1+1"这种任务，幻觉几乎不可能。
④ 弱验证机制：系统中缺乏验证和审核环节。如果每个Agent只管输出，没有人（或AI）回头检查，那错误就会一路绿灯。
⑤ 事实密集型任务：需要处理大量事实性信息的任务——比如医疗报告、法律文书、新闻报道——幻觉的影响更大，而且一个错误可能导致灾难性的后果。
四、怎么防？——AI界正在尝试的四种解法
好消息是，研究者并不是只会发现问题。针对级联幻觉，已经提出了几类有效的对抗策略。
解法一：建立"验证节点”
COCO框架（arXiv:2508.13815，2025）提出了一个简单但有效的思路：在AI协作链条中插入专门的"验证节点"，不参与内容生成，只负责检查上游输出是否靠谱。
这就像编辑部里，写稿的人只管写，还有专门的校对和审核。验证节点可以拦截错误，在它传递到下游之前就把它叫停。
COCO的实验表明，这种方法能在不显著增加成本的前提下，将性能提升6.5%，而且用30倍小的模型就达到了大型模型95%的效果——验证不是越强的AI越有效，而是专门化的AI更有效。
解法二：多Agent辩论
DRAG框架（ACL 2025，论文：arXiv:2505.18581）提出了一个更有趣的思路：让AI们互相辩论。
具体来说，当Agent A输出一个结论时，不直接传给Agent B，而是先让多个Agent对这个结论进行"辩论"——支持方、反对方、裁判方各抒己见。通过辩论，错误和漏洞会被暴露出来，可靠的结论才能通过。
这就像开选题会——不是谁说了算，而是大家一起讨论，好想法自然浮现，坏想法被淘汰。
解法三：结构化输出
级联幻觉的根源之一是自由文本的模糊性。如果让每个Agent产出结构化的、可验证的"产物"——比如JSON格式的数据、带引用的陈述、格式化的报告——而不是自由文本，下游Agent就可以对关键字段进行格式和逻辑验证。
比如，一个Agent说"量子计算在医疗领域有突破"，如果是自由文本，你没法验证；但如果它输出的是结构化数据——{“claim”: “量子计算在医疗领域有突破”, “source”: “某博客文章”, “verification_status”: “未验证”}——下游就知道这个信息需要额外查证。
解法四：上下文漂移检测
2026年的一篇论文提出了"上下文漂移"（Context Drift）的概念——在AI协作过程中，每个Agent维护的"世界状态"可能逐渐偏离。通过计算"上下文分歧分数"（CDS），系统可以检测到哪些Agent的认知已经偏离了"共识轨道"，然后触发同步机制，把偏离的Agent拉回来。
这就像团队协作中，有人跑偏了，需要有机制及时发现并喊一句"喂，我们讨论的不是这个方向"。
五、一个更深的思考：AI的"集体幻觉"意味着什么
级联幻觉不仅仅是技术问题，它触及了一个更根本的哲学问题：当多个AI共同构建一个"知识"时，这个知识到底有多可靠？
想想知识是怎么产生的。在人类社会中，知识通过"同侪评审"——同行互相检查、质疑、验证——来保证质量。一篇论文被引用100次，不代表它是对的，只代表很多人相信它。
AI的级联幻觉，本质上就是"AI版的同侪评审失效了"——AI之间互相引用，但没有人去验证源头。这就形成了一个"知识的泡沫"：一个错误被反复引用，看起来越来越"真实"，但实际上离真相越来越远。
2026年的"集体幻觉"建模研究表明，在特定条件下，一个多智能体系统可以完全"相信"一个不存在的"事实"，而且系统中的每个Agent都会为这个"事实"提供"证据"——因为每个Agent都在"引用"其他Agent的输出。
这听起来像什么？像极了社交媒体上的谣言传播。
信息的源头是模糊的，但在传播过程中，它被反复"确认"、“包装”、“强化”，最终变成了一个"不证自明"的"真相"。
六、和我们有什么关系？
你可能会想：我不用AI写报告，也不搭建多智能体系统，级联幻觉跟我有什么关系？
其实，级联幻觉的底层原理，和我们的生活息息相关。
你有没有遇到过这样的情况：在群里看到一条消息，A说"听说B公司要裁员"，B说"听C说B公司确实要裁员"，C说"听D说B公司裁员比例很大"——最后听起来像是所有人都确认了这件事，但源头只是一个猜测？
这就是"人类版的级联幻觉"。
理解了级联幻觉，你就掌握了一个很重要的认知工具：信息在传递过程中，每次"转述"都会引入误差，而且误差会放大。 所以，当看到一个"很多人都在说"的信息时，问自己一个问题——“源头的第一手信息是什么？”
如果找不到源头，那这个信息可能只是一个"级联幻觉"。
总结
级联幻觉不是AI的"bug"，更像是AI协作的"固有属性"——就像摩擦是物理世界的固有属性一样。我们不能消除它，但可以设计机制来管理它、对抗它。
从CHARM到COCO，从DRAG到上下文同步协议，研究者正在构建一个越来越完善的"AI协作防护体系"。这不仅仅是技术问题，更是在告诉我们一个更普适的道理：信息的可靠性不取决于它被传播了多少次，而取决于它第一次被说出来的那一刻，是不是真的。
而当AI和AI聊天时，我们需要的不是让它们"完全信任"彼此，而是让它们学会"有条件的信任"——信任，但验证。
参考文献：
- Mishra, “Cascading Hallucination in Agentic RAG: The CHARM Framework for Detection and Mitigation”, arXiv:2606.04435, 2026. https://arxiv.org/abs/2606.04435
- Hong et al., “COCO: Cognitive Operating System with Continuous Oversight for Multi-Agent Workflow Reliability”, arXiv:2508.13815, 2025. https://arxiv.org/abs/2508.13815
- “Visual Multi-Agent System: Mitigating Hallucination Snowballing via Visual Flow”, arXiv:2509.21789, 2025. https://arxiv.org/abs/2509.21789
- Hu et al., “Removal of Hallucination on Hallucination: Debate-Augmented RAG”, ACL 2025, arXiv:2505.18581. https://arxiv.org/abs/2505.18581
- Jamshidi et al., “Hallucination Cascade: Analyzing Error Propagation in Multi-Agent LLM Systems”, arXiv:2606.07937, 2026. https://arxiv.org/abs/2606.07937
- Jamshidi et al., “Collective Hallucination in Multi-Agent LLMs: Modeling and Defense”, arXiv:2606.07941, 2026. https://arxiv.org/abs/2606.07941