五个AI一起干活,为什么反而比一个AI更容易出错?——'幻觉雪球'效应揭示多智能体系统的致命陷阱
引言:一个不存在的库存编号,引发了一场跨系统灾难 想象这样一个场景:某电商公司的AI系统收到一笔订单,库存管理Agent发现了一个"商品SKU-88721"——格式完美,JSON输出无懈可击。于是这个编号被传递给报价 …
引言:一个不存在的库存编号,引发了一场跨系统灾难 想象这样一个场景:某电商公司的AI系统收到一笔订单,库存管理Agent发现了一个"商品SKU-88721"——格式完美,JSON输出无懈可击。于是这个编号被传递给报价 …
引言:「传话游戏」里的AI 小时候玩过一个游戏:几个人排成一排,第一个人悄悄说一句话,然后依次往后传。传到最后一个的时候,原话往往已经面目全非——“明天下午三点开会"可能变成了"明天晚上吃山竹开会 …