AI为什么总在'编故事'？——大模型幻觉的真相与应对
引言 你有没有遇到过这样的场景？ 你问ChatGPT：“2024年诺贝尔物理学奖颁给了谁？” 它自信满满地回答：“约翰·霍普菲尔德和杰弗里·辛顿，表彰他们在人工神经网络领域的奠基性贡献。” 看 …
AI安全
AI的'价值观'是怎么来的？——RLHF如何教会AI分辨好坏
引言 你有没有过这样的经历？ 第一次用ChatGPT时，你问它一个有点敏感的问题，它礼貌地拒绝了。你换了个方式问，它还是拒绝了。你再换个递进的方式，它依然不为所动。 你可能会想：这AI怎么这么"有原则"？ 答案可能会让你 …
AI真的知道自己不知道吗？——元认知，让AI学会'反思'的能力
引言 你有没有遇到过这种情况？ 你问AI：“2026年诺贝尔物理学奖得主是谁？“它毫不犹豫地回答了一个名字，还附带了详细的生平介绍。但问题是——2026年诺贝尔奖还没颁呢。AI完全是在编造，但它用了非常"自 …
AI知道自己不知道吗？——当AI学会「思考自己的思考」
引言：你每天都在用，却从未注意过的超能力 先问你一个问题：下面这两句话，哪一句更"聪明"？ A：“这个问题的答案是42。” B：“我不确定，但我觉得可能是42，不过也可能是43，我需要 …
拼尽全力，却原地踏步？——「红皇后效应」揭示的AI军备竞赛真相
引言：爱丽丝的困惑 《爱丽丝镜中奇遇》里有一个让人难忘的场景：爱丽丝和红皇后手拉手拼命奔跑，但周围的树木和景物纹丝不动。当她们停下来时，爱丽丝气喘吁吁地问：“在我们国家，如果你像刚才那样跑那么久，一定会到别的地方去 …
当AI和AI聊天时，谁在「以讹传讹」？——多智能体系统中的级联幻觉
引言：「传话游戏」里的AI 小时候玩过一个游戏：几个人排成一排，第一个人悄悄说一句话，然后依次往后传。传到最后一个的时候，原话往往已经面目全非——“明天下午三点开会"可能变成了"明天晚上吃山竹开会 …
AI的「视觉错觉」——为什么一张贴纸就能骗过世界上最聪明的AI
引言：一张贴纸，让最聪明的AI变成了"盲人" 2017年，一群研究人员做了一个实验。 他们在路边放了一个"停止"标志牌——红底白字，八边形，全世界的司机都认识。然后，他们在上面贴了几张小小的黑白贴纸， …