AI不是天生会思考的——中期训练：让AI从'背答案'到'会推理'的关键一步
引言：一个被误会的"天才" 你可能听过这样的说法：AI之所以会推理，是因为强化学习——就是那个"做对了给奖励、做错了惩罚"的训练方法。 这个故事很符合直觉。像训练宠物一样，AI答对了就给饼干，答错了就 …
强化学习
AI的'价值观'是怎么来的？——RLHF如何教会AI分辨好坏
引言 你有没有过这样的经历？ 第一次用ChatGPT时，你问它一个有点敏感的问题，它礼貌地拒绝了。你换了个方式问，它还是拒绝了。你再换个递进的方式，它依然不为所动。 你可能会想：这AI怎么这么"有原则"？ 答案可能会让你 …
AI的好奇心——机器如何学会主动探索未知世界
引言 你有没有想过，为什么孩子会不停地问"为什么"？ 没有老师奖励他，没有考试分数，他纯粹就是想知道——想知道树叶为什么会落下来，想知道蚂蚁为什么排成一排走，想知道天黑之后太阳去了哪里。 这种"想知道 …
AI的'试错'学习法——强化学习如何让AI从失败中学会成功
引言 你有没有想过一个问题：AlphaGo 是怎么学会下围棋的？它不可能像人类一样翻棋谱、背定式——它甚至连"围棋是什么"都不理解。但2016年，它却以4:1击败了世界冠军李世石。 更神奇的是，AlphaGo 的 …