RLAIF

从'人类打分'到'AI自治'——当AI学会自己写宪法、自己当法官，我们还需要当裁判吗？

引言 昨天我们聊了一个故事：一群人类标注员，用无数次"这个回答更好"的选择，塑造了ChatGPT的行为方式。这项技术叫RLHF——基于人类反馈的强化学习。 但你有没有想过一个问题：这套模式的天花板在哪里？ 答案很直白：天 …