OpenAI研究：前沿模型思维链透明度下降

OpenAI安全团队发布分析，系统研究训练步骤如何导致前沿模型的思维链可监控性下降，并把这一现象归因于四个因素：基座模型预训练能力提升、特定架构选择、强化学习训练增加，以及教师模型向学生模型的能力传递。 该团队称，一个更小、更弱的基座模型如果以更长篇幅显式推理，可以匹敌思维链很短的大模型，同时更易被监控；代价是部署时更长的思维链会显著推高算力成本。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。