爱范儿· 张子豪·· 15 小时前AI 评分58
Anthropic 为 Claude 加入隐藏自评估:每次回答后再做一次安全复盘
Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令
AI 导读
Anthropic 在安全博客中介绍,自 Claude Fable 5 及之后发布的模型起,每次回答结束后都会追加一条用户看不到的指令,让模型复用上下文和 KV cache 输出 JSON 格式的安全评估,算力开销低于 2% 且不计入用户 Token 账单。
来源:爱范儿 · ifanr.com