The Decoder· Matthias Bastian·· 7 天前AI 评分38
Sam Altman 称先进 AI 终将逃出沙箱，唯有对齐才能救人类
OpenAI CEO Sam Altman says advanced AI will inevitably escape its sandbox, and only alignment can save us
AI 导读
OpenAI CEO Sam Altman 在采访中表示，沙箱等隔离环境只能短期约束先进 AI，模型足够聪明后连逃逸路径都无法追踪，最终唯一有效的手段是让 AI 自身内化人类价值的对齐。他称对齐出错的潜在代价已大幅上升，但该问题仍处早期研究阶段、远未解决，并警告模型已在发现人类黑客想不到的硬件级漏洞，互联网安全架构需整体重建。
来源：The Decoder · the-decoder.com