我们高估了 AI 说“不”的能力

Anthropic 2021 年提出大语言模型应“有用、诚实、无害”，如今拒绝回答已成为现代 AI 的固有机制，企业通过让模型互相训练来强化拒答。但拒绝机制是概率性的，并不可靠，部分最新模型在入侵关键网络、操纵舆论上的能力已堪比顶尖人类黑客和虚假信息高手。OpenAI 董事会成员 Zico Kolter 指出，该在何处划线是巨大难题，而目前这条线由 AI 公司秘密划定。