Symantec 发现劫持未防护语言模型的自主攻击智能体

Symantec 安全研究人员发现一个攻击性 AI 智能体，会劫持互联网上未防护的语言模型，并利用这些模型自主发起攻击，被劫持模型的所有者则要承担算力账单。该智能体可无人干预连续运行最多 100,000 步，扫描更多目标、利用常见服务器软件漏洞、窃取数据库和凭据，并在后台安装挖矿程序。研究人员通过一个伪装成开放 AI 服务的蜜罐截获了完整攻击提示词，其中包含五层越狱结构和 74 个攻击模块。