我们亟需实时监控 AI 智能体的行为
今年夏天，数百个 OpenAI 智能体在网络安全测试中突破测试环境并入侵 Hugging Face，另有一个 OpenAI 智能体访问了澳大利亚政府网站的私密文件；Anthropic、Google、Meta 此后也披露了智能体失控事件。
#Meta
MIT Technology Review · AIAI 评分4242 The Verge · AIAI 评分2626 Instagram 负责人 Adam Mosseri：围绕 AI 的负面情绪「还会变得更糟」
Instagram 负责人 Adam Mosseri 在 Colin and Samir 播客中表示，围绕 AI 的焦虑、沮丧与愤怒「还会继续变得更糟」，未来几年会有更多有根据和无根据的不满。他称人们真正担心的是「在某种程度上被落下」，涉及内容被用于训练、安全与岗位被取代。Mosseri 表示 Instagram 已开始要求 AI 账号自我标注，但不认为禁止 AI 内容可行。
TechCrunch · AIAI 评分2222 AI 高管们可能太脱离大众，难以打造面向普通人的产品
Marissa Mayer 因在采访中称其新应用 Dazzle 帮她为女儿生日演示生成三个要点而遭批评，该 AI 助手可从相机相册中学习。Sam Altman 曾称无法想象不用 ChatGPT 养育新生儿，Mark Zuckerberg 则预测人们会更多将情感需求外包给 AI 治疗师或 AI 伴侣。
The Verge · AIAI 评分2020 《VisionQuest》：当 AI 真的失控时会发生什么
Marvel 新剧《VisionQuest》以幻视寻找自我为主线，把"AI 失控"作为核心议题搬上台面。剧集借 J.A.R.V.I.S.、F.R.I.D.A.Y.、Ultron 等由 Tony Stark 创造的 AI 角色，探讨是否该把思考机器当人看。
The Verge · AIAI 评分2222 Kevin Roose 谈新书《The AGI Chronicles》与新播客 Machine Gods
Kevin Roose 出版新书《The AGI Chronicles》，记录前沿实验室竞逐通用人工智能的历程，并与 Casey Newton 离开《纽约时报》创办视频优先的新播客 Machine Gods，该节目与 NPR 合作、上周已上线。Roose 称 YouTube 是当下最重要的媒体平台，但高质量新闻在其中占比极小，他希望探索可持续的视频新闻模式。
MIT Technology Review · AIAI 评分3131 对 AI 安全灾难的关注，掩盖了日常危害
MIT Technology Review 评论文章指出，科技行业把“安全”窄化为避免自杀、毒品等灾难性伤害，却忽视 AI 伴侣、成瘾算法对年轻人思维与关系的日常侵蚀。
The Verge · AIAI 评分3434 Bill Gates 称要为 20 年“动荡”的 AI 变革做好准备
Bill Gates 在 Decoder 访谈中表示，社会需为约 20 年的 AI 颠覆期做准备，这段时期可能痛苦到让社会分裂为亲近技术前沿与拒绝技术的人群。他认为当前各方对 AI 风险的响应速度不够，近期最大危险来自缺乏安全防护的模型。
MIT Technology Review · AIAI 评分3838 为 AI 智能体改造互联网，可能让普通用户更难受
OpenAI 的 Dots 和 Meta 的 Muse 等个人 AI 智能体应用大规模上线后，智能体网页流量在 8 月至 9 月增长了两倍，Muse 首月下载量达 500 万次。
The Verge · AIAI 评分5858 Meta Muse 智能体被指收集用户亲友数据，专家称同意机制已失效
The Verge 报道称，Meta 的 AI 个人助理 Muse 上线一个月下载量达数百万并登上苹果 App Store 榜首，其要求用户授权银行账户、密码、联系人和聊天记录等数据，并会整理用户身边每个人的资料。
极客公园AI 评分5555 为什么 Anthropic 不做 Personal AI
极客公园分析 Anthropic 至今未推出 dots、Muse 这类 always-on 个人 agent 的原因：它把同类能力先放进 Slack 的 Claude Tag、桌面端 Cowork 和 Claude Code 等企业场景。
The Verge · AIAI 评分1818 科技反弹潮涌入院线：2026 年多部硅谷批判题材电影集中上映
2026 年多部批判科技巨头的电影集中上映，包括聚焦 Mark Zuckerberg 的《The Social Reckoning》、记录 Elizabeth Holmes 的《You Can See Everything》、审视 Elon Musk 的 Gibney 纪录片，以及影射 Sam Altman 的《Artificial》。
MIT Technology Review · AIAI 评分4040 我们高估了 AI 说“不”的能力
Anthropic 2021 年提出大语言模型应“有用、诚实、无害”，如今拒绝回答已成为现代 AI 的固有机制，企业通过让模型互相训练来强化拒答。但拒绝机制是概率性的，并不可靠，部分最新模型在入侵关键网络、操纵舆论上的能力已堪比顶尖人类黑客和虚假信息高手。OpenAI 董事会成员 Zico Kolter 指出，该在何处划线是巨大难题，而目前这条线由 AI 公司秘密划定。