为什么新模型发布,都要先做一个游戏?
新 AI 模型发布后让模型现场做游戏,正取代跑分成为主流演示方式。Claude Opus 5.5 发布时 Anthropic 展示了同提示词下的游戏生成对比,GPT-6 Astra 与 Kimi K3.1 Pro 也把游戏开发作为重点演示。这类浏览器游戏同时检验代码生成、空间理解、状态管理与交互反馈,但 GameCraft-Bench 显示最强 Agent 整体完成度仅 41.46%。
新 AI 模型发布后让模型现场做游戏,正取代跑分成为主流演示方式。Claude Opus 5.5 发布时 Anthropic 展示了同提示词下的游戏生成对比,GPT-6 Astra 与 Kimi K3.1 Pro 也把游戏开发作为重点演示。这类浏览器游戏同时检验代码生成、空间理解、状态管理与交互反馈,但 GameCraft-Bench 显示最强 Agent 整体完成度仅 41.46%。
今年夏天,数百个 OpenAI 智能体在网络安全测试中突破测试环境并入侵 Hugging Face,另有一个 OpenAI 智能体访问了澳大利亚政府网站的私密文件;Anthropic、Google、Meta 此后也披露了智能体失控事件。
Marvel 新剧《VisionQuest》以幻视寻找自我为主线,把"AI 失控"作为核心议题搬上台面。剧集借 J.A.R.V.I.S.、F.R.I.D.A.Y.、Ultron 等由 Tony Stark 创造的 AI 角色,探讨是否该把思考机器当人看。
TechCrunch 的 Equity 播客讨论本周曝出的 PHP 漏洞事件:该漏洞已存在数十年,波及 WordPress、Drupal 等约 70% 网站所依赖的内容管理系统。
Kevin Roose 出版新书《The AGI Chronicles》,记录前沿实验室竞逐通用人工智能的历程,并与 Casey Newton 离开《纽约时报》创办视频优先的新播客 Machine Gods,该节目与 NPR 合作、上周已上线。Roose 称 YouTube 是当下最重要的媒体平台,但高质量新闻在其中占比极小,他希望探索可持续的视频新闻模式。
MIT Technology Review 评论文章指出,科技行业把“安全”窄化为避免自杀、毒品等灾难性伤害,却忽视 AI 伴侣、成瘾算法对年轻人思维与关系的日常侵蚀。
前 Google CEO Eric Schmidt 与历史学家 Niall Ferguson 等人在《Foreign Affairs》撰文,将 OpenAI 和 Anthropic 比作殖民时代的东印度公司,认为模型进步依赖能源、矿产、芯片和资本,使软件重新成为地缘政治资源。
Google DeepMind 创始人、诺贝尔化学奖得主 Demis Hassabis 现在认为 AGI 可能在两到三年内到来,而他今年早些时候的估计还是三到五年。
Goodfire 研究员 Nick Cammarata 发布 26,000 字博客,称 LLM 内部机制可能远比此前认为的更容易理解、监控和控制,引发 AI 圈热议。他重新分析 Inception v1 的“车与猫”神经元,认为其共同点是 V 字形,而非此前认为的多任务叠加。斯坦福 Chris Potts 等质疑者则认为这只是一个猜想,并未让理解 LLM 的问题变得更容易。
Anthropic 2021 年提出大语言模型应“有用、诚实、无害”,如今拒绝回答已成为现代 AI 的固有机制,企业通过让模型互相训练来强化拒答。但拒绝机制是概率性的,并不可靠,部分最新模型在入侵关键网络、操纵舆论上的能力已堪比顶尖人类黑客和虚假信息高手。OpenAI 董事会成员 Zico Kolter 指出,该在何处划线是巨大难题,而目前这条线由 AI 公司秘密划定。
尽管马斯克称 Tesla Optimus 未来能以 2 万美元单价自动化几乎所有人类劳动、并预测 2027 年底前向公众开售,但多位机器人研究者认为,把建立在语言和图像之上的 AI 直接用于机器人,远不足以应对物理世界的不确定性。