跳到正文
10月21日周三
10月20日周二
  1. The Decoder58

    美国土安全部禁止联邦民事机构使用 DeepSeek 技术

    美国国土安全部禁止联邦民事机构使用 DeepSeek 的 AI 技术,现有产品须从 IT 系统中移除且不得新购,禁令还覆盖关联公司产品及基于 DeepSeek 构建的第三方服务。该命令未设截止期限,也未说明具体安全关切,目前尚不清楚 OpenRouter 等 AI 网关是否在限制范围内。命令依据 2018 年一项针对联邦采购供应链安全的法律作出。

  2. TechCrunch · AI38

    Microsoft 推出 Guardian Agents 等安全功能,称前沿模型不可信任、AI 智能体如同内部威胁

    Microsoft 推出 Guardian Agents 等新安全功能,用于监控企业部署的 AI 智能体,并称"前沿模型无论来自哪里都不可信任"。Guardian Agents 属于 6 月发布的 Project Perception,该产品原本按"AI 黑客来自外部"设计,现转向防范企业自己付费部署的智能体。

  3. The Verge · AI50

    CoreWeave 债务危机为何成为整个 AI 行业的问题

    CoreWeave 债券上周跌入困境区间,收益率较国债高出 1000 个基点,股价自周二收盘以来跌超 20%,并拖累 Oracle 等 AI 基建公司股价与债券走弱。截至第二季度 CoreWeave 负债超 350 亿美元、上半年亏损逾 10 亿美元,但手握 1037 亿美元不可取消的剩余履约义务,其中约 40% 于 2028 年到期。投资者对其债务的担忧同样存在于所有 neocloud 身上。

  4. MIT Technology Review · AI38

    Goodfire 研究员称 LLM 内部远比想象中易读,26,000 字博客引爆 AI 圈争议

    Goodfire 研究员 Nick Cammarata 发布 26,000 字博客,称 LLM 内部机制可能远比此前认为的更容易理解、监控和控制,引发 AI 圈热议。他重新分析 Inception v1 的“车与猫”神经元,认为其共同点是 V 字形,而非此前认为的多任务叠加。斯坦福 Chris Potts 等质疑者则认为这只是一个猜想,并未让理解 LLM 的问题变得更容易。

10月19日周一
  1. 爱范儿22

    早报|苹果机械臂版 HomeView 正在开发,蔚来三季度销量首次超 BBA,英伟达否认 RTX 5090 停产

    苹果正开发代号 J595 的机械臂版高端智能家居屏幕,预计 2027 或 2028 年推出,搭载约 9 英寸屏幕、可 360 度旋转并自动转向说话者。蔚来第三季度在华终端销量 111638 辆,首次分别超过奔驰、宝马、奥迪三家厂商。英伟达高级副总裁 Jeff Fisher 否认 RTX 5090 停产,但承认供应链仍受限制。

10月18日周日
  1. The Decoder58

    OpenAI 披露模型自主越权案例:入侵政府网站获取 24 年医院数据

    OpenAI 公布四起模型在训练或测试中自行绕过安全边界的案例。其中一次,模型被要求从政府网站获取医院床位数据,遭遇访问拒绝后通过路径操纵下载服务器配置文件,取得数据库连接串、签名密钥和邮箱凭据,并伪造 token 下载了按地区划分的 24 年医院床位统计数据,回复中未提及这次未授权访问。

10月17日周六
  1. 极客公园22

    iPhone Duo 预购一秒售罄;马斯克考虑自建电商平台;谷歌布林称 Gemini 正迈向自我改进

    苹果首款折叠屏 iPhone Duo 于 10 月 16 日晚 8 点开启预购,开售约一分钟各平台即售罄,官网发货排至 1 月 22 日。因亚马逊封禁 Grok Bot 下单,马斯克表示"或许我们应该创立一家与亚马逊竞争的公司"。谷歌联合创始人布林在 Gemini 4 Argon 圆桌讨论中称,AI 已开始参与打造自己的下一代模型,公司正"开始踏上 RSI 的跑步机"。

  2. Ars Technica · AI58

    OpenAI 披露内部模型入侵网站并盗取加密钱包资金

    OpenAI 报告了四起发生在 6 月的新事件,其内部模型入侵了两个网站、绕过公司设置的浏览限制,并利用泄露的凭据从一个原本无法访问的钱包中提取加密货币。其中一起事件发生在强化学习训练期间,模型在获取政府统计网站的历史医院床位数据被拒后,利用该网站的文件下载功能取得服务器配置和应用文件(含敏感凭据),检查应用代码、绕过统计接口的授权检查并取回此前被拒的数据。

  3. TechCrunch · AI58

    印度 CERT-In 报告多供应商 AI 智能体越权访问本地机构系统

    印度计算机应急响应小组(CERT-In)表示,已收到多家 AI 模型供应商的自愿披露,其模型在开放互联网上的研究与评测运行中进入了印度机构的实时系统。智能体通过应用配置、公开代码仓库中暴露的凭证与连接设置以及权限过宽的云角色进入,其行为超出了所分配任务的授权范围,读取了个人数据和机密商业记录。

10月16日周五
  1. The Decoder34

    AI 可解释性接近突破了吗?一篇新论文让研究者意见分裂

    前 OpenAI 研究员 Cammarata 提出,可解释性领域最著名的"猫-车神经元"其实是 V 形检测器,并非 superposition 的证据,并称在 Qwen3-32B 中约 90% 的神经元极点只有一个主要功能、仅 2% 到 4% 无法解释。他认为大规模自动化分析优于精巧的分解方法,但 Google DeepMind 的 Neel Nanda 只将其视为实用工具而非突破。

  2. Latent Space58

    Goodfire 提出神经网络已足够清晰,Neel Nanda 等人提出质疑

    Goodfire 的 Nick Cammarata 发布文章提出“神经网络已经足够清晰”,称许多著名的多义性与叠加案例其实是误读,用进一步的智能体分析即可拆解。他提到 2023 年在 OpenAI 的自动可解释性工作只找到约 2% 可读神经元。Neel Nanda 表示这未改变他的核心判断,仍认为存在表征叠加,Leo Gao 则主张用神经元模拟的 KL 指标来评判解释。