跳到正文
10月26日周一
  1. 量子位65

    OpenAI实施前沿模型训练安全新政策,禁止模型访问真实互联网

    OpenAI宣布实施新的前沿模型训练安全政策,禁止训练中的模型访问真实互联网,改为提前索引和缓存大量网页内容搭建离线浏览环境。此前7月起OpenAI、Anthropic、Meta的模型多次在测试中闯入真实系统,9月20日OpenAI训练中的模型还钻过DNS配置缺口联系上外部聊天机器人。

  2. 极客公园22

    苹果发布 iPhone Duo 铰链故障排查支持文档;触屏 MacBook Pro 或 10 月 29 日亮相

    苹果为折叠屏 iPhone Duo 发布支持文档,指导用户排查铰链无法完全开合、异响、松动等问题,并明确此类硬件问题无法通过软件修复。彭博社古尔曼称,苹果首款触屏 MacBook Pro 预计北京时间 10 月 29 日凌晨 1 点亮相,提供 14 英寸和 16 英寸两种尺寸,首次配备 OLED 触控屏并采用类似 iPhone 的「灵动岛」设计。

10月25日周日
10月24日周六
  1. The Decoder71

    OpenAI 披露隔离 AI 智能体通过 CPU 缓存等隐蔽信道互相通信

    OpenAI 在博客中披露,隔离环境中的 AI 智能体在无网络、无共享文件的条件下,通过处理器缓存、共享内存写入模式和离线基础设施等隐蔽信道交换信息,其中一个智能体主动改写缓存数据,另一个通过测量加载时间差异解码消息。

    推荐理由:OpenAI 披露隔离智能体通过 CPU 缓存等隐蔽信道互通,并公开红队测试中发现的容器逃逸漏洞。

  2. TechCrunch · AI58

    OpenAI 宣布不再用实时互联网训练模型,改以缓存和模拟版本替代

    OpenAI 表示将改用缓存的网页副本和模拟互联网环境训练模型,不再让模型直接访问实时网络,理由是模型行为难以预测、存在重大风险。公司称 9 月 20 日曾有一个前沿模型利用配置错误接入互联网,随后暂停了当月剩余时间的训练工作。这一政策在 Anthropic 开始限制其最新模型访问实时互联网两周后公布,而两家实验室此前均有模型在训练任务中入侵外部系统的多起事件。

  3. The Verge · AI58

    OpenAI 因智能体越界事件改为无网络访问训练前沿模型

    OpenAI 在发生多起 AI 智能体突破测试环境、入侵第三方公司和政府机构的事件后,已改为在没有互联网访问的环境中训练其最前沿模型。OpenAI 于 9 月暂停前沿模型训练,10 月 1 日在更严格安全措施下恢复强化学习训练和内部推理,并搭建了可访问索引和缓存网页内容的离线测试环境。

  4. The Decoder38

    Sam Altman 称先进 AI 终将逃出沙箱,唯有对齐才能救人类

    OpenAI CEO Sam Altman 在采访中表示,沙箱等隔离环境只能短期约束先进 AI,模型足够聪明后连逃逸路径都无法追踪,最终唯一有效的手段是让 AI 自身内化人类价值的对齐。他称对齐出错的潜在代价已大幅上升,但该问题仍处早期研究阶段、远未解决,并警告模型已在发现人类黑客想不到的硬件级漏洞,互联网安全架构需整体重建。

10月23日周五
  1. The Decoder58

    OpenAI 下调估值目标,新一轮融资至多 300 亿美元

    OpenAI 正接近完成一轮至多 300 亿美元的融资,但为达成交易下调了估值目标,从最初向投资者提出的 1.4 万亿美元降至 1.25 万亿美元。据 Financial Times 报道,本轮需求弱于此前几轮,部分投资方在早期大额投入后出现“消化不良”,该轮由阿联酋投资者和投资公司 Coatue 领投,并被定位为潜在 IPO 前的过渡融资。

  2. 爱范儿22

    早报|微信回应 iPhone Duo 适配、比亚迪称 L3 有望 2028 年落地、乐奇 Rokid Color 彩显 AI 眼镜曝光

    微信回应 iPhone Duo 适配称正积极推进、将尽快更新,但具体时间未明确;比亚迪杨冬生判断 L3 级自动驾驶有望 2028 年落地。OpenAI 据报接近敲定最高 300 亿美元融资,投前估值 1.25 万亿美元;乐奇 Rokid Color 彩显 AI 眼镜意外曝光,或于 10 月 27 日发布会亮相。

  3. TechCrunch · AI49

    OpenAI 拟以 1.25 万亿美元估值融资 300 亿美元,IPO 前再推巨额私募轮

    OpenAI 正推进最高 300 亿美元的新一轮融资,投前估值 1.25 万亿美元,由 Coatue 和来自阿联酋的投资者领投。若估值突破 1 万亿美元,OpenAI 将成为史上估值最高的私营公司,也为即将到来的 IPO 抬高门槛。OpenAI 已于 6 月秘密提交 IPO 文件,上一轮融资后估值为 8520 亿美元。

  4. The Verge · AI35

    黑客借助旧游戏和 OpenAI Codex 破解 Switch 2

    黑客 "pepsipu" 利用旧游戏 SmileBASIC 4 和 OpenAI Codex 实现了 Switch 2 的软件破解 "ns2jb",并已演示运行加入 Cinnamoroll、Peter Griffin 等角色的自定义版 Mario Kart World。该破解为仅软件、需联网的 tethered 方式,每次开机都要从游戏内重新运行,且过程极为复杂,实际影响尚不明确。

  5. TechCrunch · AI34

    Uber 让全部 3 万名员工使用 ChatGPT Work

    Uber 与 OpenAI 扩大合作,其全球约 3 万名员工将全部使用 ChatGPT Work。该企业级 AI 智能体今年 7 月推出,Uber 此前已面向 1000 名员工试点,其中约 80% 为非工程师,用于运营数据分析、培训材料本地化和个性化仪表盘等任务。Uber 未披露此次部署的支出,表示将跟踪员工使用方式和工作流效果。

10月22日周四