OpenAI 发布社区安全报告，并为青少年加强 ChatGPT 保护措施
OpenAI 发布社区安全报告，并宣布为青少年加强 ChatGPT 保护措施。ChatGPT 的暴力预防能力同步升级，新增更全面的防护机制、更早的干预手段，以及面向公共安全的报告承诺。
#安全/对齐
OpenAI NewsAI 评分2222
OpenAI NewsAI 评分3838 OpenAI 如何检测前沿模型失准
OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为，让响应人员能在事件升级前介入。
OpenAI NewsAI 评分2222 OpenAI 更新 Model Spec，以五项核心价值观引导更强 AI
OpenAI 更新 Model Spec，提出五项核心价值观，用于引导能力更强的 AI 做出合理判断、维护人类自主性并忠实于人类意图。
OpenAI NewsAI 评分3838 OpenAI 如何加固前沿模型训练环境的安全隔离
OpenAI 说明了如何强化前沿模型训练与评估的隔离防护，措施包括离线环境和面向高算力的红队测试。
OpenAI NewsAI 评分1818 OpenAI 与波兰 NASK 合作推进 AI 安全与保障
OpenAI 与波兰 NASK 建立合作，聚焦 AI 安全、安保与技术研究，以强化防护措施并支持更具韧性的数字生态。
OpenAI NewsAI 评分2020 OpenAI 提出前沿 AI 民主治理蓝图第二部分：赋能网络防御者
OpenAI 发布前沿 AI 民主治理蓝图第二部分，聚焦赋能网络防御者。方案涵盖更强防护措施、现代化网络安全体系与更具韧性的公共机构建设。
OpenAI NewsAI 评分2222 OpenAI「Patch the Planet」：用智能体发现关键漏洞并协调全球响应
OpenAI 推出「Patch the Planet」，连接安全研究员、维护者与事件响应人员，共同处理开源软件中的关键漏洞。该计划让智能体参与漏洞发现，并围绕全球响应协调组织协作。
NVIDIA BlogAI 评分2626 NVIDIA 扩展 Confidential Computing，推出 Confidential Bare Metal 让前沿模型构建者安全扩展全球基础设施
NVIDIA 扩展 Confidential Computing，新增 Confidential Bare Metal 部署选项，让前沿模型构建者在第三方裸金属基础设施上运行敏感负载并保留模型与数据控制权。
AWS Machine Learning BlogAI 评分2626 在 AWS 上用 X.509 PKI 保障 AI 智能体身份安全
AWS 与 Keyfactor 联合发布参考架构，用 X.509 PKI 为 AI 智能体建立加密身份，解决 MCP 缺乏内置认证标准导致的智能体伪造与凭证重放问题。
Microsoft ResearchAI 评分3434 微软研究院 Magnetar：基于哈希函数的通用零知识证明系统
微软研究院推出零知识证明系统 Magnetar，可证明用 Rust、Go 或 C 编写的程序，平均比此前最快的同类系统快 10 至 39 倍，且安全性仅依赖标准哈希函数。该系统让证明生成像运行程序一样常规，验证者可在毫秒内确认结果而无需重跑程序或信任执行方。Magnetar 是微软研究院十余年零知识证明实用化研究的最新成果，建立在 Spartan、Phalanx 等工作之上。
Google DeepMindAI 评分3838 Google DeepMind 与新加坡政府合作构建微调 AI 模型用于诈骗检测
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一款端侧诈骗检测模型，可在设备本地分析对话并实时预警。该模型采用两阶段流水线：先用轻量分类器低功耗筛查消息，再用微调后的 Gemma 分析更大范围对话上下文以确认威胁。模型完全在端侧运行，新加坡政府和 Google 均无法访问用户对话，部署将分阶段推进。
Google DeepMind精选AI 评分7070 Google DeepMind 发布 Gemini 4 Argon 并公布安全防护方案
Google DeepMind 开始广泛推送 Gemini 4 Argon，并同步公开其安全与安全报告。该模型在网络安全测试中解决了全部 12 个端到端模拟攻击场景，上一代为 5 个；在 Gray Swan 的间接提示注入基准上，15 次自适应攻击的成功率降至 0.7%。公司还部署了输入筛查、激活探针和实时监控三层防护，并设置自动失准监控，读取智能体动作与思维链，以拦截严重越界行为。
推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护设计，以及智能体越界行为的监控机制，可供关注前沿模型安全的人参考。
GitHub Blog · AI & MLAI 评分3434 GitHub 如何用 ModernBERT 分类器减少密钥扫描误报
GitHub 用微调的 ModernBERT 分类器替换原 LLM 流水线做密钥扫描，用户接受率提升 11.5%，推送后扫描中位执行时间降低 86%，服务成本降低 98% 以上。新方案先用正则表达式高召回生成候选，再由分类器结合文件路径、变量名和上下文判断是否为真实凭据，并已将通用密钥检测扩展到推送保护阶段。
GitHub Blog · AI & MLAI 评分4242 GitHub 如何让密钥保护跟上 AI 写代码的速度
GitHub 披露，平台上三分之一的 pull request 已涉及 AI 智能体，一年前这一比例不足十分之一。其与 Microsoft Applied Sciences 共建的微调分类器将 push protection 扩展到无结构密钥，可在不到 2 毫秒内评估整组候选密钥，有望使可拦截的密钥数量翻倍以上。
Google ResearchAI 评分3131 Google 发布智能体隐私与安全开放问题报告：从上下文完整性切入
Google 发布《智能体隐私与安全的开放与新兴问题：上下文视角》报告，汇总 50 余位学界与业界专家在 2025 年底纽约 CAPS 研讨会的成果。报告指出智能体因非结构化输入、概率性控制流和自主委派而难以沿用传统软件的安全方法，主张以 Contextual Integrity 理论为基础构建上下文策略引擎，在系统沙箱、模型推理和用户控制多层协同防护。
Google ResearchAI 评分3131 Google 发布基于 TEE 的可验证隐私联邦学习系统
Google 宣布下一代联邦学习系统，利用 TEE 实现完全可验证、可审计的数据匿名化保证，Gboard 已采用该系统并获得比此前联邦学习系统更快的计算速度。系统通过访问策略公开透明日志 Rekor、KMS 策略校验和 Federated Language 编排实现端到端可验证，仅向工作负载运营方暴露指标和差分隐私模型权重。
Google DeepMindAI 评分3232 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入水印
Google DeepMind 发布 SynthID Bio，将水印技术引入合成生物学，可在不损害生物功能的前提下，把不可感知的签名嵌入蛋白质序列与 AlphaFold 3 预测的 3D 结构中。