Tenex 如何为财富 2000 强企业构建 AI 原生 SDLC:Alex Lieberman 与 CJ Hess 访谈
Tenex 联合创始人 Alex Lieberman 与 CJ Hess 在 AIE New York 分享了公司如何把"按交付成果付费"的模式扩展为面向财富 2000 强企业的 AI 原生 SDLC。
Tenex 联合创始人 Alex Lieberman 与 CJ Hess 在 AIE New York 分享了公司如何把"按交付成果付费"的模式扩展为面向财富 2000 强企业的 AI 原生 SDLC。
是石科技在 2026 CCF 全国高性能计算学术大会期间发布 TokenFleet 分布式调度框架,聚焦请求路由、跨机房容量协同与混合负载治理。其 TokenPilot 在 GLM5.3 调优数据中使 P95 首 Token 延迟降低 32.4%、P50 降低 71.3%;SLOMax 流控协同调度使达标输出吞吐提高约 29.4%,达标比例从约 67% 升至约 86%。
i14 与 AWS 合作,通过 TorchNeuron Native 的原生 PyTorch 支持,将采用 Gated Linear Attention 的 Laplace 3B 线性注意力模型移植到 AWS Trainium2,其循环状态固定为每序列 29.5 MB、不随上下文长度增长。
Google 周二宣布开源 TorchTPU,这是其 PyTorch 版本,可让 AI 应用运行在 Google 的 TPU 上,开发者只需修改配置、无需重写代码即可把现有 PyTorch 应用迁移到 TPU 和 Google Cloud。
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架是支撑 V4.1-Flash 模型大规模快速生成回答的服务软件。
Octave 在 Amazon Bedrock 上用 Cohere Embed v4 构建了面向 Reliance 质量管理系统(服务超 650 家企业客户、覆盖 180 个国家)的多租户 AI 基础平台,将单个用例的部署时间缩短 50%。
开源推理模型 GPT-OSS-20B 默认用英语思考,在 50 例多语言推理测试中仅 22% 用目标语言推理(英语 100%、法语 0%、德语 10%、西班牙语 0%、意大利语 0%)。
Amazon Quick 与 Amazon Bedrock AgentCore 组合,把企业 MCP 服务器变成可组合工具层,让供应链管理者用自然语言跨系统提问并直接获得可执行答案。演示中一次查询识别出 TechComp 停产影响 23 笔订单、75 万美元营收面临风险,并自动串联治理与报价 MCP 生成紧急 RFQ。所有变更需指定人工审批,同一流程可由定时任务或供应商邮件触发。
Amazon Bedrock 的跨区域推理(CRIS)现支持从加拿大(中部)和加拿大西部(卡尔加里)区域调用 OpenAI GPT-6.1 Sol、GPT-6(Astra、Sol、Luna)和 GPT-5.6(Sol、Terra、Luna)模型,推理在北美境内处理。
AWS 发布系列第三篇教程,演示用 Strategy Mosaic 作为语义层、在 Amazon Bedrock AgentCore 上运行 Strands 智能体,跨 Amazon Redshift 与 Amazon Aurora 构建 Customer 360 模型,无需 ETL。
本文演示用 Denodo Platform 作为语义层、配合 Amazon Bedrock AgentCore 托管智能体,联邦查询 Amazon Aurora、Amazon Redshift 和本地 PostgreSQL 三处数据源。
Hugging Face 宣布接入原生 PyTorch TPU 后端 TorchTPU,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,模型通过 device_map="tpu" 或 pipe.to("tpu") 加载,不再需要 Optimum TPU。
Eon 用 Amazon Bedrock AgentCore 的 MCP Gateway 替换了逐工具凭证和本地 MCP 进程,让开发者和自主 SRE 智能体通过单一认证网关访问 AWS、GCP、Azure 三朵云上的调查工具。
AWS 与 Keyfactor 联合发布参考架构,用 X.509 PKI 为 AI 智能体建立加密身份,解决 MCP 缺乏内置认证标准导致的智能体伪造与凭证重放问题。
企业 AI 的衡量重点正从 token 或 GPU 小时单价转向"每个有用产出的有效成本",即完成可被业务使用的请求或工作流所需的平台、模型、运维与容量总成本。
Cloudflare 发布 AI 模型 Clairic,称其从文档中抽取数据的速度和成本都优于大语言模型,目前已在 Workers AI 上提供预览,开放权重即将跟进。
PyTorch 2.15 在 MPS 后端加入 FP8 张量支持,并让 MoE 模型解码比 2.14 快 5–6.5 倍,Qwen3.6-35B-A3B 在 M3 Ultra 上从 9.4 tokens/s 提升到 61.3 tokens/s。
推荐理由:原文给出 MPS 后端在 FP8、MoE 解码和视频 VAE 显存上的具体数字,可据此判断 Mac 本地跑模型的实际变化。
Amazon SageMaker AI 新客户现可用 Google、GitHub、Apple、Amazon 账号或邮箱在 2–3 步内注册 AWS,并自动在约 20 秒内创建好 SageMaker Studio 环境。
2026 年 1 月至 9 月,Amazon SageMaker JumpStart 新增超过 100 个模型,来自 30 家不同提供商。其中 Alibaba(Qwen)贡献 29 个模型,NVIDIA 贡献 17 个,包括 Cosmos3 世界基础模型系列与 Nemotron 系列;Mistral、Google、IBM、Cohere 分别新增 7、6、4、4 个模型。
AWS 发布 TorchNeuron 开发工具,开发者只需改一行配置,就能把用 PyTorch 编写的 AI 应用迁移到 Amazon 自研芯片 Trainium 上运行,无需重写代码。
Hugging Face 推出 PyTorch 原生后端 TorchNeuron,让 Transformers、Diffusers 等库可直接在 AWS Trainium 上运行模型。
vLLM 新增 push 模式的 NIXL connector,把 KV 传输的协调与准备工作移出首 token 关键路径。在 AWS EC2 P5en 实例搭配 EFA 的 1P1D 部署上,Qwen3-32B 的 TTFT 最高提升 3 倍,TPOT 最高改善 30%。该功能先在 AWS Trainium 集群验证,再以与加速器无关的形式贡献给 vLLM。
Deepgram 将 Nova-3 语音转文字模型移植到 AWS Trainium2,在单台 Amazon EC2 trn2.3xlarge 实例上运行八个模型副本,离线批处理任务每美元处理的音频量比原有算力方案提升 11%–70%。
英伟达发布面向常驻智能体与边缘计算的开放权重模型,包括 1200 亿参数的 Nemotron 3.5 Super VL 和两款轻量 Bolt 模型。Super VL 面向企业智能体,英伟达称其在指令遵循和工具调用上可接近更大的 Nemotron 3 Ultra,并称在文档智能、财务会计、医疗保险理赔等任务上经后训练后快于 Anthropic 和 OpenAI 的竞品。
vLLM 引入双向 KV 传输,让 decode 节点在后续轮次把已计算的 KV 缓存回传给 prefill 节点,避免重复计算对话历史。在 Amazon EC2 P5en 的 1P1D 部署上,该机制使 Qwen3-32B 的 TTFT 最高降低 1.6 倍、zai-org/GLM-5-FP8 最高降低 3.3 倍。
商汤大装置平台日均Token服务量已达6万亿,预计2026年全年Token服务规模实现25倍增长、第四季度达到日均10万亿Token。其以PD分离与异构混合调度构建万卡级异构推理集群,在相同数量高端旗舰卡条件下整体Token吞吐量可提升至原来的5倍。商汤大装置还在探索跨域PD分离与AF分离,后者有望带来单卡吞吐提升150%至200%、运营成本降低30%至40%。
哲源科技10月17日发布WHIRLPO计算医学平台,整合异构算力、多组学生命数据、模型矩阵与实验验证链路,为生命世界模型提供训练与运行底座。今年4月扎克伯格夫妇创立的Biohub启动虚拟生物学计划投入5亿美元,10月该项目扩大,美国能源部、NIH与Biohub联手,Meta、谷歌DeepMind、Isomorphic Labs参与,合计承诺投入18亿美元。
Tim Cook 上周四到访上海蓝盒子办公室,了解这家床垫家居品牌如何用 Mac 和 iPad 支撑业务。蓝盒子在一台 64GB 内存的 Mac mini 上本地部署了 35B 参数的千问模型,员工用自然语言提问即可查询销售、库存等数据,部分查询从过去一两天缩短到几分钟。借助 Apple 商务的零接触部署,新员工从拆封 Mac 到开始工作约需 12 分钟。
清华大学 THUNLP 实验室联合面壁智能、OpenBMB 等团队开源智能体操作系统 PilotDeck 2.0,以 WorkSpace 工作舱隔离各项目的文件、记忆与任务,记忆支持查看、修改和删除。
推荐理由:原文给出了白盒记忆、后台执行和智能路由的具体机制与成本对比数据,可据此判断多项目 Agent 工作流的组织方式。
AWS 销售与市场团队基于 Amazon Bedrock AgentCore Evaluations 搭建了覆盖从首次提交到生产运行的九阶段智能体评测框架,用于其内部多智能体销售分析系统。
Reflection AI 发布开源权重模型 Beam,面向智能体编码与长周期任务,采用稀疏 MoE 架构,总参数 501B、激活参数 23B,官方称有效上下文长度达 100 万 token,权重以 Apache 2.0 协议在 Hugging Face 发布,提供 BF16、FP8、NVFP4 三种检查点。
APPSO 实测首批搭载英伟达 RTX Spark 的华硕 ProArt 创16,64GB 统一内存版售价 28999 元,实际可用 GPU 显存约 46.7GB。
范式智能与睿思智联于10月16日上线一站式生产级 AI 部署平台“模域”(ModelSphere),面向企业免费开源并已在 GitHub 发布,采用 Apache 2.0 协议。
Meta 的编程优化开源权重模型 Muse Spark Open 已在 Amazon SageMaker JumpStart 上线,支持 100 万 token 上下文窗口。该模型采用 MoE 架构,总参数 816B、每 token 激活 42B,提供 BF16 和 NVFP4 两种变体,可部署到用户自有 AWS 账户的 SageMaker AI 端点。
AWS 提出 Trust in Depth 框架,用自动化推理等独立分层机制验证 AI 智能体的行为边界,让其在规则可验证时自主行动、仅将真正需要判断的决策交给人。
爱范儿上手搭载 RTX Spark N1X 的 Surface Laptop Ultra,该平台最高提供 20 核 Grace CPU、6144 个 CUDA 核心的 Blackwell GPU 和 128GB 统一内存,FP4 精度下最高 AI 算力 1 PFLOPS。
Mistral 发布首个时序基础模型系列 Timestral,提供 5M、28M、123M 和 209M 四个尺寸,最大模型在 GIFT-Eval、TIME 和 fev-bench 三项公开基准上均排名第一,参数量约为此前 SOTA 的三分之二。
Modal 完成 16 亿美元 D 轮融资,ARR 达到 10 亿美元,成为纽约最新的 AI 基础设施十角兽,5 个月内使用量和估值均增长 3 倍、一年增长 15 倍。其 2023 年推出的 Sandboxes 产品单独已达 3 亿美元年化收入,累计启动近 30 亿个沙箱,可扩展至百万级并发。
NVIDIA 加入欧盟委员会在都柏林 AI in Science Summit 上启动的 AI in Science Enablers Initiative,为欧洲科研社区提供加速工具、算力与培训支持。
NVIDIA 过去一年投资北欧科技生态,包括瑞典初创公司 Lovable 和 Legora,Lovable 正用 NVIDIA Dynamo 与 Nemotron 工具优化开放模型推理并训练自有模型。