是石科技发布TokenFleet调度框架
热点事件历史事件
是石科技发布TokenFleet调度框架
1 篇报道1 个报道来源11 天前更新
先了解这件事
AI 综述
是石科技在2026 CCF全国高性能计算学术大会期间发布TokenFleet分布式调度框架，重点做请求路由、跨机房容量协同和混合负载治理，目标是提高现有算力的有效产出。其中TokenPilot与SLOMax面向现有集群，FleetMind面向后续新增算力机房的扩展。 是石科技称，在GLM5.3调优数据中，TokenPilot使P95首Token延迟降低32.4%、P50降低71.3%；SLOMax流控协同调度使达标输出吞吐提高约29.4%，达标比例从约67%升至约86%。报道同时说明，这些是所测条件下的响应改善和收益测算，成本收益仍需结合吞吐与资源占用评估，实际收益需结合具体负载与服务门槛验证。
AI 根据报道生成 · 10 天前更新
最新进展10月20日 16:01
是石科技发布 TokenFleet 分布式调度框架，GLM5.3 首 Token 延迟降低 32.4%报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- 量子位是石科技发布 TokenFleet 分布式调度框架，GLM5.3 首 Token 延迟降低 32.4%
是石科技在 2026 CCF 全国高性能计算学术大会期间发布 TokenFleet 分布式调度框架，聚焦请求路由、跨机房容量协同与混合负载治理。其 TokenPilot 在 GLM5.3 调优数据中使 P95 首 Token 延迟降低 32.4%、P50 降低 71.3%；SLOMax 流控协同调度使达标输出吞吐提高约 29.4%，达标比例从约 67% 升至约 86%。