是石科技发布TokenFleet调度框架

2026年10月22日，36氪搜索RSS源报道，是石科技在2026 CCF全国高性能计算学术大会期间发布TokenFleet分布式调度框架。该框架覆盖请求路由、跨机房容量协同与混合负载治理，包含TokenPilot、SLOMax和FleetMind：其中TokenPilot与SLOMax面向现有集群，FleetMind面向后续新增算力机房的扩展。是石科技提供的GLM5.3调优数据显示，在所测显卡集群与负载条件下、采用预测延迟路由后，P95首Token延迟降低32.4%，P50首Token延迟降低71.3%；收益测算中，达标输出吞吐提高约29.4%。报道同时说明，上述响应改善数据仅对应所测条件，成本收益仍需结合吞吐与资源占用评估。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。