IDC观察 | 从“算力工厂”到“Token工厂”:博伦智汇如何解决异构调度难题
IDC观察 | 从“算力工厂”到“Token工厂”:博伦智汇如何解决异构调度这道难题
博伦智汇基于TOLD技术栈迭代BooleanMix平台,将异构调度从资源导向转为按Token交付需求反向匹配算力、模型与策略。中国信通院报告称,其TOLD技术栈已在万卡级英伟达与国产GPU异构集群完成真实验证。平台已覆盖统一纳管、国产芯片适配、租户交付和不停服升级,并开放两类合作方向。
博伦智汇 2026-10-26 18:12 北京
Token经济的基础设施竞争,重点是稳定、高效、可计量的Token交付。
↑免费申领大会门票↑
中国信通院在《面向词元(Token)服务的智算基础设施发展研究报告(2026年)》中给出了一个明确的判断:推理算力首次超越训练算力成为需求主体,Token正在取代FLOPS和GPU卡数,成为衡量AI产业价值的新标尺。报告在梳理新兴Token服务商时写道,博伦智汇“专注于异构智算平台与梯度Token工厂技术服务,自研TOLD技术栈已在万卡级别的英伟达与国产GPU异构集群上完成真实验证”。在信通院对Token赛道代表性力量的观察中,博伦智汇与硅基流动、趋境科技、清程极智、无问芯穹等企业一同进入这份产业图景,意味着“异构算力如何转化为可交付的Token”这一命题,正在从工程问题上升为基础设施层面的公共议题。
Token工厂的难点,并不在于“有没有GPU”。大量智算中心机柜上架之后处于低负载状态,异构芯片之间又因架构差异难以协同,从芯片到稳定输出Token之间横着纳管、调度、适配、运维等多道鸿沟。博伦智汇的BooleanMix平台,正是围绕这条鸿沟展开的四轮迭代。
四轮迭代:一条以Token交付为目标的演进路径
BooleanMix的第一次上线,建立了管控中心与租户工作台的双入口。管控中心承接异构算力的统一分配与模型管理,租户工作台负责模型服务、聚合入口和基础监控。这一阶段完成的是基本链路的贯通:算力经过组织进入部署,部署形成可调用服务,服务再通过聚合层对外交付。资源总览与基础监控则让平台从“完成部署”延伸到“持续掌握运行状态”。
第二次上线把重心推向模型与国产算力的适配深度。平台建设基于Diffusers的图像、视频生成服务框架,推进天数系列、海光BR系列芯片的推理引擎适配,并引入模型服务自定义启动参数与部署验证环节——测试结果被写入Manifest,特定模型与GPU组合的启动耗时也被记录积累。运维侧同步补上了模型安装错误日志、推理Pod日志、文生视频监控与视频文件安全下载。从适配、配置、验证到日志监控,这一轮把技术工作贯穿到模型服务运行的前后。
第三次上线相对聚焦,但指向一个容易被忽略的交付环节:租户可以在工作台修改Client级别的背景、文案与Logo,底层模型服务与面向B端用户的品牌表达由此衔接。
第四次上线则回应了模型持续更新带来的连续性挑战。Inference Service增加无缝升级能力,支持模型优化后的不停服更新与无用资源清理;推理框架镜像的项目归属被规范,中心至边缘镜像仓库按需同步,减少不必要的传输与存储占用。新版服务管理组件兼容旧版服务,现有服务无需强制升级,可以逐步切换。新模型上线流程同步规范,适配、镜像准备、服务更新与版本兼容被组织进同一条持续交付链路。Benchmark测试平台、压力测试工具与Jenkins集成、ARM多架构CI/CD改造也在这一阶段进入研发配套,为后续版本积累验证工具。
TOLD:把调度顺序从“有什么用什么”翻转为“要什么给什么”
四次迭代背后是一条统一的架构主线:TOLD(Token-Oriented Large-scale Distributed Architecture)。传统算力调度是资源导向的——先看手上有什么GPU,再想办法适配部署;TOLD把顺序反过来,先理解需要交付什么样的Token,再反向推导算力、模型与调度策略。用物流来类比:资源导向像一家只有卡车的公司,无论货品属性一律用卡车配送;TOLD更接近智能调度中心,先弄清“货”的时效与属性,再决定用什么车、走什么路,必要时拆分与协同。Token就是被调度的“货”。
一条正在被行业验证的技术路径
从信通院报告对博伦智汇的引用,到IDC中国持续关注的异构算力管理与Token计量议题,一个信号是清晰的:Token经济的基础设施竞争,不会停留在“谁有更多卡”,而会落到“谁能把异构算力稳定、高效、可计量地转化为Token交付”。BooleanMix的四轮迭代没有试图一次性解决所有问题,而是沿着资源管理、适配验证、租户交付、持续升级的顺序逐层收敛。这条路径本身,就是对“Token工厂”从概念走向可运营基础设施的一种工程回答。
面向下一阶段,博伦智汇开放两类合作方向:一是欢迎持有优质国产GPU或英伟达GPU资产的IDC运营方、智算中心与资产方,围绕异构算力的统一纳管与梯级Token输出展开合作;二是欢迎有意共建优质Token工厂的资方与产业伙伴,共同推进从算力资产到Token产能的规模化交付。在Token逐步成为AI服务基本计量单元的背景下,异构调度层的开放协作,或许比单点算力扩张更值得下注。
• END•
精品再读
第二十一届中国IDC产业年度大典(IDCC2026)即将重磅启幕!
数智出海
来源:IDC圈 · mp.weixin.qq.com