KAYTUS推出OEM AI托管服务,AIDC故障节点平均处理时间从48小时缩短至12小时
KAYTUS推出AI数据中心现场维护服务……平均灾难恢复时间从48小时缩短至12小时
KAYTUS推出面向AIDC和超大规模计算集群的“OEM AI托管服务”,集成现场备件、OEM诊断维修与认证工程师支持。在某全球云服务商超100机架、数千个AI加速器环境中,故障节点平均处理时间从48小时降至12小时,计算正常运行时间增加50%。服务已覆盖欧洲多国及日本、韩国,并可集成KSManage平台。
人工智能 (AI) 数据中心的竞争格局正从保障 GPU 安全和扩大基础设施部署规模扩展到确保稳定的运行能力。执行大规模 AI 训练和推理的数据中心由数千个紧密互连的加速器、网络和冷却系统组成,这意味着单个硬件的故障都可能影响整个运行。特别是对于按小时提供计算资源的云服务提供商而言,设备停机不仅会导致计算资源的损失,还会导致客户服务中断和合同赔偿负担。因此,人们越来越希望摒弃传统的故障发生后采购零件和维修设备的方式,转而采用制造商级别的现场诊断和维护服务。
人工智能基础设施公司KAYTUS推出了“OEM AI托管服务”,这是一项面向人工智能数据中心(AIDC)和超大规模计算集群的集成式硬件维护和技术支持服务。该服务的特点在于将关键备件的现场库存、OEM级别的诊断和维修能力以及认证工程师的技术支持相结合。通过将必要的部件和专业技术部署到数据中心现场,快速响应复杂的硬件故障,从而缩短设备恢复时间。
据KAYTUS称,采用现场支持模式可以将硬件恢复时间比行业标准服务水平缩短30%以上。如果关键组件在现场可用,维修最快可在4小时内完成;该公司表示,每个故障节点的平均处理时间为12小时。
人工智能基础设施运行稳定性的重要性日益凸显,这源于集群规模的不断扩大。据KAYTUS援引Gartner的预测,到2026年,全球人工智能支出预计将达到2.67万亿美元,其中约1.48万亿美元将用于人工智能基础设施。随着大规模投资的持续推进,数据中心正从单纯的设备部署阶段迈向运营阶段,必须长期稳定地提供计算资源。
硬件故障对人工智能训练环境的影响在实际运行案例中也得到了证实。根据 Meta 发布的 Llama 3.1 405B 技术报告,在一个由 16,384 个 GPU 组成的集群上进行 54 天的预训练期间,发生了 419 次意外中断。这意味着平均每三个小时就会有一次训练任务中断。在所有中断中,约 78% 被确认或怀疑是由硬件故障引起的。
SOSP 2025 的一项研究分析了一个大规模人工智能学习平台,也揭示了其运行故障问题。该研究记录了在三个月内执行超过 778,000 个训练任务的过程中发生的 44,000 多次故障。随着人工智能集群规模的扩大,快速识别和恢复单个设备故障的能力成为维持整个系统可用性的关键因素。
残疾带来的经济负担也十分沉重。根据Uptime Institute发布的2026年残疾分析报告,57%的受访者表示,他们最近一次重大残疾造成的损失超过10万美元。五分之一的受访者表示,他们的损失超过100万美元。
部分计算资源租赁协议还包含条款,规定如果发生重大服务级别协议 (SLA) 违约,则需支付高达月租金 25% 的赔偿。对于人工智能数据中心运营商而言,故障恢复时间是一项技术运营指标,它不仅影响盈利能力,还会影响客户信任度。
关键部件现场备货,并提供全天候工程师支持……制造商将维修能力部署到数据中心
KAYTUS推出的OEM AI托管服务旨在减少现有硬件维护流程中出现的零部件采购延迟、工厂退货以及复杂的故障诊断问题。近年来,AI数据中心正朝着高密度环境发展,每个机架的功率密度超过40kW。由于计算设备、网络和冷却系统紧密耦合,故障原因的识别过程可能变得十分复杂。
此外,如果使用的计算节点和网络设备规格不同,则可能需要时间才能找到必要的替换零件。某些复杂的故障可能需要将设备送回制造商工厂,这会延长维修时间。
为了解决这些问题,KAYTUS 提供五项集成维护功能。首先,它会分析客户的基础设施配置和运行需求,从而在设备整个生命周期内提供定制化的硬件维护服务。支持范围不仅涵盖标准数据中心环境,也包括技术复杂的基础设施。
关键备件储存在客户的数据中心内。通过确保关键替换硬件(例如计算节点、网络交换机和高带宽网络接口卡 (NIC))在现场的存储,可以缩短从外部仓库接收部件所需的时间。
工厂使用的诊断设备和专用维修工具也会部署到客户现场。这使得工程师无需将故障设备送回工厂,即可诊断和维修单个组件和整个节点。
根据服务级别,我们提供全年无休、每天 24 小时的现场技术支持。支持团队由 OEM 认证工程师负责响应问题,并配备专门的二级技术支持专家协助分析和解决复杂问题。
它还包含人工智能驱动的故障预测和预先检测功能。通过定期检查设备状态和智能故障预测,它可以识别硬件性能下降的早期迹象,并在故障发生前支持预防性维护。
KAYTUS韩国企业事业部技术总监罗汉多表示:“计算资产的价值更多地取决于整个运营期间计算资源的可靠性,而非初始部署规模。KAYTUS AI托管服务承诺提供可衡量的服务水平,确保客户无需无限期地等待硬件恢复。”
KAYTUS 还披露了其现场支持模式在全球主要云服务提供商 (CSP) 的 AI 数据中心应用后的运营结果。
该客户运营着一个拥有超过100个机架和数千个AI加速器的环境。据KAYTUS称,每个故障节点的平均处理时间从48小时减少到12小时,比之前减少了75%。
实际训练和推理工作负载的计算正常运行时间增加了 50%。该公司表示,停机时间减少和灾难恢复时间缩短是主要因素。
此外,有研究表明,随着停机时间和工作负载重启次数的减少,客户潜在的 SLA 补偿负担减少了数百万美元。
然而,这些数据代表的是在特定全球云服务提供商客户环境中测得的运营性能,并不意味着所有数据中心都会出现同样的改进。实际恢复时间和运营性能可能因基础设施规模、设备配置、服务级别和其他因素而异。
KAYTUS正将这项服务拓展至包括韩国在内的全球市场。目前,该公司已在英国、德国、法国、荷兰、芬兰、波兰和冰岛等主要欧洲国家以及包括日本和韩国在内的亚太地区提供服务。
在国内,我们计划配合人工智能基础设施投资和基于GPU的云服务的扩展,加强现场数据中心维护和技术支持。
服务交付方式和支持级别可根据客户的基础设施规模和运营需求进行调整。运营流程的设计旨在支持区域监管合规性,并在适用情况下纳入欧盟《通用数据保护条例》(GDPR) 的要求。
它还支持与现有智能运维管理平台“KSManage”的集成。KAYTUS将现场工程师的硬件维护能力与基于人工智能的运维管理功能相结合,以提高故障响应的可预测性,并根据合同规定的绩效标准确定服务级别。
来源:Google Alerts RSS:数据中心 · venturesquare.net