Skip to content

About

No description, website, or topics provided.

Resources

Contributing

Stars

16 stars

Watchers

0 watching

Forks

Repository files navigation

MindCluster

Ascend License Zread     DeepWiki

✨ 最新消息

  • [2026.08.01]: 🚀 MindCluster易用性提升
  • [2026.08.01]: 🚀 社区volcano兼容性提升
  • [2026.08.01]: 🚀 监控易用性可靠性提升
  • [2026.08.01]: 🚀 支持DPU设备发现与故障上报
  • [2026.08.01]: 🚀 支持A5软切分、支持A2/A3动态硬切分
  • [2026.08.01]: 🚀 支持DP故障处理插件化
  • [2026.08.01]: 🚀 A5硬件适配
  • [2026.08.01]: 🚀 支持推理场景自定义资源弹性扩缩容能力
  • [2026.08.01]: 🚀 支持容器快照能力,加速业务故障恢复

ℹ️ 简介

MindCluster(AI集群系统软件)是支持NPU(昇腾AI处理器)训练和推理硬件的深度学习组件,使能构建集群全流程运行,提供NPU集群作业调度、运维监测、故障恢复等功能。深度学习平台开发厂商可以减少底层资源调度相关软件开发工作量,快速使能合作伙伴基于MindCluster开发深度学习平台。此外还提供了故障诊断工具(又叫Ascend FaultDiag),包含日志诊断工具(简称 ascend-fd)和链路诊断工具(简称 ascend-fd-tk),能够对集群作业失败、链路故障等问题提供诊断结果。

Note

全景图中的Ascend DMI和Ascend Deployer组件不属于本仓库,Ascend DMI暂未开源,Ascend Deployer源码与使用说明请参考 Ascend Deployer 仓库。

⚙️ 功能介绍

集群调度

  • 设备管理

    基于Kubernetes设备插件机制,提供NPU、DPU设备的自动发现、资源上报与健康状态管理;通过Ascend Docker Runtime适配容器运行环境,并支持NPU虚拟化实例(vNPU)切分,实现异构算力资源的灵活供给。

    特性名称 介绍 Released
    NPU设备发现 NPU设备发现 ✅
    DPU设备发现 DPU设备发现 ✅
    容器化支持 容器化支持 ✅
    NPU虚拟化 NPU虚拟化 ✅
  • 资源监测

    提供NPU、DPU资源的监测能力,支持对接Prometheus、Telegraf等监测组件,实现集群异构资源使用情况的采集与可视化监测。

    特性名称 介绍 Released
    NPU资源监测 NPU资源监测 ✅
    DPU资源监测 DPU资源监测 ✅
  • 资源调度

    提供整卡、静态/动态vNPU等基础调度能力,支持NPU亲和性调度与潮汐调度,满足不同场景下的作业调度需求。

    特性名称 介绍 Released
    NPU基础调度 NPU基础调度 ✅
    亲和性调度 亲和性调度 ✅
    潮汐调度 潮汐调度 ✅
  • 训练高可靠

    提供训练任务的故障检测与恢复能力,覆盖预训练阶段的断点续训和后训练(强化学习)任务的重调度与快速恢复,提升训练任务的可靠性与故障恢复效率。

    特性名称 介绍 Released
    预训练故障恢复 预训练故障恢复(断点续训) ✅
    后训练故障恢复 后训练故障恢复(verl强化学习任务最佳实践) ✅
  • 推理高可靠

    提供推理任务的故障检测与恢复能力,覆盖推理阶段的断点续训和后推理(强化学习)任务的重调度与弹性容错,提升推理任务的可靠性与故障恢复效率。

    应用编排组件 服务化组件 推理引擎 介绍 Released
    OME OME SGLang SGLang推理任务最佳实践 ✅
    AIBrix AIBrix vLLM vLLM推理任务最佳实践 ✅
    Infer Operator MindIE PyMotor/vLLM Proxy vLLM Infer Operator推理任务最佳实践 ✅
    Ascend Operator MindIE CMotor MindIE LLM MindIE CMotor推理任务最佳实践(已日落) ✅

故障诊断

  • 日志诊断工具
特性名称 介绍 Released
日志清洗 日志清洗 ✅
故障诊断 故障诊断 ✅
单机故障诊断 单机故障诊断 ✅
超节点故障诊断 超节点故障诊断 ✅
自定义故障实体 自定义故障实体 ✅
屏蔽故障日志 屏蔽故障日志 ✅
自定义配置文件 自定义配置文件 ✅
业务日志清洗(SDK) 业务日志清洗(SDK) ✅
根因节点清洗及诊断(SDK) 根因节点清洗及诊断(SDK) ✅
故障事件清洗及诊断(SDK) 故障事件清洗及诊断(SDK) ✅
  • 链路诊断工具
特性名称 介绍 Released
日志采集 日志采集 ✅
日志清洗 日志清洗 ✅
故障诊断 故障诊断 ✅
故障巡检 故障巡检 ✅
诊断 / 巡检报告说明 诊断 / 巡检报告说明 ✅
在线诊断 在线诊断 ✅
离线诊断 离线诊断 ✅
分批诊断 分批诊断 ✅
客户定制化巡检 客户定制化巡检 ✅

🚀 快速入门

集群调度

MindCluster提供两种快速入门路径:

  • 10分钟快速入门:仅部署Ascend Device Plugin和Ascend Docker Runtime,使用Kubernetes原生调度器调度普通Pod,快速验证NPU资源调度能力。
  • 训练业务快速入门:部署完整的集群调度组件(NodeD、Ascend Device Plugin、Ascend Docker Runtime、Volcano、ClusterD、Ascend Operator),以PyTorch训练任务为例,体验端到端的训练流程。

详细操作请参考:快速入门

故障诊断

  • 日志诊断工具提供了一个简单的样例,快速体验工具能力,详情可参考快速入门。
  • 链路诊断工具提供了一个简单的样例,快速体验工具能力,详情可参考快速入门。

📦 安装指南

集群调度

支持多种安装方式:

  • 使用Helm安装(推荐):通过Helm Chart一键部署集群调度组件。
  • 手动安装:分步安装各组件,适合自定义配置场景。
  • 使用工具安装:通过自动化工具快速完成安装部署。

安装前请阅读安装前必读和环境依赖,详细操作请参考:安装指南。

故障诊断

  • 日志诊断工具提供了源码安装和Whl包安装的方式,详情可参考对应的安装部署。
  • 链路诊断工具提供了源码安装和Whl包安装的方式,详情可参考对应的安装部署。

📘 使用指南

集群调度

MindCluster集群调度用户指南覆盖从环境部署、资源管理到训练推理业务运行的全流程。指南支持Helm、手动、工具等多种安装方式完成环境部署;通过容器化支持、资源监测、虚拟化实例(vNPU)等特性实现资源的管理与监控;提供整卡调度、亲和性调度、多级调度、潮汐调度等调度能力,满足不同场景的作业调度需求;同时依托断点续训提升训练任务可靠性;并提供MindIE Motor、SGLang、vLLM、Infer Operator等推理框架的最佳实践。具体特性介绍及使用指南请参考:集群调度用户指南。

故障诊断

  • 日志诊断工具提供日志清洗、故障诊断两大核心功能。当训练或推理任务发生异常退出或性能劣化时,ascend-fd 可自动提取集群日志中的关键信息,分析故障根因节点和故障事件,帮助用户快速定位问题。具体操作请参考:日志诊断工具特性指南。
  • 链路诊断工具提供交互式与非交互式两种操作模式,具备在线数据自动采集与离线日志清洗两种数据处理能力,可完成集群设备信息采集与自动化巡检诊断,通过服务器、L1/L2 灵衢交换机、RoCE 交换机及 BMC 信息定位集群的链路故障。具体操作请参考:链路诊断工具特性指南。

🗺️ Roadmap

Roadmap (2026Q2)

🔀 版本维护策略

版本分支的维护阶段如下:

状态 时间 说明
计划 1-3个月 计划特性
开发 3个月 开发新特性并修复问题,定期发布新版本
维护 6个月 常规分支维护6个月。对重大BUG进行修复,不合入新特性,并视BUG的影响发布补丁版本
生命周期终止(EOL) N/A 分支不再接受任何修改

当前版本维护策略如下:

版本 维护策略 当前状态 发布日期 后续状态 EOL日期
master 长期支持 开发 在研分支,不发布 -
v26.1.0 常规分支 维护 2026-08-03 2027-02-03
v26.0.0 常规分支 维护 2026-04-15 2026-10-15
v7.3.0 长期支持 维护 2026-01-13 2026-12-30
v7.2.RC1 常规分支 维护 2025-10-25 预计2026-01-25起进入无维护状态 2026-01-25
v7.1.RC1 常规分支 EOL 2025-07-24 2025-10-24
v7.0.RC1 常规分支 EOL 2025-04-27 2025-07-27
v6.0.0 长期支持 维护 2024-12-31 预计2025-12-31起进入无维护状态
v6.0.RC3 常规分支 EOL 2024-11-20 2025-02-20
v6.0.RC2 常规分支 EOL 2024-11-20 2025-02-20
v6.0.RC1 常规分支 EOL 2024-11-20 2025-02-20
v5.0.0 长期支持 EOL 2023-11-20 2024-11-20

🛠️ 贡献指南

⚖️ 相关说明

🔹 《版本说明》
🔹 《许可证声明》
🔹 《文档许可证声明》
🔹 《第三方开源软件声明》

🤝 建议与交流

欢迎大家为社区做贡献。如果有任何疑问或建议,请提交issue,我们会尽快回复。感谢您的支持。

About

No description, website, or topics provided.

Resources

Contributing

Stars

16 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages