随着大模型、行业AI应用规模化落地，企业需同时运行大规模分布式模型训练与高并发在线推理两类差异化负载：训练任务依赖Slurm调度实现多机多卡并行、断点续训、资源独占等高性能算力调度能力，推理业务则依托K8s完成容器化弹性扩缩容、推理发布、微服务管理。传统架构中两套调度系统独立部署、算力池割裂，存在硬件资源闲置、业务切换流程繁琐、运维平台分散、数据与权限不互通等问题，市场迫切需要一套融合Slurm与K8s的统一算力架构，在统一资源池中同时满足AI训练对高性能、高带宽、低延迟的极致要求，以及推理服务对弹性伸缩、快速迭代、高可用的业务诉求，实现"一套资源、统一调度、训推协同"的新型算力范式。
面临的挑战
模型训练和推理不同负载特性导致调度架构割裂
Slurm面向批处理作业设计，适合长周期、多卡绑定、高显存占用的训练任务；Kubernetes面向容器化服务编排，适合短延迟、弹性扩缩、多实例并发的推理任务，两套调度逻辑截然不同，在同一集群中实现共存面临着技术难题。
模型训练和推理不同负载特性导致调度架构割裂
异构算力兼容难，资源利用率低下
CPU/GPU/NPU等混合架构的兼容性问题突出，且训练与推理任务若严格交替执行或分属不同集群，混合部署时易出现资源争抢、性能干扰和优先级冲突。
异构算力兼容难，资源利用率低下
运维复杂度陡增，算力成本高昂
团队需同时掌握HPC和云原生两套技术栈，监控、计费、权限体系互不打通，增加了运维复杂度；同时GPU算力成本高昂，资源利用率低下直接导致投资回报率（ROI）难以提升。
运维复杂度陡增，算力成本高昂
方案价值
01双调度深度融合，算力利用率大幅提升
打通Slurm高性能训练调度与K8s容器推理调度，实现训推两类负载混合部署，硬件资源全局共享、动态分配，训练算力空闲时可自动调度至推理任务，削峰填谷、适配业务波动，提升算力资源整体利用率。
02统一全栈运维平台，模型交付全流程提速
一套界面完成训练任务提交、推理服务发布、资源监控、告警、日志、权限管控，简化运维复杂度，降低运维成本。统一存储共享模型、数据集、镜像，训练完成一键发布推理服务，缩短AI应用上线周期。
03全栈兼容异构算力，降低整体算力建设成本
适配国外、国产CPU/GPU/FPGA等多种计算单元，满足不同类型AI业务的算力需求，保护企业既有硬件投资。兼容企业已有的Slurm作业脚本、调度策略和运维流程，同时拥抱Kubernetes云原生生态，无需推倒重来即可完成算力基础设施的平滑演进。
