XSched: Preemptive Scheduling for Diverse XPUs

一、论文概述

项目	内容
标题	XSched: Preemptive Scheduling for Diverse XPUs
作者	Weihang Shen 等
机构	未明确
论文	OSDI 2025
代码	未明确
发布	2025-07 (OSDI 2025)
领域	Systems, Scheduling

二、核心思想

问题定义

XPU（如GPU、NPU、ASIC、FPGA）缺乏灵活的调度能力，无法在多任务环境中满足丰富的应用需求（如优先级和公平性）。

解决方案概述

XSched是一个调度框架，支持在多样化XPU上进行抢占式调度。核心创新：

1. XQueue抽象：可抢占的命令队列抽象
2. 多层级硬件模型：适应不同能力的XPU
3. 统一调度接口：为XPU任务调度提供统一接口

三、技术架构

核心设计

组件	说明	关键特点
XQueue	可抢占命令队列抽象	统一调度接口
多层级硬件模型	适应不同XPU能力	兼容性强
调度策略	硬件无关的调度策略	灵活性高

关键技术

XQueue抽象：

• 可抢占的命令队列
• 统一的XPU任务调度接口
• 支持灵活的调度策略

多层级硬件模型：

• 成熟先进的XPU：实现最优调度性能
• 新兴弱小XPU：保持兼容性
• 适应不同硬件能力

硬件无关调度策略：

• 实现两种硬件无关的调度策略
• 支持优先级和公平性
• 灵活的调度策略

四、核心创新

创新点	说明	理论/实验依据
XQueue抽象	可抢占命令队列	统一调度接口
多层级硬件模型	适应不同XPU能力	兼容性强
硬件无关策略	支持多种调度策略	灵活性高
广泛适用性	10种XPU，7个软件平台	通用性强

五、实验结果

适用范围

XPU类型	数量	说明
GPU	多种	不同品牌和代际
NPU	多种	神经网络处理器
ASIC	多种	专用集成电路
FPGA	多种	现场可编程门阵列

软件平台支持

• 支持7个软件平台
• 跨不同XPU类型和品牌
• 支持不同代际的硬件

调度效果

• 有效实现各种调度目标
• 高效灵活的抢占机制
• 支持优先级和公平性

六、相关工作

方向	代表工作	XSched的优势
GPU调度	NVIDIA MPS, MIG	更灵活的抢占式调度
XPU管理	各种XPU驱动	统一接口，广泛适用
任务调度	操作系统调度器	专门针对XPU

七、总结

核心贡献

1. XQueue抽象：可抢占的命令队列，统一调度接口
2. 多层级硬件模型：适应不同能力的XPU
3. 广泛适用性：10种XPU，7个软件平台
4. 灵活调度策略：支持优先级和公平性

技术影响

• XPU调度标准化：为多样化XPU提供统一调度框架
• 多任务环境支持：满足丰富的应用需求
• 广泛适用性：支持多种XPU类型和品牌

局限性

• 需要XPU硬件支持抢占
• 可能增加调度开销
• 对某些特定XPU可能需要定制

八、参考资源

• 论文: OSDI 2025
• 会议: OSDI 2025
• 应用场景: XPU调度、多任务环境