软抢占NPU调度

高调度成功率

一种基于工作负载感知性能模型的软抢占实时调度方法，为神经处理单元上的多任务提供近似抢占能力，满足机载嵌入式系统的实时性要求。

姚远 · Hu, Yujiao · Yi, Dang · Wei, Tao · Kai, Hu · Qiming, Huang · Peng, Zhe · 杨刚 · 周兴社

IEEE Transactions on Parallel and Distributed Systems 2025

技术优势

满足实时要求

通过软抢占调度算法提供近似抢占能力，动态调整NPU计算资源，使多任务调度能够满足机载嵌入式系统的实时性要求。

预测误差低

工作负载感知性能模型能在任务并发执行时准确预测剩余执行时间，实验表明预测误差低。

应用场景

• 机载嵌入式NPU调度：为机载嵌入式系统提供NPU多任务实时调度能力，替代原生调度器。
• 无人机实时计算：用于固定翼无人机机载系统，保证多任务实时计算。
• NPU资源管理：基于Kubernetes框架管理NPU资源，支持动态调整计算资源。