优先级联合调度策略

推理时延降低最高38.8%

同时优化初始化与执行两个阶段，为边缘云上的无服务器推理提供一种优先级驱动的调度方案。

Geng, Hongmin · Li, Yuepeng · 顾琳 · 曾德泽

IEEE Internet of Things Journal 2025

参数信息

推理时间降幅

38.8 %

推理时间降幅下限

15.6 %

技术优势

同时优化两个阶段

把初始化和执行放在一起调度，避免了只优化执行时初始化开销吃掉收益的问题。

按依赖和负载动态排序

根据工作负载、任务依赖关系和资源状态动态调整优先级，让任务分配更贴合当前系统状态。

推理时间降低最高38.8%

在多种资源配置、网络带宽和应用拓扑下，对比现有最佳方法都取得显著降幅。

应用场景

• 边缘AI推理：加速边缘端DNN推理，缩短突发请求下的响应时延。
• 无服务器计算：降低无服务器架构中初始化阶段带来的延迟开销。
• 深度学习加速：通过联合调度优化DNN推理的端到端执行时间。