边缘推理调度算法

一种联合优化服务分配与截止时间调度的算法,为边缘服务器上的多DNN推理任务提供准确性和时延保证。

She, Yechao · 李閩溟 · Jin, Yang · 徐梦 · Wang, Jianping · Bin, Liu

2023

技术优势

计算开销小

算法在多项式时间内找到近似最优解,避免枚举所有可能的服务分配与调度组合。

理论上界可证明

离线算法有严格的近似比ρ/δ保证,用户可预先估计最坏情况下的性能损失。

在线也能用

针对在线任务动态到达的场景设计了启发式算法,无需预知全部任务即可做出调度决策。

仿真全面领先

仿真结果表明,所提算法在总效用等指标上优于最先进的基准算法,验证了实际有效性。

应用场景