一种联合优化服务分配与截止时间调度的算法,为边缘服务器上的多DNN推理任务提供准确性和时延保证。
She, Yechao · 李閩溟 · Jin, Yang · 徐梦 · Wang, Jianping · Bin, Liu
2023
算法在多项式时间内找到近似最优解,避免枚举所有可能的服务分配与调度组合。
离线算法有严格的近似比ρ/δ保证,用户可预先估计最坏情况下的性能损失。
针对在线任务动态到达的场景设计了启发式算法,无需预知全部任务即可做出调度决策。
仿真结果表明,所提算法在总效用等指标上优于最先进的基准算法,验证了实际有效性。