负载均衡推理卸载

高接受率且均衡

联合考虑推理时延和负载不均衡度，在分布式边缘服务器上灵活划分并卸载DNN推理任务。

Xin, Jingjie · 李昕 · Kilper, Daniel C. · Shanguo, Huang

IEEE Transactions on Network Science and Engineering 2026

技术优势

高接受率

仿真结果表明，该方案相比四个基准能接受更多任务。

负载均衡

通过联合考虑推理时延和负载不均衡度，避免边缘服务器过载。

应用场景

• 边缘智能：在边缘服务器上高效运行DNN推理，避免过载。
• 分布式推理：将DNN模型切分并卸载到多台边缘服务器协同推理。