轻量LLM调度算法

调度成本大幅降低

利用轻量级大型语言模型生成可调度任务候选集，直接在消费电子设备上优化多云任务调度，与三种算法相比实现成本和能耗更低。

Tang, Xuhao · 刘发贵 · Xu, Dishi · 姜军 · Tang, Quan · Bin, Wang · 吴庆波 · Philip Chen, Chun Lung Philip

IEEE Transactions on Consumer Electronics 2024

参数信息

总成本比第二优算法低

19.3 %

技术优势

成本显著降低

与三种对比算法相比，总成本低19.3%，因此调度开销可大幅节省。

应用场景

• 多云任务调度：用轻量LLM直接生成可调度候选集，替代启发式算法，降低调度成本。
• 边缘智能：让消费电子设备在本地执行智能调度，减少对云端大模型的依赖。
• 云计算资源优化：根据任务状态与云资源条件优化决策，提高多云资源利用率。