云边协同推理框架

能效比1.55倍

前端用随机计算压缩推理功耗，后端NAS补偿精度，实现云边任务下沉与能耗节省的联合最优。

王继禾 · Mengchao, Zhang · Huijuan, Duan · 梅魁志 · Wang, Danghui · Qiu, Meikang

Journal of Systems Architecture 2026

参数信息

前端功耗降低

35 %

精度损失

0.2 %

能效比

1.55 ×

功率延迟积

0.77-0.92 ×

技术优势

前端省电

前端采用随机计算，功耗较传统二进制方法降低约35%。

精度基本不掉

后端NAS补偿精度，整体精度仅损失0.2%。

能效更高

联合优化使能效比超过1.55倍，功率延迟积降至原二进制的0.77~0.92倍。

应用场景

• 边缘AI芯片：提供更低功耗的随机计算前端，适合边缘芯片。
• 低功耗推理：前端功耗降低35%，直接对应低功耗推理需求。
• 智能物联网设备：云边联合优化使IoT设备推理更节能。
• 轻量化终端智能：前端优化比特位宽和层数，实现轻量化部署。