场景感知模型选择器

轻量本地推理

针对移动设备上跨场景在线推理的精度下降问题，该方案通过识别场景并使用最适配的紧凑模型，在保证精度的同时降低时延和功耗。

Li, Yunzhe · Zhu, Hongzi · Zhuohong, Deng · Cheng, Yunlong · Zheng, Zimu · 张良 · 常姗 · 过敏意

IEEE Transactions on Mobile Computing 2025

参数信息

预测精度提升

4.5 %

响应时间缩短

33.1 %

功耗降低

45.1 %

技术优势

自动选对模型

通过弱监督场景表示学习将测试样本划分到不同场景，并用模型分类器为每个样本挑选最匹配的紧凑模型，从而提升精度。

响应快，功耗低

相比使用通用大DNN，Anole的响应时间缩短33.1%，功耗降低45.1%，更适合资源受限的移动设备。

应用场景

• 无人机：在无人机上实现低延迟、低功耗的实时视觉推理，适应不同飞行场景。
• 端侧AI推理：无需网络连接即可在移动设备上本地运行，并动态选择最优模型。
• 边缘计算芯片：通过选择紧凑模型减少计算和能耗，降低对边缘芯片算力的要求。
• 具身智能设备：让具身智能设备在移动中根据场景切换模型，保持稳定准确的推理。