延迟自适应降开销
通过损失引导的随机延迟采样,保持高准确率的同时支持不同推理延迟约束下的灵活部署。
Xiao, Du · Shi, Wanli · Hanyuan, Zheng · Mukhoty, Bhaskar Pratim · Yang, Cao · 顾彬 · 伍铁如
Computer Vision and Image Understanding 2026
损失引导的自适应采样保证各时间步梯度均衡,延迟泛化一致。
在1–3时间步的极端削减下,比固定延迟和均匀采样延迟基线高最多20%准确率。
单一训练模型可适配不同推理延迟约束,无需针对每个延迟重新训练。