SLIQ-ViT量化模型

低比特高效部署

一个结合PTQ与轻量QAF的混合量化框架，应对ViT激活分布非高斯性与低比特精度损失。

Ruiting, Sun · Honglu, He · 张冠文 · 周巍

Expert Systems with Applications 2026

参数信息

准确率仅下降

0.3 %

降不

1.0 %

模型大小减少

12 倍

技术优势

量化不掉点

通过 MLS/SLG 与 BSL 量化器精确映射幂律和离群分布，结合敏感度引导的混合精度策略全局优化比特分配。

应用场景

• 端侧视觉推理：压缩后模型可在手机等设备本地运行，减少云端依赖和延迟。
• 边缘AI加速：低比特量化降低计算量，加速边缘设备上的视觉推理。
• 智能摄像头：量化模型轻量，适合集成到智能摄像头中做实时检测。
• 可穿戴视觉设备：模型体积和算力需求降低，可嵌入可穿戴设备进行视觉处理。
• 实时医学影像分析：高效推理支持在医疗设备上实时分析影像，无需上传云端。