构造向量LSTM压缩

同衰减压缩2倍

通过构造向量生成权重参数，在同等精度损失下实现更高的模型压缩率，并可在FPGA上低延迟部署。

Tengfei, Li · 顾申申

IEEE Access 2023

参数信息

压缩比提升

2 ×

精度衰减比例

45 %

技术优势

压缩率高一倍

构造向量生成的权重参数在相同精度损失下压缩率比块循环矩阵高出一倍，同等条件下模型更小。

精度损失减半

在相同压缩率下，精度衰减只有块循环矩阵方法的45%，意味着保留更多精度。

维度灵活适应

线性变换和卷积方法能降低输入序列维度，无需改变构造向量大小即可处理不同维度训练集。

资源高效复用

FPGA上通过并行流水线实现资源复用，低延迟满足实时应用需求。

应用场景

• 轻量级AI推理：压缩模型降低计算与存储需求，轻量推理适合资源受限终端。
• 边缘计算芯片：FPGA实现低延迟LSTM推理，适合边缘端实时处理任务。
• 实时状态预测：并行流水线降低推理延迟，满足实时状态预测的响应要求。
• FPGA硬件加速：HLS部署和资源复用使LSTM在FPGA上高效加速。