脉冲式大语言模型

去矩阵乘低功耗

把大语言模型行为转换为脉冲动力学，完全消除矩阵乘法的同时保持高性能，并可用神经科学工具分析信息编码过程，提升可解释性。

徐晗 · Zhou, Peng · Jiahong, Zhang · Pan, Yuqi · 钱江波 · 田永鸿 · Eshraghian, Jason K. · 徐波 · 李国齐

National Science Review 2026

参数信息

动态功耗

13.849 W

推理吞吐量

161.8 tokens/s

技术优势

推理无需矩阵乘法

通过数学建模将LLM行为转换为脉冲动力学，推理过程完全消除矩阵乘法，降低硬件实现复杂度。

功耗大幅降低

在FPGA上运行1.5B参数模型，动态功耗仅13.849 W，相比GPU方案能效显著提升。

可解释性更强

将LLM视为神经群体，可用计算神经科学工具分析其信息编码过程，提供新的神经科学视角。

应用场景

• 低功耗AI芯片：消除矩阵乘法并大幅降低功耗，适合集成到低功耗AI芯片中。
• 边缘端大模型部署：FPGA上低功耗运行大模型，使边缘设备能够实时部署LLM。
• 端侧智能传感器：低功耗推理适合嵌入传感器端，实现在设备上直接处理语言任务。
• 高效推理加速器：无矩阵乘法设计和硬件协同优化，提高推理加速器的能效和吞吐量。