未来上下文感知策略

低延迟手语生成

在流式文本输入下,通过预测未来词元增强部分输入的表示,显著改善手语生成的质量与延迟权衡。

Fu, Biao · Tong, Sun · 史晓东 · Chen, Yidong

IEEE Signal Processing Letters 2025

参数信息

BLEU-4分数
22.75
平均词元延迟
2.0 tokens

技术优势

低延迟推理

该策略适用于流式文本输入,逐词增量生成手语姿势序列,无需等待完整句子,满足实时应用需求。

提升质量-延迟权衡

通过大型语言模型预测少量未来词元,增强部分输入的表示,从而在相同延迟下获得更高的生成质量,尤其在低延迟时提升显著。

无需重新训练

该策略作为推理时方法,直接应用于现有离线模型,无需针对流式场景重新训练模型,降低了部署成本。

应用场景