自适应稀疏注意力序列推荐模型

噪声鲁棒，细粒度意图捕捉

不同于传统自注意力模型易受噪声干扰和过度平滑的影响，该模型通过自适应稀疏注意力与频率分解机制，同时捕捉长期偏好与短期意图动态，增强对用户行为细微变化的敏感度，实现对真实意图的精准建模。

Cao, Wenming · Hongjun, Liu · 杨绪君 · 李兵 · Lu, Wang · 余志文 · Leung, Man Fai

IEEE Transactions on Knowledge and Data Engineering 2026

参数信息

HR@5平均提升

3.77 %

HR@10平均提升

4.10 %

HR@20平均提升

4.25 %

NDCG@5平均提升

4.30 %

NDCG@10平均提升

4.78 %

NDCG@20平均提升

4.58 %

技术优势

抑制噪声交互

自适应稀疏注意力机制抑制噪声交互，保留嵌入多样性，避免标准自注意力模型中的噪声放大和过度平滑问题。

分离长短期偏好

频率感知编码器将交互序列分解为低频成分建模长期偏好，高频成分捕捉短期意图动态，提升对细粒度行为变化的敏感度。

聚焦难预测样本

简化焦点损失移除类别平衡项但保留聚焦因子，强调难预测样本而非类别先验，提升判别学习能力。

应用场景

• 在线内容推荐：在噪声和稀疏交互下精准捕捉用户意图，提升内容推荐点击率。
• 电商推荐系统：分离长期偏好与短期意图，提高商品推荐的转化率。
• 个性化广告：聚焦难预测样本，优化广告投放的精准度。