类别突出Transformer

问答检索新SOTA

在Transformer中显式融入类别信息，同时捕获内容与类别的语义关系，提升问题检索准确率。

Ma, Denghao · Li, Chong · 陈跃国 · Liang, Shen

Lecture Notes in Computer Science 2023

技术优势

类别信息融入

在自注意力单元中融入类别表示，使模型能同时捕获内容和类别语义关系。

多数据集验证

在三个公开数据集上进行的广泛实验表明，该方法性能超越了现有最佳方案。

应用场景

• 智能问答：替换现有检索模型，提升问答准确率。
• 语义搜索：提供更精准的语义匹配，增强搜索结果相关性。
• 对话系统：改善对话中相似问题的识别与匹配。