无需重训练处理新槽值
采用统一Transformer与图注意力机制,有效利用对话上下文和槽值关系进行状态跟踪,降低计算与内存需求。
Khan, Muhammad Asif · Bhuyan Kaibalya, Prasad · 漆桂林 · 宋伟 · Ye, Fanghua · Ali, Zafar · Irfan, Ullah · Kefalas, Pavlos
Applied Intelligence 2024
使用 BERT 分词器构建候选集词汇表,直接处理未见过的槽值,无需为每个新值重新训练模型。
单个 transformer 同时聚合对话上下文并生成槽值,取代两个独立模块,提升效率的同时提高预测精度。
通过嵌入层聚合器和图注意力网络建立相关槽值间的关系,简化图表示,提升对关联槽位的推理。