推理期即插即用
该方法无需额外训练或目标模块,在推理阶段通过调整语言模型的概率分布使生成文本与目标语料对齐,同时保持高语言质量。
Kaiyi, Pang · Minhao, Bai · Yang, Jinshuai · Gao, Yue · 江铭虎 · 黄永峰
Knowledge-Based Systems 2025
该方法在推理阶段即插即用,避免了成本高昂的训练过程,并且无需额外的目标模块。
利用目标语料的n-gram词频和生成过程中的瞬时熵来调整概率分布,从而捕捉目标领域的显式语义属性和隐式语言特征。
实验结果表明,无论模型是为特定领域微调还是通过提示引导,FlexAlign都能在有效对齐目标领域的同时保持高语言质量。
在三种不同语言模型和两个数据集上的实验验证了其有效性,表明对模型和数据的广泛适应性。