表达有效性提升45.2%
一种让大语言模型对齐自身生成概率不确定性、更有效地表达不确定性的指令微调方法。
Shudong, Liu · Zhaocong, Li · 刘学博 · Runzhe, Zhan · Derek F., Wong · Chao, Lidia S. · 张旻
2024
UaIT让模型对不确定性的感知与其生成概率的统计不确定性一致，从而减少过度或随机的表达。
实验显示不确定性表达有效性提升45.2%，且在不同模型和任务上均得到验证。
方法采用自训练方式，不依赖人类标注或额外监督信号，可扩展用于大规模语料。
模型表达的不确定性可作为实时决策依据，例如触发外部文档检索或调用更强模型，提高系统可靠性。