仅更新4%参数
冻结预训练Transformer主干,仅微调轻量适配器即可达到全量微调的说话人验证性能,显著降低参数量和过拟合风险。
彭俊逸 · Stafylakis, Themos · Gu, Rongzhi · Plchot, Oldřich · Mošner, Ladislav · Burget, Lukáš · Černocký, Jan "honza"
2023
仅更新不到4%的参数即可达到与全量微调相当的性能,显著降低存储和计算开销。
冻结预训练参数,仅训练轻量适配器,降低了模型在有限说话人数据上的过拟合风险。