医学参数微调策略

轻量适配

识别预训练模型中对医学任务最基础的一小部分参数并用分治策略调控，帮助下游医学任务轻量且高效地适配。

Zhanghui, Huang · Feng, Zunlei · 孙晓燕 · 孙水发 · 袁贞明 · 俞俊 · 张剑

Pattern Recognition 2026

参数信息

基础参数比例

10 %

技术优势

找准关键参数

通过移除参数观察下游任务损失增加的程度，定义出约10%的基础参数，这些参数主导预训练模型的最优收敛。

应用场景

• 医学图像分析：用少量关键参数实现高效微调，缓解医学影像标注不足的问题。
• 医疗诊断模型：提升预训练模型在诊断任务上的性能，超越全参数微调。
• 自监督学习：为自监督预训练模型提供面向医学任务的高效适配方法。