具身智能有力支撑
一种双骨干持续学习架构,以稳快双骨干与动态参数合并,在变化环境中同时保持模型的稳定与适应。
Ye, Fei · Ruilong, Yu · 刘启和 · Borş, Adrian G. · Sun, Jingling · Hu, Rongyao · 周世杰 · Zhiyuan, Ren · Kun, Zhang
Engineering Applications of Artificial Intelligence 2026
快骨干通过概率距离正则化约束优化,防止新任务学习破坏已有表征,保持旧任务性能。
任务注意力自动分配快慢骨干参与度,新任务能够快速激活灵活表征,增量创建专家,避免大规模重训练。
动态参数合并与剪枝机制挑选最关键专家参数,剔除冗余,控制模型复杂度,知识更高效迁移。