点云提示调优方法

0.05%参数可调

提出一种参数高效的点云提示调优方法，冻结预训练骨干参数，仅用极少可训练参数即可适应多种下游任务，性能媲美全微调。

Fei, Ben · 74390431 · 杨卫东 · Li, Zhijun · 陈文明 · Lipeng, Ma

IEEE Transactions on Intelligent Vehicles 2024

参数信息

可训练参数少于

0.05 %

技术优势

性能不妥协

使用任务特定提示，模型能够有效适应目标域，在多个数据集上取得与其他全微调方法相当的结果。

多任务覆盖广

在四个判别式数据集和四个生成式数据集上均验证了有效性，展示了方法在不同领域和任务中的通用性。

应用场景

• 三维视觉理解：用极少参数让预训练模型快速适配新视觉任务，避免全微调的资源消耗。
• 点云基础模型：作为高效调优方案，可应用于大型点云基础模型，降低存储与计算需求。
• 点云分析：在多个点云分析任务上以极少参数达到与全微调相当的性能。
• 自动驾驶感知：可用于自动驾驶点云模型的高效适配，降低部署时的存储开销。
• 机器人导航：为机器人导航中的点云处理模型提供轻量级任务适配手段。