多关键点功能可供性表征

无需标注即可泛化

一种新颖的表示方法,将视觉可供性编码为多个功能性接触关键点,直接约束灵巧抓取配置,在视觉感知与操作之间建立可泛化的联系。

Fan, Yang · Dongsheng, Luo · 陈文锐 · Jiacheng, Lin · Junjie, Cai · Yang, Kailun · 李智勇 · 王耀南

IEEE Robotics and Automation Letters 2025

技术优势

无需手工标注

利用人类抓取经验图像进行弱监督,结合大型视觉模型提取细粒度可供性特征,实现了泛化而避免了手工关键点标注。

直接约束抓取姿态

通过定位功能性接触点,多关键点可供性表征直接编码任务驱动的抓取配置,解决了以往方法只能预测粗略区域而无法约束姿态的问题。

空间一致性保障

提出的基于关键点的抓取矩阵变换方法(KGT)确保手部关键点与物体接触点之间的空间一致性,从而为视觉感知与灵巧抓取动作提供直接联系。

泛化到新任务

在具有挑战性的机器人任务中,该方法展现出对未见过的工具和任务的泛化能力,弥合了视觉可供性学习与灵巧机器人操作之间的差距。

应用场景