语言驱动抓取系统

抓取精度97.97%

融合外部知识与几何感知,实现语言指令下复杂环境中的精准目标分割与抓取。

Jialong, Xie · 刘晶 · Zhenwei, Zhu · 王超群 · Duan, Peng · Zhou F.

IEEE Transactions on Instrumentation and Measurement 2024

参数信息

抓取精度
97.97 %
分割OIoU
94.35 %

技术优势

名词语义增强

引入实体语义增强模块,融合外部知识库与CLIP,充分挖掘指令中名词的语义,实现对目标的精细化定位。

几何感知抓取

细化解码器生成分割掩码并融合几何感知特征,为指定物体推理出合适的抓取姿态,在杂乱环境下更稳定。

粗到细多模态融合

通过语言引导的目标解析模块进行从粗到细的跨模态融合,更好地对齐语言与视觉上下文。

应用场景