HALO的三层控制架构:视觉语言模型负责任务编排,作生成模块规划全身动作,经强化学习训练的动作跟踪器执行关节控制。图片来源:HALO项目页面截图拼接
据论文披露,研究团队在6个未预先扫描或建图的真实环境中开展360次单项任务测试,平均成功率为91%。另在一个真实环境中,对3种组合任务分别开展10次测试,平均成功率为70%。其中,“俯身通过障碍—走向目标—推箱子”这一组合的成功率为50%。
机器人如何获得完成这些任务所需的数据,是这项研究关注的问题。研究团队在1000个程序生成的模拟家庭环境中,合成了约300小时的主要训练数据,将机器人“看到什么”“接到什么指令”和“如何运动”配对起来。
具体而言,系统先生成动作,再将动作放进虚拟房间,最后从机器人的视角生成画面。项目页面以“坐到扶手椅上”为例,将其拆成向前走、转身和坐下等片段,由动作生成模型根据文字提示、路径点和关键姿态生成动作序列,再通过几何检查筛选动作,减少脚部滑动、身体穿入地面等问题。
随后,系统将动作安排到程序生成的房间中,检查机器人与家具的位置关系,寻找没有碰撞的摆放方案,再利用仿真工具渲染机器人执行动作时看到的画面。训练中还会改变光照、色调、画面模糊程度等条件,使视觉输入更加多样。这样,同一套流程就能生成包含指令、视觉画面和全身动作的配套数据。
HALO的合成数据生成与训练流程:先生成动作轨迹,将其放入虚拟场景,再渲染机器人视角的画面,形成配套训练数据,用于训练动作生成器和动作跟踪器。图片来源:HALO论文
据介绍,研究团队使用250张英伟达H100 GPU,耗时约48小时合成主要训练数据。动作生成器通过模仿学习训练,使用64张B200;动作跟踪器经强化学习、策略蒸馏等步骤训练,使用4张H100。
需要指出的是,仿真生成数据并未完全摆脱人工参与。团队表示,新增物理任务仍需人工编写提示词、设计动作关键帧,部分动作还使用了人类视频或动捕素材。
研究团队同时指出,目前机器人主要依赖视觉感知,难以直接感知接触情况;当物体离开相机视野或被遮挡时,涉及较多接触的任务表现会下降。加入触觉感知,是后续改进方向之一。
澎湃新闻记者 秦盛
责任编辑:赵思远