←News detail

QbitAIUpdated Oct 27 19:17

Stanford's HomeBody connects GPT-6 Astra to the Unitree G1 to tidy up the kitchen

English text is being prepared.

AI summary

The Stanford team launched the HomeBody project, connecting GPT-6 Astra to the Unitree G1 to enter a kitchen and execute language instructions; it can gather coffee bags, discard designated cardboard boxes, and, when medication is not in view, find the drawer from memory and retrieve the medicine to hand to a person. The system first has Astra guide the G1 to explore an unfamiliar kitchen and save camera images, LiDAR, and joint poses as spatial memory, then reconstructs a digital kitchen in Isaac Sim, after which Astra calls reusable skills such as navigation, grasping, placing, and opening drawers, with the skill modules handling specific motion planning and feeding back results. The team says deploying to a new kitchen requires no additional training data collection or training of specialized motion policies, but perception, planning, and skill execution run on a single RTX 4090 laptop, Astra makes decisions remotely, the initial reconstruction involves preparation time and API costs, and overheating of the finger servos is also one of the current limitations.

Why read this

AI score 72

Through a three-step process, it breaks down how the large model treats navigation, grasping, and opening drawers as skill calls, making clear the division of labor between decision-making and action in embodied AI.

Topics

Tags

Body

机器人的GPT时刻,还真得靠GPT(doge)!

刚刚,GPT-6 Astra接上宇树G1,进厨房干活了~

在斯坦福团队的最新项目HomeBody中,宇树G1先探索一个从来没见过的厨房,随后就能根据语言指令,收拾物品、丢掉纸盒,甚至把不在眼前的药找出来,递到人手里。

比如,让它把咖啡袋集中放到中间,再丢掉指定的牛奶和橙汁纸盒。

G1就会在厨房里来回搬运,把咖啡袋归拢到岛台上,再处理要丢弃的纸盒。

再比如,一句「帮我把药拿来」。

即使药不在当前视野里,它也能从之前保存的画面中找到线索,走到对应抽屉前,打开抽屉、取出药,再递给人,期间还能把丢纸盒的任务一并完成。

可以说,从Robocurve此前让GPT和Claude控制机械臂,完成桌面抓放测试,到这次G1走进厨房, 大模型控制机器人的任务范围,又往外扩了一圈。

这一次,机器人不只要判断眼前抓什么,还得记住东西在哪,再把走路、抓取、放置连成一串。

更值得注意的是,团队表示,部署到这个新厨房时,系统不需要额外采集训练数据,也无须再训练一套专用动作策略,泛化性是相当可以了。

看到这里,有人已经忍不住开始盘算了:

我要是有钱买台G1,再接上GPT,是不是也能……?

咱们先看看HomeBody究竟是怎么把活干起来的?

简单来说,HomeBody的核心思路可以概括为一句话: 让GPT把机器人技能当工具调用。

Astra负责理解目标、安排步骤,再调用导航、抓取、开抽屉等技能,把任务一步步做完。

不过,要让机器人去厨房拿东西,先得让它知道:厨房长什么样,东西又放在哪里。

整个过程,可以分成三步。

在HomeBody中,机器人接到的第一条指令很简单,「你是一台厨房机器人,请探索这个空间」。

随后,Astra会选择值得观察的位置,引导G1移动。机器人一边走,一边记录相机画面、激光雷达扫描,以及自身的关节姿态和途经位置。

相机负责看清房间里有什么,激光雷达等传感器提供实测的空间结构;SLAM,也就是同步定位与建图,则帮助机器人一边建立地图,一边确定自己在哪。

这些观察不会随着机器人转身就消失,而是会被保存下来,成为后续任务可以调用的空间记忆。

逛完还不够,Astra接下来还要担任Real2Sim智能体,在Isaac Sim仿真平台里搭出一个数字厨房。

这个数字孪生相当于一份立体房间模型,帮助系统判断各处的位置,以及机器人与目标之间的空间关系。

为了让数字厨房不仅看起来像,HomeBody还会把SLAM测得的几何信息也交给模型,用真实测量约束重建结果。

毕竟,台面的位置、通道的宽度,都会影响机器人能不能走过去、手能不能伸到位。

随后,系统会把真实世界的定位地图与数字厨房对齐到同一个坐标系,再将拍到的画面、内容描述和对应位置关联起来。

这样一来,之前保存的画面就不只是「我见过这个抽屉」,还对应着一个可以返回的位置。

之后再找东西,机器人就能先从记忆里查线索,再走回对应地点。

准备完成后,用户就可以说「收拾一下厨房」,再补充咖啡袋放哪里、哪些纸盒要扔。

Astra会结合当前画面、地图、空间记忆、手里有没有拿着东西,以及上一步的执行结果,选择接下来调用哪项技能、操作哪个目标。

前面展示的取药demo就用到了这种能力。用户虽然没说药在哪,但系统可以从保存的关键画面中找到抽屉,再把导航、开抽屉、取药等技能接起来。

此前,Robocurve让GPT、Claude控制机械臂,是让模型根据相机画面和机器人状态,通过工具调用指定夹爪的位置、朝向和开合状态,再由底层模块转换成具体动作。

HomeBody同样采用工具调用,但交给GPT的是更完整的技能:导航、抓取、放置、开抽屉,以及从抽屉中取物。

要理解这两者的区别,咱们先看看机器人系统的一种常见分工:

简单说,就是「安排任务—生成动作—控制身体」。

而HomeBody调整的,正是中间这一环: 让System 2直接调用技能库,由技能模块规划具体动作,再交给底层控制系统执行,不必经过一个学习型VLA。

具体来说,这些技能库里装的是已经写好、可复用的电机技能(Navigate、Pick、Place、Open drawer、Pick from drawer 等)。

这些技能有统一的接口:大模型只需要告诉它“去哪里、抓什么、放到哪”,技能自己执行,执行完再把结果反馈给大模型。

比如抓取,Astra只需要在画面中点出目标物体,再指定使用左手还是右手。

接下来,抓取技能内部的感知模块会圈出物体、估计深度,结合相机标定确定目标的三维位置,并计算抓取姿态。运动规划器再规划机械臂怎么伸过去、怎样避开障碍,最后交给控制模块执行。

换句话说, GPT决定抓哪个、用哪只手,技能模块解决手怎么伸过去、怎么抓起来。

其他技能也遵循类似的分工。导航接收目标位置和朝向;放置接收物品的落点;开抽屉则把对准把手、勾住把手、后退拉开,封装成一项完整技能。

每项技能执行后,都会把结果反馈给Astra,再由它决定下一步。遇到偏差时,技能模块会先自行调整、重试,解决不了再交回大模型重新安排。

通过这样的 决策—执行—反馈循环 ,「走到抽屉前—打开抽屉—取出药」就能被串成一项任务,而不必让大模型包办每一步的运动细节。

至于走路、伸手时怎样保持平衡,则属于前面说的System 0的工作。HomeBody使用预训练的AMO控制策略,让下半身运动同时考虑上半身的动作目标,协调行走与操作。

这也解释了为什么, 不需要额外训练,不等于整套系统从未训练过。 HomeBody不用为新厨房重新训练一套专用动作策略,但现成的感知模型、运动规划和预训练控制器,仍然是机器人能把活干起来的基础。

不过,省去了针对新环境的训练,并不意味着部署和运行就没有成本。

目前,HomeBody的感知、规划和技能执行运行在一台搭载RTX 4090的笔记本上,Astra则在远端负责决策。

前期重建数字厨房,需要准备时间和API成本;实际执行任务时,模型推理也会让动作之间出现等待。

即使软件流程顺利跑通,长时间干活还得过硬件这一关,比如手指舵机过热,就是系统目前面临的限制之一。

所以, 把GPT接上宇树机器人确实能让机器人进厨房干活,但背后还得有一整套感知、规划和控制系统配合。

至于现在就买台G1、接上GPT的API,坐等它帮你做家务——还没这么简单。

自万恶之源Robocurve用GPT-6 Astra控制机器人开始,机器人/具身圈几乎一夜之间进入了“大模型时代”。

总的来看,目前主要有几条路线:

第一条是Robocurve最早采用的方案:大模型直接接收相机画面和机器人状态,输出夹爪的目标位置、朝向和开合程度,再由底层逆运动学模块转换成关节动作执行,完成后重新观察,形成闭环。

第二条路线是让大模型充当System 2(慢思考),搭配负责生成动作的VLA。Anthropic就测试过让语言模型接收、修改甚至替换MolmoAct提出的动作。

这次的HomeBody则选择让System 2直接调度技能库,再由包括预训练AMO在内的底层系统负责执行与身体协调。

它不是简单地「多接一层System 0」,而是换了一种连接决策与动作的方式,再结合空间记忆,把任务从桌面扩展到整个房间。

目前,Robocurve的最新战况是:最新的GPT-6 Sol平均得分是GPT-5.6 Sol的1.6倍,成本却低了约47%。

Opus 5.5的平均得分约为Opus 5的1.8倍,与GPT-6 Astra接近,单次成本比Astra低约21%。

Source

QbitAI