AI 热点

Hao AI Lab 通过合并工具调用往返加速 GPT-6 Astra 机器人智能体

UCSD Hao AI Lab更新于 11月20日 10:00

For Astra at medium reasoning effort, most of it is per-request overhead, paid on every tool-call round trip.

AI 导读

Hao AI Lab 合并工具调用往返,并让机器人运动与模型思考并行,使 GPT-6 Astra + Codex 智能体在测试任务中运行约快 3x。杯子任务从 11.1 min 缩短至 3.4 min,毛巾折叠从 ~18 min 缩短至 ~6 min,机器人运动时间占比由 24% 提升至 84%。团队还让每次动作同时返回摄像头画面和机器人状态,并将旧图像压缩为文本笔记以缩短上下文,但动作仍基于约 5 s 前的观察。

推荐理由

AI 评分 59

材料给出合并工具调用、并行规划与运动及压缩上下文的优化路径,可迁移到真实机器人智能体的延迟治理。

主题

标签

正文 · AI 翻译

对于采用中等推理强度的 Astra,大部分耗时来自每次请求的固定开销,而每一轮工具调用往返都要付出这一成本。

因此,我们合并了往返: - 每次动作都会同时返回摄像头画面、机器人状态以及智能体自己登记的视图,因此查看这些信息无需额外请求 - 代码一写好就会运行;机械臂运动时,智能体会同步检查自己的计划,而无需额外花费一轮 - 我们保持较短的上下文,将旧图像精简为文本笔记

来源

UCSD Hao AI Lab