Mifeng jointly launches the embodied evaluation platform RoboColiseum, with GPT-6, Opus 5.5, and Gemini 4 competing head-to-head
English text is being prepared.
Mifeng Technology, together with nearly 20 institutions including Hugging Face, NVIDIA, and Tsinghua University, jointly launched the embodied evaluation platform RoboColiseum, and announced this round's results on October 20: Claude Opus 5.5 ranked first overall among the four flagship models, followed closely by GPT-6 Astra. GPT-6 Astra scored 99.35 on instruction following, while Opus 5.5 performed better on spatial understanding and general manipulation and consumed the fewest tokens. The platform contains 78 simulated evaluation tasks, with a simulation-to-real-world correlation of 89.5%, and since launching in August, more than 100 teams have participated.
Body
觅蜂联合发起具身评测平台RoboColiseum,GPT-6、Opus 5.5、Gemini 4同台决战!钟立磊1 小时前给具身智能模型搭建一个公开、中立、可复现的“竞技场”和“训练场”。
当OpenAI、Anthropic和Google三大AI巨头的旗舰模型同台决战,谁更会操控机器人?
10月20日,由觅蜂科技、Hugging Face、NVIDIA、清华大学等全球近 20 家高校、企业、科研机构共同联合发起的具身角斗场RoboColiseum公布本轮评测结果:Claude Opus 5.5位列四款旗舰模型综合第一,GPT-6 Astra紧随其后。
分项来看,在四款旗舰模型中,GPT-6 Astra在指令跟随与整体扰动适应上领先,其中指令跟随得分达到99.35;Opus在空间理解与通用操作上表现更好,并以最少的全轮评测token消耗拿下旗舰组综合第一。在图像质量受扰动的测试中,GPT-6.1 Sol明显落后于其他三款模型,显示出不同模型应对视觉信息变化时的稳定性差异。
但本轮综合排名前两名,仍由具身策略模型占据,尤其是在通用操作维度保持优势。
这场同台较量,为行业看清通用大模型与具身策略模型的能力优势与短板提供了直观参考。
RoboColiseum围绕指令跟随、空间理解、扰动适应和通用操作,推出四类能力子榜、78个高保真仿真评测任务,既呈现模型的分项表现,也记录任务完成步骤与失败位置,帮助开发者快速定位模型能力短板。
作为联合发起方,觅蜂为RoboColiseum提供高保真物体资产和仿真场景,支持构建复杂机器人操作任务的评测环境,并为不同物体交互、空间布局与环境条件下的模型能力测试提供基础资源。
模型在仿真中的成绩能否反映真实操作表现,同样是评测的关键。根据平台公布的实测结果,RoboColiseum仿真评测与实机部署的相关性达到89.5%,相同模型在仿真与真实世界中的评测差异小于10%,可为开发者进入真机测试前的模型筛选与问题定位提供参考。
觅蜂科技提供“又全又好又快”的数据供给体系,覆盖真机、仿真与无本体三大数据范式。在仿真方面,觅蜂提供物体资产与环境资产两类资源,覆盖多种日常物品及室内场景,并提供场景重建、专家轨迹数据获取和评测结果可视化等能力,帮助模型团队开展多样化训练与评测。
Coliseum原指古罗马圆形竞技场,RoboColiseum以此为意象,构建多维度的系统评测体系,以与真机表现高度一致的仿真评测,给具身智能模型搭建一个公开、中立、可复现的“竞技场”和“训练场”。任何高校、研究机构或企业开发者,都可以把自己的模型提交上去,接受一套标准化“考试”。自8月上线以来,已有海内外100多支队伍在平台开展模型训练与评测。
RoboColiseum现已面向全球开发者开放,欢迎模型团队参与评测。
来源:投稿
本文图片来自:123RF 正版图库 侵权举报返回分享相关文章全部评论