[[![![![ [![

Markov Robotics 创立时的信念是:机器人学面临的是智能问题,而非硬件问题。公司的长期目标是实现充裕的物理自动化,其理由是,要让人类扩展到地球之外,就需要能够从事真实物理工作的机器人。它的第一步是实现零样本通用灵巧性:用单一策略在任何机器人本体上执行任何任务。

]] ]]]][![![![ [![

为此,Markov 正在训练一个世界模型,并采用一种新方法来实现这一目标。他们的判断是,视频已经包含了机器人行动所需的绝大部分物理现实信息,而让模型以压力、本体感觉等高保真模态为条件,就能使策略对世界如何随时间变化形成详细的内部表征。

]] ]]]][![![![![![ ]]]]]][![![![ [![

不到十小时的机器人数据,就足以让 Markov 的模型执行多种复杂的操作任务,而在这一领域,同等水平的结果通常需要数千小时的数据采集。然而,要实现这一点,需要能够支撑复杂计算流水线的基础设施,从处理海量数据,到管理并行训练任务,再到提供低延迟推理服务。

]] ]]]][![![![![![
“我们几乎所有的计算都在 Modal 上运行,无论是预处理、训练模型还是部署模型。我们机器人流程的几乎每个阶段都跑在 Modal 上。”
Diego Caples,Markov Robotics 创始人
]]]]]][![![![ [

为训练准备数百 TB 数据

] ]]]][![![![ [![

在训练开始之前,Markov 需要摄取数百 TB 的视频,来源包括机器人回合数据、人类演示提供方以及团队自行采集的素材。所有这些都需要经过处理——切分视频、转换为世界模型所需的格式、让文本指令通过嵌入模型。

]] ]]]][![![![ [![

Markov 将每个步骤写成一个 Modal Function ,并用 .spawn_map将其分发出去,从而扩展到全球数千个 CPU 和 GPU 节点上的容器,在最繁重的阶段可同时使用多达 500 块 GPU。得益于按需计算并行处理的能力,原本在传统配置上可能需要一整天的工作,在 Modal 上只需二十到三十分钟即可完成。

]] ]]]][![![![![![
“用 Modal 就像写简单的本地脚本,但在后台,它正在数千个容器上编排预计算。”
Diego Caples,Markov Robotics 创始人
]]]]]][![![![ [![

借助 Modal,研究人员可以为每个函数选择合适的 GPU 或 CPU 资源,因此切分和格式转换等任务可以跑在 CPU 上,较小的模型跑在 A100 上,较重的预计算模型跑在 H100 上。这使成本与每个阶段实际所需的工作量保持成比例。此外,由于流水线中很大一部分受 I/O 限制,Markov 利用 Modal 的输入并发,在每个容器内重叠网络与计算,从而避免加速器在下载期间空转。

]] ]]]][![![![![![
“即使我自己搭建基础设施,也需要数周到一个月才能搞定,而且即便如此,也没有哪家供应商会给我 spot 容量,让我直接说:把这个函数跑在任意 GPU 上,我还得花更多时间精力去申请这种预留。”
Diego Caples,Markov Robotics 创始人
]]]]]][![![![ [![

这极大地加快了整个团队的迭代速度,因为他们不必等待预留资源可用,也不必等待之前的任务完成。

]] ]]]][![![![ [![

“世界上没有任何地方能让你瞬间获得 500 块 GPU 来处理你的全部数据,而 Modal 是唯一一家让我们只需写一个 Python 脚本,就能把它分发到计算资源上并行运行一切的供应商。”

]] ]]]][![![![ [

达到最高研究速度

] ]]]][![![![ [![

Markov 团队在任何时候都会运行 2 到 10 个训练任务。借助 Modal,基础设施不会拖慢他们的流程。

]] ]]]][![![![ [![

训练任务直接读取预处理步骤写入的同一批 Modal Volumes ,因此读取速度快,不会把时间浪费在不必要的数据搬运上。

]] ]]]][![![![ [![

实验默认具有可复现性。由于 Modal Function 在代码中声明其容器和依赖项,团队运行的每个实验都很容易复现,无需折腾 Docker 镜像,也无需追查难以察觉的漂移。现在,更改基础镜像或核心依赖只需一行 diff,就会在下次运行时生效。而在以前,这意味着构建镜像、推送镜像、想办法把源代码放到机器上,并在崩溃时手动重启。每个实验因此能省回 30 到 60 分钟。

]] ]]]][![![![![![
“Modal 把原本可能需要 30 分钟的流程变成零分钟的流程,因此我们可以多跑一个数量级的实验。没有 Modal,很难达到这样的研究速度。”
Diego Caples,Markov Robotics 创始人
]]]]]][![![![ [![

而且他们无需预先预留计算资源,这对 Markov 运行的突发性工作负载至关重要。一个实验意味着大量预处理和计算,然后是四到十小时的训练运行,之后再缩减到零。他们考察过的大多数 GPU 供应商都要求按月租用固定机器,而在 Modal 上,他们可以按需获取计算资源,并且 只在 需要时获取,得益于 Modal 的按秒计费。

]] ]]]][![![![ [

解锁远程推理

] ]]]][![![![ [![

虽然 Markov 的许多机器人自带 GPU 并在本地运行许多策略,但公司更大的世界模型需要远程运行,同时保持操作实时设备所需的低延迟。

]] ]]]][![![![ [![

为此,Markov 使用 Modal Tunnels 在机器人与固定在美国西部(us-west)的 GPU 之间建立直接通路,测得往返网络开销约为 20 毫秒。部署也是流水线中唯一有位置要求的阶段:预计算和训练可以在全球运行,而推理需要尽可能靠近机器人,并运行在性能稳定的硬件上。Modal 让这一切只需一行代码。

]] ]]]][![![![ [

以 Modal 的代码优先方式赋能智能体

] ]]]][![![![ [![

虽然端到端流水线的每一步看起来都不一样,但有一点是相同的:它们全都只是代码。无论是预计算步骤、训练运行,还是低延迟推理,在 Modal 上它都只是一个代码文件。这种结构对工程师有利,他们可以端到端地阅读整条流水线;对团队所依赖、用来快速推进工作的编码智能体也同样有利。

]] ]]]][![![![![![
“Modal 让我们以非常代码优先的方式构建一切,因此我们可以更高效地使用编码智能体。一切都只是一个代码文件,而不是这个平台做这个、那个平台做那个。智能体可以看到所有内容,并编写一个完全符合我们需求的脚本。”
Diego Caples,Markov Robotics 创始人
]]]]]][![![![ [![

这正是这样规模的团队能够同时运行十个实验的重要原因。工程师描述一个实验——预计算什么、基于什么训练、如何部署——然后由智能体编写文件。

]] ]]]][![![![ [

加速迈向通用灵巧性

] ]]]][![![![ [![

Markov 的赌注是:世界模型会从视频而非演示中学习物理规律,而它在此过程中获得的先验知识将替代大规模数据采集。

]] ]]]][![![![ [![

这个赌注正在得到回报。在专注于灵巧手之后,团队在夹爪上的早期实验几乎无需额外努力就奏效了。

]] ]]]][![![![ [![

他们能如此之快走到这一步,部分原因在于他们清楚地知道自己需要从计算中获得什么。准备数百 TB 的视频、同时运行十个实验,以及为机器人保持一个 20 毫秒的循环,是三个不同的问题,而 Markov 找到了一个平台,让他们能同时解决这三个问题。这让团队的注意力得以留在它该在的地方:弄清楚机器人需要看到什么才能行动。

]] ]]]][![![![ [![

随着团队扩大数据规模、训练运行规模和投入现场的机器人数量,流水线也随之扩展。

]] ]]]]]