Ant Lingbo Open-Sources Tactile Foundation Model LingBot-Touch
English text is being prepared.
Ant Lingbo Technology has open-sourced the tactile foundation model LingBot-Touch, pretrained on nearly 5,000 hours of real tactile data, covering three types of sensing principles: magnetic tactile, visuotactile, and piezoresistive, and outputting unified tactile Tokens for use by different dexterous hands and action models. In 26 real-robot tests on two dexterous hands, Sharpa Wave and XHand1, after integration, the average task success rates of four action models—LingBot-VLA, π0.5, Diffusion Policy, and T-Rex—increased by approximately 14 to 26 percentage points compared with when no tactile sensing was used. The technical report, model, and code have been open-sourced on Hugging Face, GitHub, and the ModelScope community.
Why read this
AI score 72
The original text provides the range of success rate improvements for four action models across 26 real-robot tests, which can be used to assess the practical effect of tactile representations on fine manipulation.
Topics
Body
11月10日,蚂蚁灵波科技开源触觉基础模型LingBot-Touch,为机器人大脑补齐关键的触觉感知能力。该模型基于近5000小时真实触觉数据预训练,覆盖磁触觉、视触觉和压阻式三类主流传感原理,可将不同信号转化为同一套触觉表征,供不同灵巧手和动作模型使用,让机器人在“看得清楚、想得明白”的同时,进一步补齐精细操作所需的触觉感知。 在通用大模型加速演进的时点,选择推出一款面向物理操作闭环的触觉基础模型,传递出蚂蚁灵波对具身原生路线的持续投入和笃定。 此前,蚂蚁灵波通用大脑已覆盖高精度空间感知、高动态环境交互和可泛化灵巧操作,让机器人看得更清楚、想得更明白、干得更利索。此次 LingBot-Touch已接入LingBot-VLA,将感知能力延伸到“指尖”,让机器人“摸得更灵敏”,具身原生通用大脑能力再提升。 26项真机测试 任务成功率提高14至26个百分点 随着通用大模型持续进步,机器人理解复杂任务、推理操作步骤的能力正在增强。但在真实物理世界中,机器人每执行一步动作,都要感知物体和环境发生的变化,再修正下一步动作。许多精细操作中,机器人能看清物体在哪里,也能把手伸到正确的位置,却未必能顺利完成任务,因为手指碰到物体之后,受力是否合适、物体是否滑移,仅靠视觉难以判断,需要触觉提供补充。 以灵巧手拧瓶盖为例,深度信息可以帮助手指对准瓶盖。开始转动后,瓶盖可能已经松动,也可能指腹正沿着盖壁打滑。这两种情况在画面中相似,却需要不同的动作调整。此时,指尖的接触位置、受力大小及其变化,都成为动作模型的重要判断依据,而这些信息往往被手指和物体遮挡,视觉难以获得。 为了验证触觉表征对真实操作的帮助,蚂蚁灵波在Sharpa Wave和XHand1两款灵巧手上进行了26项真机测试,涵盖翻书页、拧瓶盖、辨识麻将牌等精细操作。接入LingBot-Touch后,LingBot-VLA、π0.5、Diffusion Policy和T-Rex四种动作模型的平均任务成功率较无触觉时提高约14至26个百分点。 以T-Rex控制Sharpa Wave拧瓶盖为例,不使用触觉时任务成功率为56.25%,直接输入传感器原始信号为62.5%,接入LingBot-Touch的触觉表征后成功率达到90%。 接入LingBot-Touch后,四种动作模型在两款灵巧手上的真机任务成功率均达到各自最高水平。 统一触觉表征,让机器人“手感”跨硬件复用 给机器人装上触觉传感器,并不等于它就能用好触觉。目前,商用触觉传感器整体仍处于较早的发展阶段,视触觉、磁触觉、压阻式等主流路线各有优势和局限,面向不同成本和使用场景,多种技术路线可能长期并存。 更棘手的是,这些传感器采集的数据很难直接通用。同样一次接触,在不同传感原理和触点布局下,会形成不同的原始信号。如果模型只学会解读其中一种,更换传感器或灵巧手后,已有的数据和触觉经验就可能难以复用,需要重新采集、训练和适配。在硬件快速迭代的当下,这种绑定造成重复开发,增加硬件厂商、整机团队和模型开发者之间的适配成本。 因此,触觉走向规模化落地的关键,是让触觉理解摆脱对特定传感器物理信号的依赖,使不同来源的数据能够共同用于训练,让积累的触觉能力可以跨传感器、跨灵巧手、跨模型和跨任务复用。 为此,LingBot-Touch按传感原理分别设置编码入口,先处理不同的原始信号,再将不同布局的触点映射到统一的指尖坐标空间,由共享模型学习接触位置、受力及其随时间的变化,输出统一的触觉Token。由此,人戴触觉手套和遥操作灵巧手采集的数据可以共同用于训练,不同动作模型也可以利用训练好的模型提取接触特征。这一架构还为未来接入新类型的触觉传感器留出了扩展空间。 LingBot-Touch将磁触觉、视触觉、压阻式触觉信号编码为统一的触觉Token,供不同动作模型使用。 在XHand1上,团队进一步验证了触觉能力的跨硬件复用。XHand1采用的磁触觉传感器型号并不在预训练数据中,模型学到的磁触觉经验全部来自人戴手套采集的数据。换到这只灵巧手后,团队保持LingBot-Touch参数不变,只用XHand的操作示范训练动作模型。 同时,LingBot-Touch在本次真机测试中接入了四种不同动作模型,并不绑定蚂蚁灵波自研模型。它提供的是位于触觉传感器和动作模型之间的通用感知能力,而非某一硬件或某一策略的专用模块。对产业而言,传感器和灵巧手厂商可以根据成本与任务需求选择硬件,整机团队也可以保留自己的动作策略,从而减少每更换一种硬件与算法组合,就重新开发触觉能力的重复投入。 为兼顾感知能力与端侧算力,蚂蚁灵波提供了两种容量的模型。此次26项真机测试全部使用约530万参数的轻量版LingBot-Touch-Tiny完成。接入LingBot-VLA、π0.5和T-Rex后,模型参数量仅增加约0.13%至0.16%。 容量较大的版本LingBot-Touch-Small则在感知测试中表现出进一步提升的潜力——当预训练数据增至近5000小时时,模型仍能从新增数据中获益,说明触觉预训练还有持续扩展提升的空间。 坚持具身原生,与通用大模型协同推进 针对近期具身大模型技术路线的演变,蚂蚁灵波CEO朱兴表示:“以GPT-6 Astra、Claude Fable 5.2为代表的数字世界大语言模型进展,确实让机器人的复杂任务推理和物理操作能力更强,这一点我们很关注,也在积极吸收。但产业一线的实践告诉我们,要真正跑通操作闭环,物理操作泛化性这块硬骨头还是绕不开,很大程度上仍要靠具身基础模型自身的突破。” 在他看来,通用大模型与具身基础模型更接近 1+1>2 的协同关系:前者增强对任务和环境的理解、推理,后者提升物理感知和闭环操作能力,两者各自突破、相互促进,共同加速具身智能产业的成熟。 "模态输入的质量很大程度上决定了动作输出的质量,换句话说没有好的输入就没有好的输出。"朱兴说,蚂蚁灵波将坚持具身原生路线,持续探索物理操作泛化性的新上限,打造跨构型的机器人行业通用大脑,推动视觉、深度、触觉乃至温度等更多物理模态在统一模型中对齐,并在推进商业化的同时持续向社区开源开放。 目前,LingBot-Touch的技术报告、模型和代码已开源,开发者可在Hugging Face、GitHub和魔搭社区访问和下载。