Meituan LongCat Team Releases 1.6-Trillion-Parameter Natively Multimodal Model LongCat-2.5
English text is being prepared.
The Meituan LongCat team has released LongCat-2.5, a natively multimodal model designed for long-horizon agent tasks, with a total parameter count of 1.6 trillion and approximately 48 billion parameters activated per Token. On benchmarks published by Meituan such as AutomationBench and LongCatClawBench, LongCat-2.5 leads Claude-Opus-5 and GPT-5.6-Sol; on Terminal Bench v4.0 it scores 38.5, surpassing GPT-5.6-Sol but trailing Claude-Opus-5. The model converts visual signals into multi-level discrete Tokens and processes them uniformly with text, and it redesigns its parallelism strategy for domestic accelerators whose single-card memory is under 80GB, raising single-card throughput for long-sequence SFT by 86% over the DDP baseline.
Why read this
SelectedAI score 78
The original article presents the model's comparative results on multiple Agent benchmarks and details of training optimization on domestic accelerators, which can be used to assess the engineering approach for long-horizon agent models.
Topics
Body
美团发1.6万亿参数新模型，通用Agent测试超Opus-5，国产芯特别优化智东西下载客户端 独家抢先看2026年11月02日 18:34:36 来自北京
智东西11月2日报道，今日，美团LongCat团队发布面向长程智能体任务的原生多模态模型LongCat-2.5。
该模型总参数量为1.6万亿，每个Token激活约480亿参数，在LongCat-2.0的基础上，重点强化原生视觉理解与智能体编程能力。
在美团公布的自动化任务基准AutomationBench、通用Agent任务基准LongCatClawBench等几项基准测评中，LongCat-2.5均领先Claude-Opus-5、GPT-5.6-Sol等模型；在终端操作基准Terminal Bench v4.0上，LongCat-2.5的得分为38.5，超过GPT-5.6-Sol，但仍落后于Claude-Opus-5。
LongCat-2.5的长序列训练中引入更多长程轨迹数据，并通过大规模长程强化学习，提升模型在复杂代码库开发、完整项目构建等任务中的端到端工程能力。同时，LongCat-2.5将视觉信号转化为多层级离散Token，让视觉与文本输入由同一主干模型统一处理，进一步支持视觉编程（Visual Coding）、创意设计和3D内容生成。
面对国产加速器单卡不足80GB的显存限制，LongCat-2.5围绕超节点重排FSDP、EP、CP并行度，叠加混合词表并行、MoonEP动态专家复制和双重分片FSDP，把视觉编码移出训练计算图。LongCat称，经过上述优化，该FSDP配置在长序列SFT任务中的单卡吞吐量较DDP基线提升86%。
模型发布后，智东西也第一时间围绕视觉编程和办公任务展开实测。从实测体验上看，模型生成速度较快，在编程和视觉理解上有着不错的表现：前端视觉效果较好，PPT图表丰富，但画面细节、空间与图层关系仍有提升空间，PPT排版也可以进一步优化。
首先，我们让模型制作一段“鹈鹕骑自行车”的HTML动画，LongCat-2.5生成的动画完成度较高，主体突出，画面风格保持一致，细节也比较丰富。不过，鹈鹕的围巾稍微有些歪，画面细节有一定的提升空间。
后面，我们又让LongCat-2.5解读亚马逊第三季度财报，并生成一份带图表的 PPT。
LongCat-2.5搭建的分析框架比较完整，趋势图、结构图和风险提示的搭配也比较自然，模型还根据财报给出投资亮点和风险提示。经初步比对，我们没有发现数据错误。不过，LongCat-2.5生成的PPT部分页面信息密度偏高、部分文本字号偏小，个别结论下得略绝对，排版上还可以再优化调整。
一、动画自然可交互，任务场景覆盖软件开发与专业办公
LongCat官方团队也给出了几个案例，重点展示了模型在软件开发和专业办公等方面的能力。
在软件开发方面，模型可以生成实时流体模拟与视觉特效生成工具，构建出包含高帧率流体动画的交互式网页。鼠标在界面上点击或拖拽后，可形成墨水流动的动画。
LongCat-2.5也可以开发3D文物展示页面。模型结合WebGL渲染与前端交互技术，生成了三星堆青铜神树的3D模型，用户可以通过旋转、缩放、双击聚焦等方式从不同视角观看文物，展开文物信息面板。
在创意设计和3D场景生成方面，模型能够构建城市沙盘、微缩旋转木马场景和中国传统色彩主题网页，并完成从视觉风格提取、页面布局到交互实现的完整流程。
在办公场景中，LongCat-2.5可以整合多渠道经营数据，梳理数据口径并计算真实利润，进一步根据业务目标分析经营表现和投入产出，生成营销、供货、库存与预算配置建议。
模型还能够分析客户反馈，识别重复问题和后续更新事项，按照问题严重程度、紧迫性与业务目标进行排序，并生成支持点击查看原始反馈的交互式HTML报告。此外，用户还可以上传场地照片、输入自然语言需求，生成包含报名、名单查看和表格导出功能的活动邀请网页。
二、1.6万亿参数，视觉与文本统一为离散Token
LongCat-2.5采用原生多模态架构，将不同分辨率的图像编码为离散Token序列，再与文本Token一同输入主干模型。
在视觉编码环节，LongCat-2.5沿用了LongCat-Next的方法，由语义对齐编码器（SAE）生成原生分辨率特征，再通过残差向量量化RVQ将视觉信息压缩为多层级词表Token，以缓解视觉离散化过程中的信息损失。
模型还引入离线视觉Token预处理机制。固定tokenizer可以提前生成并缓存视觉TokenID，主干模型直接读取预处理后的序列，简化长序列打包与切分，并改善分布式训练时不同任务之间的负载均衡。
LongCat团队称，视觉码本Embedding与主干模型采用联合学习方式。在平均激活参数约30亿的较小规模MoE模型上，视觉与文本Embedding在t-SNE可视化结果中呈交织分布，说明两类信号已经开始在共享语义空间中融合。
三、GitHub PR自动生成可交互环境，长程Agentic RL提升端到端工程
LongCat-2.5围绕长程Agent任务搭建了完整的Agentic RL训练链路，覆盖数据、环境、算法和Harness等方面。
在数据层面，LongCat团队从GitHub公开仓库和内部真实场景中获取代码任务，针对筛选后的PR和关联issue，自动生成可交互环境与可验证测试用例，并通过fail-to-pass和pass-to-pass测试校验任务是否有效。
在RL训练过程中，模型的实时rollout轨迹和任务通过率会被用于二次数据标注与筛选。团队还基于假阴性、假阳性分析，持续修正和扩充F2P测试用例，提升测试对任务功能描述的覆盖率和验证信号的准确性。
针对长程任务中部分轨迹耗时过长的问题，LongCat-2.5采用partial rollout异步训练策略。每个RL step保持一定过采样率，批次凑齐后暂停未完成轨迹，并在下一轮采样时恢复。系统会根据任务通过率动态调整过采样率，同时过滤全对或全错的零梯度样本组，以保证训练过程中的有效梯度。
由于同一条轨迹中的Token可能来自不同历史checkpoint，训练还会面临样本陈旧性问题。为此，LongCat-2.5会裁剪采样阶段与当前训练阶段之间的Logprob差异，并根据历史累计差异调整每个Token的梯度贡献，降低陈旧样本造成的梯度偏置。
在奖励设计上，模型会通过断网、清除git历史和文件缓存等方式限制投机行为，并引入LLM judge监督完整轨迹。对于重复思考、重复调用工具等行为，系统会施加额外惩罚；对于过度思考和思考长度增长过快的问题，则通过重新分配正样本Reward进行抑制。
LongCat团队还采用跨任务、跨Scaffold的混合训练方式，使模型能够适应近似任务和不同Harness。相比冷启动阶段只覆盖少量适配用例，这种训练方式能够进一步提升模型在不同任务环境中的泛化能力。
四、专家组机制覆盖Agent、推理与交互能力
为了将不同领域能力融入主线模型，LongCat-2.5延续了LongCat-2.0的专家组机制，分别优化Agent能力、推理能力和交互体验，覆盖多轮任务执行、单轮推理、细粒度指令遵循以及安全防御等场景。
在MOPD训练中，学生模型会在不同领域任务中在线采样，领域专家则根据学生采样结果的全词表KL散度训练学生模型。
为降低教师轨迹与学生采样之间的分布偏移，LongCat-2.5进一步将教师每轮回复按固定长度切分为per-cut prefix，并将学生模型的自采样长度限制在相应范围内。训练时，同一教师轨迹的多个Prefix会被分组送入同一推理引擎，共享Prefill计算和KV Cache。
LongCat团队还以教师轨迹为树干、学生采样结果为分支构建训练树，结合Tree Attention，通过一次前向和反向计算完成同组样本的OPD训练，从而减少教师轨迹带来的重复计算与存储开销。
五、围绕超节点架构重新设计并行策略，单卡吞吐量较基线提升86%
LongCat-2.5在预训练和监督微调阶段均采用长序列训练。针对国产AI加速器单卡显存不足80GB的限制，训练系统围绕超节点架构重新设计并行策略。
LongCat-2.5根据超节点拓扑配置并行组，FSDP和EP并行度均与单个超节点的卡数保持一致，CP并行度不超过该卡数，使参数AllGather、专家TokenAlltoAll和KVAllGather尽可能在超节点内部的高带宽互联域中完成。
系统还通过混合词表并行，对基础词嵌入层、LMHead和N-gram嵌入层进行分片，进一步降低显存占用。针对大规模专家并行中的负载不均衡，LongCat-2.5基于MoonEP引入阈值触发的动态专家复制机制，仅在负载不均衡达到预设阈值时启用复制，以平衡通信成本与负载收益。
通过提前生成图像Token，训练计算图不再包含视觉编码器。系统可以根据已知的图像Token数量，提前估计数据打包和打散时的多模态负载比例，使不同数据并行Rank上的模态占比更加接近。
LongCat-2.5还引入双重分片FSDP。模型参数在超节点内的FSDP域中分片，FP32主权重和优化器状态则通过HSDP副本进一步跨FSDP域分片，在保持参数通信效率的同时减少常驻显存。系统通过批量执行梯度操作、合并指标归约、CPU 绑核和 NUMA 感知调度，降低主机侧开销。
LongCat称，经过上述优化，该FSDP配置在长序列SFT任务中的单卡吞吐量较DDP基线提升86%。
结语：原生多模态模型开始向长程工程执行推进
从LongCat-2.5的技术路线看，模型升级重点已经从单纯扩大参数规模，转向视觉统一建模、长程Agent训练、训推一致性和国产算力适配等系统工程。
尤其是在复杂代码库开发、3D页面生成和多轮工具调用等任务中，模型能否持续执行、验证结果并根据失败轨迹修正策略，将成为衡量Agent能力的重要指标。LongCat-2.5把原生视觉理解与长程Agent训练结合起来，也意味着多模态模型正在从“看懂内容”进一步走向“完成任务”。
“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”