Dynamo加速多模态模型服务
NVIDIA Dynamo 采用编码预填充解码解耦优化 多模态模型推理服务
English translation is being prepared.
匹配字段标题
NVIDIA Dynamo 采用编码预填充解码解耦优化 多模态模型推理服务
English translation is being prepared.
匹配字段标题
2026年9月9日,蚂蚁百灵发布并开源百灵系列首个原生多模态大模型Ling-3.0-flash-VL。该模型基于Ling-3.0-flash的MoE架构拓展,总参数124B、单次推理激活5.5B,原生支持图像、文本与视频输入,上下文窗口为256K Token。官方称,原生多模态联合训练使该模型在Artificial Analysis Intelligence Index v4.1.1上较纯文本版本提升4分,并引入观察、行动、验证、修正的视觉反馈闭环,用于前端复刻、GUI Agent和医疗报告解读。目前模型已在Ling Studio上线免费体验,BF16和FP8版本已在Hugging Face与ModelScope开源。
匹配字段标题
2026年9月9日,蚂蚁百灵发布并开源百灵系列首个原生多模态大模型Ling-3.0-flash-VL。该模型基于Ling-3.0-flash的MoE架构拓展,总参数124B、单次推理激活5.5B,原生支持图像、文本与视频输入,上下文窗口为256K Token。官方称,原生多模态联合训练使该模型在Artificial Analysis Intelligence Index v4.1.1上较纯文本版本提升4分,并引入观察、行动、验证、修正的视觉反馈闭环,用于前端复刻、GUI Agent和医疗报告解读。目前模型已在Ling Studio上线免费体验,BF16和FP8版本已在Hugging Face与ModelScope开源。
匹配字段标题
2026年9月4日,Philipp Schmid就Gemini 3.8的多模态任务表现发表评价,称其在真实世界中的实用性无可匹敌,并称赞@skalskip92的工作。目前该评价是这一故事中唯一明确记录的事件,尚无更多后续进展或不同说法。
匹配字段标题
2026年9月3日,H Company发布NeoMME多语言多模态编码器及检索模型。据Hugging Face介绍,NeoMME是一个包含260M和800M两种规模的多语言多模态编码器家族,使用单个双向Transformer同时处理文本token和原始图像patch,从零以掩码离散扩散目标训练,不依赖独立视觉塔或因果语言模型。微调后的NeoMME-Retriever用于视觉文档检索,两种规模均位于ViDoRe v3的nDCG@10与模型规模Pareto前沿;在NVIDIA L40S上,260M模型以2048×2048输入每秒编码约51页,约为ColModernVBERT吞吐的两倍。模型已在Hugging Face Transformers提供,检查点以Apache 2.0许可发布。目前尚无后续发展事实。
匹配字段标题
2026年8月21日,DeepSeek为API加入多模态支持,实验模型deepseek-v4-flash-vision-exp可接收文本与图像混合输入,并兼容Chat Completions、Messages和Responses接口。开发者可通过base64、外部URL或Files API提供图像,其中Files API支持图片上传及跨请求复用。每张图像最多按384 tokens计费,采用V4-Flash定价。当前材料未提供该能力转为正式模型或进一步扩展的进展。
匹配字段标题
2026年8月19日,NVIDIA介绍了基于FLARE构建联邦多模态AI工作流的方法:通过大对象外置、张量流式传输和磁盘支持的聚合,协调分布式站点训练视觉语言及统一多模态模型,降低数据传输与服务端聚合的内存压力。其FedUMM方案冻结BLIP3o主干,仅对LoRA适配器进行联邦训练,使每个客户端每轮通信量从28.6 GB降至0.094 GB,并在VQA v2和GenEval上保持约97%的集中式训练性能。相关实验基于模拟站点和公开基准,未证明正式隐私保证。
匹配字段标题
2026年7月20日,Black Forest Labs发布多模态基础模型FLUX 3并开启早期访问。该模型基于Self-Flow在统一架构中同时学习图像、视频和音频,可单次生成最长20秒带原生音频的视频,支持文生视频、图生视频、视频生视频、关键帧过渡和多语言对话等能力。官方称早期评测结果仍属初步,后续将陆续开放FLUX 3 Video、FLUX 3 Image的API与私有权重,以及FLUX 3 Dev的开源权重。2026年8月4日,Black Forest Labs宣布FLUX 3 Video的初版文生视频与图生视频能力即日起通过BFL API和部分合作方开放,可生成最长20秒的HD视频,支持Full HD放大输出与原生音频,并提供Draft Mode。官方称后续将推出FLUX 3 Image与开放权重版本FLUX 3 Dev。
匹配字段标题
2026年7月15日,Thinking Machines Lab发布原生多模态开放权重模型Inkling。据Hugging Face介绍,Inkling原生接收文本、图像和音频,为MoE架构,拥有975B总参数、41B激活参数和1M上下文窗口,bf16与NVFP4检查点分别需要2TB和600GB显存,已获Transformers、SGLang、vLLM和llama.cpp支持。同日,Modal官方工程博客称Inkling以Day 0合作上线Modal按token计费的托管端点,并为其定制DFlash推测解码器,在8x B200智能体负载上实现每用户250 tokens/s、每GPU 2.5M TPM,交互性比模型内置推测路径快67%。同日,LMSYS Blog称LMSYS与Thinking Machines团队合作,为Inkling在SGLang和Miles上提供Day-0支持,SGLang针对其MoE架构优化,在Nvidia Blackwell GPU上实现最高71.7k tok/s输入吞吐和171.0 tok/s单用户解码速度,Miles通过定制Megatron后端支持全参数与Lo
匹配字段标题
Philipp Schmid 评价 Gemini 3.8 多模态任务实用性
English translation is being prepared.
匹配字段标题
NVIDIA FLARE 协调并优化 分布式站点的联邦多模态模型训练
English translation is being prepared.
匹配字段标题
2026年7月31日,MiniMax 发布通用多模态生成模型 H3。据官方信息,H3 可理解由文本、图像、视频和音频组成的统一上下文,生成带原生立体声的视频,最长 15 秒、2K 分辨率。官方称 2K 下每秒价格不到主流模型的三分之一,768p 价格不到主流模型 720p 的一半,并计划在近日开放模型权重。H3 采用 Contextual Omni Representation、H3-VAE、H3-Omni Transformer 和 In-Context Regeneration 等技术,官方表示完整技术报告即将发布。目前尚无后续有证据支持的发展。
匹配字段标题
2026年5月20日,阿里 Qwen 团队发布面向智能体时代的专有模型 Qwen3.7-Max,可通过阿里云百炼(Model Studio)调用 API。官方称其在编码智能体、通用智能体与推理基准上取得领先或接近 Opus-4.6 Max 的成绩,支持 Claude Code、OpenClaw、Qwen Code 等框架,并展示了一次约 35 小时、1158 次工具调用的自主内核优化,相对 SGLang Triton 参考实现取得 10.0x 几何平均加速。2026年6月1日,Qwen 团队发布 Qwen3.7-Plus,一款把视觉与语言统一到单一智能体底座的多模态模型,已在阿里云百炼上线,可在同一智能体循环中混合执行 GUI 与 CLI 操作,支持屏幕读取、视觉参考写代码、移动应用端到端操作,并适配 Claude Code、OpenClaw、Qwen Code 等框架。官方基准显示其在 Terminal Bench 2.0-Terminus 得 70.3、ScreenSpot Pro 得 79.0、AndroidWorld 得 81.0,同时支持 preserve_thinking
匹配字段标题
2026年5月27日,Saining Xie 提出一项判断:pose 很可能是稳健视频多模态模型所需的最小充分 3D 信号,并强调它容易获取。他同时发布 cambrian 系列最新成果 cambrian-p,其中 p 代表 pose。据其表述,联合建模帧与 pose 能把图像序列转化为全局有根基的结构。目前该判断与成果均来自其本人发布,尚无其他独立来源的后续发展或验证。
匹配字段标题
2026年5月4日,Modal 发布工程博客称,其优化了 SGLang 调度器的多模态推理性能。Modal 在 H100 上对 Qwen2.5-VL-3B-Instruct 做多模态推理基准测试时,发现 SGLang 调度器在 hash_feature 中反复调用 torch.UntypedStorage._new_shared_cuda,造成主机端开销。他们用简单的 Python 字典实现 CUDA IPC Pool Handle Cache,避免重复打开共享内存句柄,使吞吐量提升 16%、延迟降低 10%。该改进已合并进 SGLang v0.5.10。目前没有后续发展事实。
匹配字段标题
MiniMax 发布 MiniMax H3 通用多模态生成模型
English translation is being prepared.
匹配字段标题
Black Forest Labs 发布 FLUX 3多模态基础模型
English translation is being prepared.
匹配字段标题
Qwen Team 发布 Qwen3.7-Plus 多模态智能体模型
English translation is being prepared.
匹配字段标题
Saining Xie 提出判断 pose 是稳健视频多模态模型所需的最小充分 3D 信号
English translation is being prepared.
匹配字段标题
Modal 优化 SGLang 调度器多模态推理性能
English translation is being prepared.
匹配字段标题