Unsloth 宣布 Qwen3.8-27B 现已可通过其 Dynamic GGUF 在本地运行，17GB 内存即可跑起来，同时上传了 NVFP4 量化版本，并附上 GGUF 下载链接与使用指南。被引用的 Qwen 官方推文介绍，Qwen3.8-27B 是原生多模态稠密模型，27B 参数下整体表现超过 Qwen3.7-Plus，在真实编码与办公工作流中表现突出，原生上下文 262K，可通过 YaRN 扩展至 1M tokens，采用 Apache 2.0 许可；Qwen3.8-2.4T-A95B（Max 级）的开放权重也已发布。
匹配字段摘要
小米 MiMo 发布并开源终端编码助手 MiMo Code V0.1，采用 MIT 许可，附带限时免费的 MiMo V2.5 多模态模型，支持百万 token 上下文窗口。该工具提供无限上下文、Agent 与模型协同、Compose Mode、自进化系统以及基于 MiMo-V2.5-ASR 的语音输入，并兼容 Claude Code，可自动加载已有的 skills、MCP 服务器和命令并复用 API 配置。Mac 与 Linux 可用一行 curl 命令安装，Windows 通过 npm install -g @mimo-ai/cli 安装，同时支持 Anthropic、OpenAI、DeepSeek、Kimi、GLM 等模型提供方。
匹配字段摘要
Together AI 已上线 NVIDIA Nemotron 3 Nano Omni，为开发者提供托管式生产级多模态推理服务。该开放模型采用混合 Transformer-Mamba MoE 架构，总参数量为 30B、每个 Token 激活约 3B 参数，并支持最高 256K Token 的共享多模态上下文。开发者可通过 API 部署，也可在云端、本地或隔离环境中自行部署。
Together AI 已上线 NVIDIA Nemotron 3 Nano Omni，为开发者提供托管式生产级多模态推理服务。该开放模型采用混合 Transformer-Mamba MoE 架构，总参数量为 30B、每个 Token 激活约 3B 参数，并支持最高 256K Token 的共享多模态上下文。开发者可通过 API 部署，也可在云端、本地或隔离环境中自行部署。 · Together AI has made NVIDIA Nemotron 3 Nano Omni available to developers as a managed, production-grade multimodal inference service. The open model uses a hybrid Transformer-Mamba MoE architecture with 30B total parameters, activates about 3B parameters per token, and supports up to 256K tokens of shared mu
匹配字段摘要
Mistral AI 推出 Forge，一套让企业基于自有专有知识构建前沿级 AI 模型的系统，支持预训练、后训练和强化学习等阶段。Forge 支持 dense 与 MoE 两种架构，并可处理多模态输入，模型可在企业内部基础设施中训练和运行。Mistral AI 已与 ASML、DSO National Laboratories Singapore、Ericsson、欧洲空间局、HTX Singapore 和 Reply 等机构合作，用其专有数据训练模型。Forge 以智能体优先设计，Mistral Vibe 等自主智能体可用它微调模型、寻找最优超参数、调度任务并生成合成数据。
匹配字段摘要
Modal 宣布为 Mistral 3 提供 Day 0 支持，开发者可在其无服务器基础设施上部署并自动扩缩容这些模型。Modal 的 GPU 内存快照功能在 Ministral 3 3B 上把中位冷启动时间从约 118 秒降到约 12 秒，接近 10 倍提升，使用需为 vLLM 服务器启用 Sleep Mode 并设置 enable_gpu_snapshot。Mistral 3 是 Mistral 新推出的开源多模态模型家族，Ministral 3 提供 3B、8B、14B 三种规模。
Modal 宣布为 Mistral 3 提供 Day 0 支持，开发者可在其无服务器基础设施上部署并自动扩缩容这些模型。Modal 的 GPU 内存快照功能在 Ministral 3 3B 上把中位冷启动时间从约 118 秒降到约 12 秒，接近 10 倍提升，使用需为 vLLM 服务器启用 Sleep Mode 并设置 enable gpu snapshot。Mistral 3 是 Mistral 新推出的开源多模态模型家族，Ministral 3 提供 3B、8B、14B 三种规模。
匹配字段摘要
vLLM TPU 现由 tpu-inference 驱动，通过统一的 JAX→XLA 降低路径支持 PyTorch 和 JAX，并在无需修改模型代码时将吞吐量提高约 20%。新版默认采用 SPMD，引入支持任意模型规格、量化 dtype 和张量并行的 RPA v3，其在 Trillium（v6e）上的吞吐量较 RPA v2 提高约 10%。当前整体性能已接近 2025 年 2 月首个 TPU 原型的 5x，并支持稠密模型、多模态输入、前缀缓存、分块预填充和结构化解码等能力。
匹配字段摘要
Ollama 的新应用已在 macOS 和 Windows 上线，提供下载模型并直接对话的图形界面。新应用支持拖放文件，可对文本或 PDF 进行推理，处理大文档时可在设置中提高上下文长度，但会占用更多内存。应用还基于新的多模态引擎支持向 Gemma 3 等模型发送图片，并能处理代码文件；纯 CLI 版本仍可在 Ollama 的 GitHub releases 页面单独下载。
匹配字段摘要
OpenHands 发布 VersaBench 基准和 OpenHands Versa 智能体，前者覆盖 5 大类共 10 项公开基准，后者在 8 项上取得 SOTA，部分提升最高达 30 分。Versa 新增多模态文件读取、多模态网页浏览和信息检索三类工具，已在最新版 OpenHands 中默认启用，OpenHands 0.41 及以上版本可下载使用，相关论文与基准代码均已公开。
匹配字段摘要
vLLM v0.8.3 开始支持 Llama 4 Scout（17B-16E）和 Maverick（17B-128E），可部署长上下文原生多模态推理。在 8xH100 上，Scout 可提供 1M 上下文，Maverick 约为 430K；设置 `--limit-mm-per-prompt image=10` 后，每次请求最多可输入 10 张图像。A100 已支持 bf16 版本，AMD MI300X 可通过源码构建运行，Scout 的单 H100 INT4 量化版本仍在开发中。
vLLM v0.8.3 开始支持 Llama 4 Scout（17B-16E）和 Maverick（17B-128E），可部署长上下文原生多模态推理。在 8xH100 上，Scout 可提供 1M 上下文，Maverick 约为 430K；设置 --limit-mm-per-prompt image=10 后，每次请求最多可输入 10 张图像。A100 已支持 bf16 版本，AMD MI300X 可通过源码构建运行，Scout 的单 H100 INT4 量化版本仍在开发中。
匹配字段摘要
vLLM 发布 V1 Alpha，通过重构调度器、KV cache 管理器、Worker、采样器和 API 服务器，将吞吐量较 V0 提升至多 1.7x。V1 默认启用低开销前缀缓存，增强多模态模型支持，并可通过设置 `VLLM_USE_V1=1` 在不修改现有 API 的情况下启用。当前版本仅支持 Ampere 或更新的 NVIDIA GPU，尚不支持 LoRA、结构化解码、推测解码和流水线并行等功能。
vLLM 发布 V1 Alpha，通过重构调度器、KV cache 管理器、Worker、采样器和 API 服务器，将吞吐量较 V0 提升至多 1.7x。V1 默认启用低开销前缀缓存，增强多模态模型支持，并可通过设置 VLLM USE V1=1 在不修改现有 API 的情况下启用。当前版本仅支持 Ampere 或更新的 NVIDIA GPU，尚不支持 LoRA、结构化解码、推测解码和流水线并行等功能。
匹配字段摘要
Rohan Paul 于2026年10月29日转述称,Sunra 发布 Sunra API,用户通过一个密钥即可调用各主流图像、视频、音频和 3D 模型,并按各模型厂商自己的 API 价格计费,采用按量付费,没有订阅费,也不加价。Rohan Paul 还称,Seedance 2.5 在 Sunra 上的价格是另外两家网关的一半,这种统一入口也便于对 Google、OpenAI、ByteDance 和 Kling 的模型做 A/B 测试。目前该说法仅见于 Rohan Paul 的转述,尚无 Sunra 官方或其他来源的独立证据。
匹配字段标题
Rohan Paul 于2026年10月29日转述称,Sunra 发布 Sunra API,用户通过一个密钥即可调用各主流图像、视频、音频和 3D 模型,并按各模型厂商自己的 API 价格计费,采用按量付费,没有订阅费,也不加价。Rohan Paul 还称,Seedance 2.5 在 Sunra 上的价格是另外两家网关的一半,这种统一入口也便于对 Google、OpenAI、ByteDance 和 Kling 的模型做 A/B 测试。目前该说法仅见于 Rohan Paul 的转述,尚无 Sunra 官方或其他来源的独立证据。
匹配字段标题
Cloudflare 的 27B 多模态决策模型 Clef 已在 Ollama 上线,用户可在本地或 Ollama 云端运行。据 Ollama Blog 2026 年 10 月 19 日发布的信息,Clef 由 Qwen3.8-27B 微调而来,采用 Apache 2.0 许可,支持文本与图像输入,兼容 Jev 和 System One API,可一次读取输入并同时为所有问题打分。官方称其在 Cloudflare Decision Index 上居首,并在多数基准上超过 Jev。目前该模型已可通过 Ollama 使用,尚无后续发展事实。
匹配字段标题
Clef 上线 Ollama平台
English translation is being prepared.
匹配字段标题
2026年10月14日,InternLM 发布 Intern-Decision 多模态决策模型仓库。据同一来源的报道,该模型将状态、可选图像和多个带类型的问题转化为带概率的决策,支持 choice、score 和 noul(是/否)三类问题;训练时微调 Qwen3.5 的语言主干,并冻结视觉塔和投影器。Intern-Decision-4B 在七套基准上平均准确率 90.02%,在 RTX 4090 上本地平均请求延迟 44.16 ms,在 96 例校准基准上 Brier 为 0.550、ECE 为 0.089。该版本包含训练、两种推理后端、基准评分、温度校准和浏览器 demo,但训练数据、校准与验证记录、图像及模型权重未包含在内。目前尚无后续有证据的发展。
匹配字段标题
InternLM 发布 Intern-Decision 多模态决策模型仓库
English translation is being prepared.
匹配字段标题
2026年8月21日,DeepSeek为API加入多模态支持,实验模型deepseek-v4-flash-vision-exp可接收文本与图像混合输入,并兼容Chat Completions、Messages和Responses接口。开发者可通过base64、外部URL或Files API提供图像,其中Files API支持图片上传及跨请求复用。每张图像最多按384 tokens计费,采用V4-Flash定价。当前材料未提供该能力转为正式模型或进一步扩展的进展。
匹配字段标题
2026年7月20日,Black Forest Labs发布多模态基础模型FLUX 3并开启早期访问。该模型基于Self-Flow在统一架构中同时学习图像、视频和音频,可单次生成最长20秒带原生音频的视频,支持文生视频、图生视频、视频生视频、关键帧过渡和多语言对话等能力。官方称早期评测结果仍属初步,后续将陆续开放FLUX 3 Video、FLUX 3 Image的API与私有权重,以及FLUX 3 Dev的开源权重。2026年8月4日,Black Forest Labs宣布FLUX 3 Video的初版文生视频与图生视频能力即日起通过BFL API和部分合作方开放,可生成最长20秒的HD视频,支持Full HD放大输出与原生音频,并提供Draft Mode。官方称后续将推出FLUX 3 Image与开放权重版本FLUX 3 Dev。
匹配字段标题
2026年7月15日,Thinking Machines Lab发布原生多模态开放权重模型Inkling。据Hugging Face介绍,Inkling原生接收文本、图像和音频,为MoE架构,拥有975B总参数、41B激活参数和1M上下文窗口,bf16与NVFP4检查点分别需要2TB和600GB显存,已获Transformers、SGLang、vLLM和llama.cpp支持。同日,Modal官方工程博客称Inkling以Day 0合作上线Modal按token计费的托管端点,并为其定制DFlash推测解码器,在8x B200智能体负载上实现每用户250 tokens/s、每GPU 2.5M TPM,交互性比模型内置推测路径快67%。同日,LMSYS Blog称LMSYS与Thinking Machines团队合作,为Inkling在SGLang和Miles上提供Day-0支持,SGLang针对其MoE架构优化,在Nvidia Blackwell GPU上实现最高71.7k tok/s输入吞吐和171.0 tok/s单用户解码速度,Miles通过定制Megatron后端支持全参数与Lo
匹配字段标题
2025年9月5日,vLLM宣布新增IO Processor插件框架,使非文本模型能在同一服务实例内完成输入预处理和输出后处理,并已接入TerraTorch地理空间模型。该插件当时用于pooling模型,每个vLLM实例可加载一个插件。Prithvi示例能够接收卫星图像URL,返回以base64编码的GeoTIFF洪水区域预测图。相关改动尚未进入当时最新的v0.10.1.1版本,复现实例需安装最新代码。
匹配字段标题