2026年8月15日,Z.ai发布GLM-5.3模型。据Interconnects报道,该模型当时仅在编码套餐中提供,即将上线API,并计划两周后在Hugging Face开放权重;其与GLM-5.2同基座,仅大幅扩展后训练,参数量约750B,在多项智能体编码基准上超过Kimi K3,部分指标超过Claude Fable 5或GPT-5.6-Sol。此后,Unsloth于8月27日发布GLM-5.3-Flash的GGUF量化版本,称其3-bit量化需128GB内存,该模型为320B-A18B、MIT许可证、原生多模态并支持1M token上下文窗口,此前以Ox Alpha名义预览。8月28日,Unsloth又发布GLM-5.3的2-bit量化版及运行指南,称模型从1.51TB压缩到239GB,体积减少83%,精度保留约81%,可在256GB Mac或相应RAM/VRAM配置上运行。
匹配字段摘要
2026年8月26日至27日,阿里发布Qwen3.8-Flash-Next模型权重。据Qwen Blog,该模型为多模态MoE架构,主模型125B参数、额外51B N-gram嵌入参数,每token激活6B,训练成本约为Qwen3.7-Plus的1/9,原生支持262,144 tokens上下文并可通过YaRN扩展至1,000,000 tokens。该模型是Qwen4架构的早期预览,在注意力、残差、嵌入和优化四方面升级,采用GDN+QSA混合注意力、Gated Residual、N-gram Embedding与Muon优化器,权重已在Hugging Face和ModelScope开放;生产版本以qwen3.8-flash名称在QwenCloud提供服务,默认1M上下文并内置官方工具,定价为每百万输入tokens 0.15美元、每百万输出tokens 0.47美元。NVIDIA方面称,其提供SGLang、vLLM和TensorRT LLM的Day 0功能支持,并在GB300 NVL72上验证推理,单GPU吞吐超过16K token/秒、单用户超过200 token/秒;开发者可用NVI
匹配字段摘要
2026年8月26日,Unsloth发布Qwen3.8-Flash的GGUF量化版本,使这一125B MoE模型可在75GB内存的本地环境运行,并称其表现超过Claude-Opus-4.6(Max)。同时发布的Qwen3.8-Flash-Next支持CPU内存与统一内存方案,速度接近显存运行。Unsloth提供了使用指南和GGUF下载链接。被引用的Qwen官方介绍显示,Qwen3.8-Flash为多模态MoE,采用GDN加QSA混合注意力等新架构,每token激活6B参数,原生上下文262K,可经YaRN扩展至1M。
匹配字段摘要
2026年8月3日,Unsloth预告Qwen3.8-27B即将发布,并称其可在17GB RAM/VRAM配置上本地运行。8月14日,Unsloth发布该模型的Dynamic GGUF与NVFP4量化版本,宣布现已可通过Dynamic GGUF在本地运行,17GB内存即可跑起来,并附上GGUF下载链接与使用指南;其引用的Qwen官方推文介绍,Qwen3.8-27B是原生多模态稠密模型,27B参数下整体表现超过Qwen3.7-Plus,原生上下文262K,可通过YaRN扩展至1M tokens,采用Apache 2.0许可。9月12日,通义千问/Qwen宣布Qwen3.8-27B已在Cerebras上线运行。
匹配字段摘要
2026年8月10日,Meta发布Muse Glimmer 30B开放权重稠密模型,面向本地AI智能体工作负载。据Hugging Face介绍,该模型由2B视觉编码器和28B文本解码器组成,支持图像、无音频视频、多模态工具调用和目标检测,并获得Transformers、llama.cpp及vLLM支持。NVIDIA方面称其上下文窗口120K+,可完整放入单卡显存,覆盖GeForce RTX 5090、DGX Spark、DGX Station和Jetson平台,权重已上线Hugging Face。同日,LMSYS宣布与Meta Superintelligence Labs合作,为Muse Glimmer在SGLang上提供Day-0支持,并针对本地智能体工作流推理优化。8月13日,Unsloth宣布可免费微调该模型,其notebook同时支持GRPO RL训练。
匹配字段摘要
2026年7月16日,Moonshot AI(月之暗面)发布旗舰模型Kimi K3,这是一个2.8万亿参数的多模态模型,具备1M token上下文窗口和原生视觉能力,采用MoE架构,每token激活896个专家中的16个。据Recode China AI报道,K3在Frontend Code Arena获得1,679分,定价为每百万输入token 3美元、每百万输出token 15美元,开放权重计划于7月27日提供。7月27日,Kimi.ai宣布Modal与Baseten成为K3的Day 0发布合作伙伴,Modal为K3架构训练了定制DFlash推测器,将交互速度从100提升到460 tokens/s;同日SGLang与Miles宣布提供Day-0支持,前者负责推理、后者负责RL训练。7月28日,Kimi.ai宣布K3在DigitalOcean Serverless Inference上线。7月29日,Unsloth发布Kimi K3的1-bit量化版GGUF,体积从1.56TB压缩到594GB,缩减62%,精度保留约78.9%,可在配备128GB内存的Mac Studio上运行。
匹配字段摘要
2026年5月20日,Google在I/O开发者大会上宣布重新设计沿用25年的搜索框,将其从关键词输入框改为可接受文本、图片、PDF、视频和Chrome标签页的多模态对话入口,并立即在支持AI Mode的所有国家和地区上线。Google同时把AI Overviews与AI Mode合并为一条连续搜索流程,用户可在传统结果页直接追问,无需切换界面。新体验由Gemini 3.5 Flash驱动。Google称AI Mode上线一年月活已超10亿,AI Overviews月活超25亿。目前尚无后续有证据的发展。
匹配字段摘要
2026年3月18日,Mistral AI推出Forge,一套让企业基于自有专有知识构建前沿级AI模型的系统。据Mistral AI介绍,Forge支持预训练、后训练和强化学习等阶段,兼容dense与MoE两种架构,并可处理多模态输入,模型可在企业内部基础设施中训练和运行。Forge以智能体优先设计,Mistral Vibe等自主智能体可用它微调模型、寻找最优超参数、调度任务并生成合成数据。Mistral AI表示,已与ASML、DSO National Laboratories Singapore、Ericsson、欧洲空间局、HTX Singapore和Reply等机构合作,用其专有数据训练模型。目前尚无后续发展事实。
匹配字段摘要
2025年10月16日,vLLM宣布其TPU支持改由tpu-inference驱动,通过统一的JAX到XLA降低路径兼容PyTorch与JAX,无需修改模型代码时吞吐量提高约20%。新版默认采用SPMD,并引入RPA v3,支持任意模型规格、量化数据类型和张量并行;其在Trillium(v6e)上的吞吐量较RPA v2提高约10%。目前整体性能已接近2025年2月首个TPU原型的5倍,同时支持稠密模型、多模态输入、前缀缓存、分块预填充和结构化解码等能力。
匹配字段摘要
2025年4月5日,vLLM宣布从v0.8.3起支持Llama 4 Scout(17B-16E)和Maverick(17B-128E),可部署长上下文原生多模态推理。在8张H100上,Scout支持100万上下文,Maverick约为43万;配置相应参数后,每次请求最多可输入10张图像。A100已支持bf16版本,AMD MI300X可通过源码构建运行;Scout的单张H100 INT4量化版本仍在开发中。
匹配字段摘要
2025年1月27日,vLLM发布V1核心架构升级Alpha版,重构调度器、KV cache管理器、Worker、采样器和API服务器,吞吐量较V0最高提升至1.7倍。V1默认启用低开销前缀缓存,并增强多模态模型支持;用户可设置VLLM_USE_V1=1,在不修改现有API的情况下启用。目前该版本仅支持Ampere或更新的NVIDIA GPU,尚不支持LoRA、结构化解码、推测解码和流水线并行等功能。
2025年1月27日,vLLM发布V1核心架构升级Alpha版,重构调度器、KV cache管理器、Worker、采样器和API服务器,吞吐量较V0最高提升至1.7倍。V1默认启用低开销前缀缓存,并增强多模态模型支持;用户可设置VLLM USE V1=1,在不修改现有API的情况下启用。目前该版本仅支持Ampere或更新的NVIDIA GPU,尚不支持LoRA、结构化解码、推测解码和流水线并行等功能。
匹配字段摘要
Thinking Machines Lab 发布 Inkling多模态混合专家模型
English translation is being prepared.
匹配字段摘要
小米 MiMo 发布并开源终端编码助手 MiMo Code V0.1,采用 MIT 许可。据 2026 年 6 月 10 日的发布信息,该工具基于 OpenCode 构建,面向数十甚至上百步的长程自动化编程任务,围绕计算、记忆、进化三个主题设计:Max Mode 每轮并行采样 5 个候选方案并由模型评判择优,在 SWE-Bench Pro 上比单次采样提升 10–20%,代价是约 4–5 倍 token 消耗;Goal 机制在智能体尝试终止时用独立模型校验停止条件,死循环概率低于 0.5%;记忆层面通过检查点与重建让逻辑会话可无限延长,并维护会话、项目、全局、历史四层记忆。内部双盲 A/B 测试覆盖 576 名开发者、474 个私有仓库,产生 1213 组对比,执行步数超过 200 时 MiMo Code 胜率升至 65% 以上。6 月 11 日的发布信息称,该工具附带限时免费的 MiMo V2.5 多模态模型,支持百万 token 上下文窗口,提供无限上下文、Agent 与模型协同、Compose Mode、自进化系统以及基于 MiMo-V2.5-ASR 的语音输入,并兼容 Clau
匹配字段摘要
2025 年 7 月 30 日,Ollama 发布 macOS 和 Windows 版新应用,提供下载模型并直接对话的图形界面。据 Ollama Blog 介绍,新应用支持拖放文件,可对文本或 PDF 进行推理;处理大文档时可在设置中提高上下文长度,但会占用更多内存。应用还基于新的多模态引擎支持向 Gemma 3 等模型发送图片,并能处理代码文件。纯 CLI 版本仍可在 Ollama 的 GitHub releases 页面单独下载。目前尚无后续发展事实。
匹配字段摘要
Google 重新设计并升级 支持多模态输入且融合AI Overviews与AI Mode的搜索框
English translation is being prepared.
匹配字段摘要
2025年6月4日,OpenHands 发布 VersaBench 基准与 OpenHands Versa 智能体。据 OpenHands 官方博客,VersaBench 覆盖 5 大类共 10 项公开基准,Versa 智能体在其中 8 项上取得 SOTA,部分提升最高达 30 分。Versa 新增多模态文件读取、多模态网页浏览和信息检索三类工具,已在最新版 OpenHands 中默认启用,OpenHands 0.41 及以上版本可下载使用,相关论文与基准代码均已公开。目前尚无后续发展事实。
匹配字段摘要
天数智芯首次实机演示通用GPU天垓300和端侧算力终端TY1200，并预告标称算力600T的下一代端侧产品TY2000。天垓300有144GB显存，在64K长上下文下Attention性能为H200的1.05倍，GLM-5.3模型下MoE吞吐为H200的1.15倍；TY1200为300 TOPS INT8稠密算力，实测TPS超越英伟达Thor T5000。天垓300 IXL144超节点在单机柜集成144颗GPU、聚合约10.1TB显存，每百万有效Token成本较国际主流方案降低约40%。
参数对比，Thor-T5000为2P FP4稀疏算力，128GB的共享内存；TY1200为300 TOPS INT8稠密算力，存储是32GB系统内存+32GB HBM2e显存。 其选择了Qwen3.8-27B模型，首先向模型提问了“狮子和老虎单挑谁会打赢”。结果显示，TY1200的首词延迟更低、吞吐更高、输出时间更短。 根据天数智芯公开的数据，在大语言模型、多模态模型、世界模型等的实测中，TY1200的TPS（每秒词元数）均超越了T5000。宋远盈称，TY1200性能更优的原因在于显存带宽更高、计算核数量更多。 演示人员现场实测的下一个任务是文生视频。她让两款产品生成了猫咪打架并打碎了花瓶的视频。TY1200在6分10秒内生成了5秒视频。 其次是对保密要求更高的法务合规场景，演示人员现场演示了基于企业内部的规则进行法务合同审核。 最后是物理AI场景。其现场用端侧算力训练了双足鸭机器人MicroDuck，让MicroDuck在仿真环境里完成各项活动，包括前进、后退、转身、被推倒后站起等。 演示人员现场还让实体的MicroDuck自己走动，并在摔倒后站起来。 在具体的应用方面，其基于TY1
匹配字段正文
SGLang 团队联合 Google 和 Meta 开源 SGLang-TorchTPU，这是一个基于 PyTorch 的原生后端，把 SGLang 的完整服务栈带到 Google Cloud TPU，并已在 Meta 大规模生产环境使用。首发支持 Muse Spark Open、GLM-5.3、Kimi K3、DeepSeek V4、Qwen3.8、Gemma 4 等模型，覆盖投机解码、KV cache 卸载、PD 分离和 FP8 KV cache 等功能。团队还用 TorchTitan 与 Miles 在单台 4 芯片 TPU v7x 上完成 Qwen3-4B 的 GRPO 训练，奖励曲线与 6 张 H200 基线在随机波动范围内一致。
意力模型；KV 缓存卸载到主机内存；每晚在智能体工具调用工作负载上测试 交互式、低延迟使用 EAGLE-3、DFlash、DFlash2、DSPark 和 MTP 草稿模型的投机解码 高吞吐批处理带专家并行的数据并行注意力 长上下文FP8 KV 缓存；预填充和解码的上下文并行 分离式服务预填充和解码位于不同主机，并在不同张量并行规模之间进行 KV 重新分片 多模态支持图像输入的视觉语言模型：Qwen3-VL、Qwen3.5-VL、Kimi MoonViT 和 Gemma 4 vision 超大型模型跨主机的张量并行、专家并行和数据并行注意力；FP8、MXFP4 和 INT4 检查点；流水线并行和 NVFP4 MoE（实验性） 我们一直在努力将最流行的开源模型在发布时带到 TPU。一些最新模型仍处于实验阶段，我们正在对其进行全面测试并将其加入 CI。 模型类型 Muse Spark OpenLLM GLM-5.3 Flash、GLM-5.3LLM Kimi K3LLM DeepSeek V4LLM Ling 3.1 Flash、Ling 3.0 系列LLM Qwen3.8LLM Gemm
匹配字段正文
Viggle 发布 JST-2，将整套模型栈构建在 3D 空间，用携带 xyz 坐标、属性向量和动力学向量的 Physics-Native Token 表示世界，而非从视频像素中隐式推断物理规律。架构分为 JST encoder、JST generator 和 JST decoder 三部分，单次前向推理约 1 秒生成完整 3D 场景，成本低于 $0.01（B200），并支持最多 64 个输入视角作为空间上下文窗口。Viggle 公布的盲测人类偏好显示，角色生成对 Meshy 7.1 胜率 58.4%、对 Tripo H3.1 胜率 73.2%，视频生成运动对 DeepMotion 胜率 89.1%。JST-3 计划把学习到的动力学推广到物体交互。
.) 几乎都工作在像素/视频空间，模型从海量视频中隐式地“猜”出物理规律 @ViggleAI 最新发布的「JST-2」走了一条相反的路：整个技术栈直接构建在 3D 空间里 这一点是理解整篇发布的关键：物理结构不是从画面外观中推断的，是表示本身的一部分。架构上分三个组件：JST encoder（把图像编码为物理原生 token）、JST generator（从多模态 prompt 直接生成 token）、JST decoder（结合视角与运动/力输入，解码为图像或 3D 高斯泼溅）。 Viggle 花四年（JST-1 在 2022–2024，JST-2 在 2024–2026）自建了全栈：tokenization、架构、数据合成引擎、预训练和后训练。自建数据引擎很重要，因为 3D 原生的训练数据在自然界几乎不存在，必须靠合成获得，这既是壁垒，也是成本。 能力面：一条架构统一三件事 · 场景生成：单次前向推理约 1 秒生成完整 3D 场景，成本 <$0.01（B200），无需逐场景优化；支持最多 64 个输入视角作为“空间上下文窗口”，可持续扩展同一世界 · 角色生成：单张图片（允许裁切/
匹配字段正文
DeepSeek 发布 DeepSeek-V4.1-Flash-1017 版本，官方称其为性能与费用的帕累托改进，API 调用方式和价格不变，开发者仍用 deepseek-flash 访问。官方数据显示 DeepSWE v1.1 的 Pass@1 从 74.2 升到 77.0，Terminal-Bench 4.0 从 31.2 升到 42.3，但在 HLE 上只拿 42.6，低于 Claude Opus 5 的 56.3。新版通过基于自反馈的强化学习训练，强调从零构建完整项目，官方展示了故宫 3D 建模、网页赛车游戏等案例。
结构：语言模型→思维链→Agent→持续学习→自我迭代→具身智能。如今走向具身智能的脚步正在加速。 过去，大模型圈认为VLA难以通用，但9月GPT-6 Astra的横空出世让人看到，不懂具身也能做出泛化的具身模型。与此同时，Coding能力肉眼可见到顶，大模型公司需要新风口承接震撼，入局具身成了必然。 不过具身是软硬件耦合的苦活，大模型公司自身场景和数据有限，这也是DeepSeek为何先投“大脑、小脑、身体”，而非直接造整机的原因。 具身赛道烈火烹油，据媒体统计，仅今年上半年国内融资总额就超900亿元、是2025年同期的5倍；但下半年风向骤变，机构上会项目锐减，国家层面也提醒机器人产业“防止盲目跟风、一哄而上”。 DeepSeek在这个节点成为新的接盘方/整合者，加速行业向少数大脑+多数身体分层。不难看出，DeepSeek正在从数字世界向物理世界延伸。 早在其招聘动态中就显示出端倪，招聘多模态理解研究员的职位描述显示：AGI绝不会止步于文本，迈向AGI的关键一环，在于让模型拥有理解物理世界的能力。 今天的模型竞争还在跑分榜单和API价格战里，下一场竞争，就在产线上、在卧室里、在街头中。
匹配字段正文