2025年10月7日,Liquid AI发布其首个端侧MoE模型LFM2-8B-A1B的早期检查点。该模型总参数8.3B,每token激活1.5B,质量接近3-4B稠密模型,速度超过Qwen3-1.7B。架构上共18个门控短卷积块和6个GQA块,除前两层外每层含MoE块,每块32个专家、每token激活top-4。基础版预训练约12T token,语料约55%英文、25%多语言、20%代码,MMLU-Pro比LFM2-2.6B提升11.46分。模型已上线Hugging Face,兼容llama.cpp、ExecuTorch和vLLM。
匹配字段标题
2025年9月25日,Liquid AI发布Liquid Nanos系列任务专用端侧基础模型,参数规模从350M到2.6B,占用内存100MB至2GB,可在手机、笔记本和嵌入式设备上本地运行。首批实验性模型包括LFM2-Extract、LFM2-350M-ENJP-MT、LFM2-1.2B-RAG、LFM2-1.2B-Tool、LFM2-350M-Math,以及社区开发的Luth-LFM2法语微调系列。官方称LFM2-1.2B-Extract在结构化抽取上优于参数量22.5倍的Gemma 3 27B,LFM2-350M-ENJP-MT的英日互译质量超过参数量10倍的通用模型。模型已在LEAP平台和Hugging Face上线,采用开放许可。
匹配字段标题
2025年7月10日,Liquid AI发布LFM2系列端侧基础模型,开源0.35B、0.7B、1.2B三个稠密权重,可在Liquid Playground、Hugging Face和OpenRouter试用。官方称该系列采用乘法门控与短卷积的混合架构,共16个模块,CPU上decode与prefill速度最高为Qwen3的2倍,训练效率较上一代提升3倍。模型在10T token上预训练,以LFM1-7B做知识蒸馏,上下文长度扩展至32k,并支持CPU、GPU和NPU部署。
匹配字段标题
2024年8月28日,Cartesia宣布端侧智能首个里程碑,发布开源库Edge、1.3B参数SSM语言模型Rene,以及支持低延迟实时流式生成的Sonic On-Device私有测试版。Rene采用Mamba-2混合架构,在多项基准上表现与同级SOTA小模型相当,Edge已支持Apple MLX和量化推理。
匹配字段标题
2026年10月10日,Apple 推出第三代 Apple Foundation Models(AFM),共五款模型,覆盖端侧与运行在 Private Cloud Compute 上的服务器模型。端侧包括 30 亿参数的 AFM 3 Core 和 200 亿参数、稀疏架构的 AFM 3 Core Advanced,后者每次仅激活 1 至 40 亿参数;服务器端包括 AFM 3 Cloud、图像模型 ADM 3 Cloud 和 AFM 3 Cloud Pro。评测显示,AFM 3 Core 在通用文本上获得 45.6% 的偏好率,AFM 3 Cloud 为 64.7%,AFM 3 Core Advanced 的语音合成 MOS 得分为 4.15。目前尚无后续发展事实。
匹配字段摘要
2026年10月6日,Google DeepMind发布开放权重多模态嵌入模型EmbeddingGemma 2,可将文本、图像、视频帧和音频映射到统一向量空间,参数量740M。据Google Developers Blog介绍,文本权重在Google Pixel 11 Pro上仅需约191MB活跃内存,完整多模态模型约567MB,无需训练数据或微调即可作为端侧决策引擎,实现毫秒级零样本意图路由;Google AI Edge Gallery新增Instant Media Search和Video Moments Finder演示,未来数周内该模型将通过ML Kit以服务形式登陆Android并支持NPU加速。据Google DeepMind介绍,该模型采用Apache 2.0许可,在MTEB Code上从68.76提升到78.68,支持8K token上下文窗口,权重已在Hugging Face和Kaggle开放下载。10月6日,Georgi Gerganov宣布llama.cpp对EmbeddingGemma 2提供Day-0支持;10月7日,Simon Willison表示赞赏其采用
匹配字段摘要
2026年8月21日,Liquid AI发布LFM2.5-DSpark推测解码草稿模型,面向LFM2.5-1.2B-Instruct、LFM2.5-2.6B和LFM2.5-8B-A1B三款模型。据Liquid AI模型与工程博客介绍,该草稿模型约300M参数,采用5层、block size 9的简化注意力结构,在GPU上吞吐最高提升3.18倍,端侧最高提升2.87倍,且不改变输出质量。权重已在Hugging Face提供Safetensors与GGUF格式,并开源集成到llama.cpp和SGLang。在BFCL多工具函数调用场景中,LFM2.5-2.6B延迟平均降低57%;LFM2.5-8B-A1B受llama.cpp Metal后端MoE实现影响,端侧仅提升18%。目前尚无后续发展事实。
匹配字段摘要
2026年8月12日,Google DeepMind 发布多语言手语转文本模型 SL2T,并应用于 Pixel 11 的 Gboard 和 Live Transcribe,首批支持美国手语(ASL)转英文。据官方介绍,该模型基于超过 50 种手语、逾 10 万小时数据训练,其中约四分之一为 ASL 数据,在 FLEURS-ASL(sd-test)上取得 70 BLEURT 的零样本成绩。为保护隐私,模型只接收 MediaPipe Holistic 在端侧提取的姿态关键点坐标,原始视频随即丢弃,并跳过 gloss 标注直接翻译为文本。8月13日,Demis Hassabis 在社交平台称 SL2T 首次让用户可以直接对着手机打手语,并提到其与聋人社区密切合作打造。目前该模型已落地上述两项功能,暂无进一步开发进展。
匹配字段摘要
2026年3月26日,Cohere发布开源权重的Conformer语音识别模型Cohere Transcribe,并开放下载。该模型可将14种语言的语音转为文本,在Hugging Face Open ASR Leaderboard上的平均词错误率为5.42%。模型支持本地或端侧运行,用户也可通过设有速率限制的免费API及Model Vault使用。
匹配字段摘要
2025年8月12日,Liquid AI 发布其首个视觉语言模型系列 LFM2-VL,包含 LFM2-VL-450M 和 LFM2-VL-1.6B 两个版本,面向低延迟与端侧部署,支持文本和可变分辨率图像输入。模型基于 LFM2 骨干,视觉塔采用 SigLIP2 NaFlex 编码器,原生分辨率最高 512×512,更大图像按 512×512 分块处理;官方称在 GPU 上推理速度最高可达同类模型的 2 倍。模型已兼容 Hugging Face transformers 和 TRL,训练使用约 1000 亿多模态 token。
匹配字段摘要
2025年3月11日,Cartesia发布语音生成模型Sonic 2.0。据Cartesia产品与研究当日发布的信息,Sonic 2.0基于新的状态空间模型架构,规模是前代两倍,全模型延迟90ms、turbo模式40ms,在100个保留声音的盲测中偏好度是次优提供商的1.5倍;同时推出Voice changer和Infill两个新端点,API提供99.9%可用性并支持实时本地与端侧部署。同日,Vapi宣布集成该模型,称其turbo模式延迟低至40ms,集成支持99.9%可用性、SOC-2与HIPAA合规以及本地和端侧部署,用户可在Vapi控制台的语音提供商下拉菜单中选择Cartesia Sonic 2.0。目前该模型已发布并获得第三方平台集成。
匹配字段摘要
Liquid AI 发布 LFM2-8B-A1B早期检查点
English translation is being prepared.
匹配字段标题
Liquid AI 发布 Liquid Nanos系列端侧任务专用模型
English translation is being prepared.
匹配字段标题
Liquid AI 发布 LFM2系列端侧基础模型
English translation is being prepared.
匹配字段标题
2024年7月28日,Zyphra发布面向端侧应用的2.7B小语言模型Zamba2-small,权重以Apache 2.0开源。据Zyphra Research介绍,该模型将Zamba-7B的Mamba1块替换为Mamba2块,并采用两个ABAB交错共享注意力块,对每个共享MLP块应用LoRA projector。相比Phi3-3.8B,其首token时间快2倍、内存开销降低27%、生成延迟低1.29倍,并保持3-4B稠密Transformer的质量而只需1-2B的推理算力与内存。目前该故事尚无后续发展事实。
匹配字段标题
Zyphra 发布 Zamba2-small
English translation is being prepared.
匹配字段标题
2026年10月29日,扩散智能发布扩散语言模型Clover-35B-A3B-Preview。据量子位报道,该模型采用MoE架构,总参数350亿、每token激活约30亿,支持思考模式;在网页Agent评测WindTunnel的49个任务中,其中位执行时间1.52秒,低于Jev+Mercury 2.5组合的3.21秒,成功率分别为98.6%和95.9%;代码评测上SWE-bench Verified得73.6、Terminal-Bench 2.1得51.7。团队称后续将推出多模态版本并推进端侧适配。10月30日,IT之家·人工智能报道称,人工智能实验室DiffuSpace发布Clover系列首个模型Clover-35B-A3B-Preview,采用MoE架构并以Apache许可开源,通过多轮迭代生成结果,DiffuSpace称其在多项基准测试中性能超过同规模自回归模型Qwen3.6-35B-A3B,并保持更快生成速度,尤其擅长智能体编程与工具使用任务。
匹配字段摘要
Nvidia于2026年10月15日宣布推出Nemotron 3.5 Super VL与面向端侧的3.5 Bolt模型。据Nvidia官方介绍,Super VL为120B参数开放模型,面向常驻智能体任务,官方称其在同类开放模型中吞吐最高,比次优模型快5倍;同时推出Bolt 74B-A9B 24GB与Bolt E4B 4GB两款端侧模型,前者可在RTX/DGX Spark本地运行智能体任务,后者面向GeForce RTX、Jetson上的语音与对话智能体。Super VL与Bolt 74B-A9B已上线Hugging Face,Bolt E4B计划于10月23日发布。同日,SGLang宣布为Super VL提供Day-0支持,在单张RTX 6000 PRO上借助MTP达到243.9 tok/s;Prime Intellect与Nvidia用GRPO在128张GB200 GPU上后训练约11小时,使其在AutomationBench-AA公开集上从34.0%提升到57.7%。当晚OpenRouter上线该模型,次日Perplexity宣布Pro和Max订阅用户及Agent API可使用。
匹配字段摘要
Apple 推出 由五款端侧及云端模型组成的第三代 Apple Foundation Models
English translation is being prepared.
匹配字段摘要
Liquid AI 发布 开放权重端侧多模态决策模型d1-3B与d1-omni-600M
English translation is being prepared.
匹配字段摘要