←搜索结果

按匹配度 · 共 350 条结果 清除搜索

星期二

  1. Liquid AI 模型与工程博客精选

    Liquid AI 发布 LFM2.5-2.6B 端侧智能体模型

    Liquid AI 发布 LFM2.5-2.6B,一款完全在设备端运行的智能体模型,基础版与后训练版已在 Hugging Face 上线。该模型为 2.6B 参数、预训练约 34T tokens,词表扩展至 128K 并包含 128K 上下文扩展阶段,后训练经 SFT、教师专精、MOPD 蒸馏与 Agentic RL 四阶段。推理方面在 M5 Max 上解码 220 tokens/s、Ryzen AI Max+ 395 上 113 tokens/s,占用低于 2.5 GB,手机端保持 30 tokens/s,并首日支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。

    匹配字段标题

星期一

  1. LG AI Research 官方博客

    LG U+ ixi-O 端侧智能体:基于 EXAONE 4.0 1.2B 的 AI 通话分析

    LG AI Research 与 LG U+ 将 EXAONE 4.0 1.2B 轻量模型部署到 AI 助手 ixi-O 端侧,把原本跑在云端大语言模型上的 AI 通话分析迁移到设备本地,并让 AI 代接电话从固定话术升级为理解来电意图的对话式应答。该模型支持最长 65K 上下文,可处理 STT 通话脚本,并支持韩语、英语、西班牙语等多语言输入。

    匹配字段标题、摘要

星期四

  1. Liquid AI 模型与工程博客

    Liquid AI 发布 LFM2.5-230M 端侧小模型

    Liquid AI 发布目前最小的模型 LFM2.5-230M,基于 LFM2 架构,预训练 19T tokens 并含 32K 上下文扩展阶段,Base 与后训练版本已在 Hugging Face 开放。官方称其在 Galaxy S25 Ultra 上解码速度 213 tok/s、Raspberry Pi 5 上 42 tok/s,并在 GPQA Diamond、MMLU-Pro、IFEval、BFCLv3/v4 等十项基准上与参数量两倍以上的模型竞争。该模型已适配 llama.cpp、MLX、vLLM、SGLang 和 ONNX,官方同时提示不适合高级数学、代码生成和创意写作等重推理任务。

    匹配字段标题

星期四

  1. Liquid AI 模型与工程博客精选

    Liquid AI 发布端侧 MoE 模型 LFM2.5-8B-A1B

    Liquid AI 发布端侧 MoE 模型 LFM2.5-8B-A1B,面向消费级硬件上的工具调用,上下文窗口从 32,768 扩展到 128,000 tokens,预训练规模从 12T 提升到 38T tokens,词表从 65,536 扩至 128,000。该模型为纯推理模型,在 M5 Max 上解码 253 tokens/s、Ryzen AI Max+ 395 上 146 tokens/s,占用低于 6 GB,单张 H100 高并发下输出吞吐达 18.5K tokens/s。基础版与后训练版已在 Hugging Face 和 Playground 上线,首日支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。

    匹配字段标题、摘要

星期三

  1. Liquid AI 模型与工程博客

    Liquid AI 发布 LFM2.5-VL-450M 端侧视觉语言模型

    Liquid AI 发布 LFM2.5-VL-450M,这是 LFM2-VL-450M 的改进版,新增目标检测与边界框定位、函数调用支持,并提升指令遵循能力。预训练规模从 10T 扩到 28T tokens,后训练用偏好优化和强化学习改进 grounding 与可靠性,支持八种语言提示。模型已在 Hugging Face、LEAP 和 Playground 上线,在 Jetson Orin 上处理 512×512 图像耗时低于 250ms。

    匹配字段标题

星期六

  1. Sarvam AI Blog

    Sarvam AI 发布 Sarvam Edge 端侧模型系列

    Sarvam AI 发布 Sarvam Edge,面向设备端推理推出语音识别、语音合成和多语言翻译模型。语音识别为 74M 参数的统一多语言模型,支持 10 种印度语言,端侧体积约 294MB(FP16),在 Snapdragon 8 Gen 3 上首 token 延迟低于 300 毫秒;语音合成 24M 参数、约 60MB,支持 10 种语言和 8 个多语言音色,首音频延迟 260 毫秒;翻译模型约 150M 参数、约 334MB,覆盖 11 种语言共 110 个语言对,首 token 约 200 毫秒。官方称该系列与全球设备厂商合作开发,推理完全在本地完成,无按次云端成本。

    Announcing Sarvam Edge

    匹配字段标题、摘要

星期二

  1. Liquid AI 模型与工程博客精选

    Liquid AI 发布 LFM2.5-1.2B-Thinking 端侧推理模型,内存占用低于 1GB

    Liquid AI 发布 LFM2.5-1.2B-Thinking,一款完全在设备端运行的推理模型,在手机上内存占用低于 900 MB,已在 Hugging Face、LEAP 和 Playground 上线。该模型为 1.2B 参数,相比 LFM2.5-1.2B-Instruct 在 MATH-500 上从 63 提升到 88、Multi-IF 从 61 提升到 69、BFCLv3 从 49 提升到 57,并在多数推理基准上匹配或超过参数量多 40% 的 Qwen3-1.7B。训练上采用课程式 RL 与模型合并,通过偏好对齐和 n-gram 重复惩罚把 doom loop 比例从 15.74% 降到 0.36%,并获 Qualcomm、Ollama、FastFlowLM、Cactus Compute 等新发布伙伴支持。

    匹配字段标题

星期三

  1. Liquid AI 模型与工程博客

    Liquid AI 与 AMD 推出端侧会议摘要模型 LFM2-2.6B-Transcript

    Liquid AI 与 AMD 在 CES 上展示 LFM2-2.6B-Transcript,一款完全在 AMD Ryzen AI 平台本地运行的会议摘要模型。该模型可在 2.7GB 内存中处理 10K token(约 60 分钟会议记录),16 秒生成 1K token 摘要,基准测试中短文本表现超过 gpt-oss-20b 并接近 Qwen3-30B 和 Claude Sonnet,长文本仍优于 gpt-oss-20b。用户可通过 Liquid AI Cookbook 中的命令行工具直接体验,无需 API key 或云服务。

    匹配字段标题

星期一

  1. Liquid AI 模型与工程博客精选

    Liquid AI 发布 LFM2.5 端侧模型家族,含 1.2B 文本、VL 与 Audio 变体

    Liquid AI 发布 LFM2.5-1.2B 模型家族,预训练规模从 10T 扩展到 28T token,并扩大强化学习后训练流程,包含 Base、Instruct、日语、视觉语言和音频语言模型。其中 LFM2.5-Audio-1.5B 采用新的 LFM 音频解分词器,在移动 CPU 上比 LFM2 的 Mimi 解分词器快 8 倍,并以 INT4 量化感知训练。所有模型均为开放权重,已在 Hugging Face 和 LEAP 上线,并获 llama.cpp、MLX、vLLM、ONNX 首日支持,AMD 与 Nexa AI 提供 NPU 优化版本。

    匹配字段标题

星期二

  1. Liquid AI 模型与工程博客精选

    Liquid AI 发布端侧 MoE 模型 LFM2-8B-A1B

    Liquid AI 发布首个端侧 MoE 模型 LFM2-8B-A1B 的早期 checkpoint,总参数 8.3B、每 token 激活 1.5B,质量接近 3-4B 稠密模型,速度超过 Qwen3-1.7B。模型共 18 个门控短卷积块和 6 个 GQA 块,除前两层外每层含 MoE 块,每块 32 个专家、每 token 激活 top-4。基础版预训练约 12T token,语料约 55% 英文、25% 多语言、20% 代码,MMLU-Pro 比 LFM2-2.6B 提升 11.46 分,现已上线 Hugging Face,兼容 llama.cpp、ExecuTorch 和 vLLM。

    匹配字段标题、摘要

星期四

  1. Liquid AI 模型与工程博客精选

    Liquid AI 发布 Liquid Nanos 端侧模型系列,参数 350M 至 2.6B

    Liquid AI 发布 Liquid Nanos 系列任务专用端侧基础模型,参数规模 350M 至 2.6B,占用 100MB 至 2GB 内存,可在手机、笔记本和嵌入式设备上本地运行。首批实验性模型包括 LFM2-Extract、LFM2-350M-ENJP-MT、LFM2-1.2B-RAG、LFM2-1.2B-Tool、LFM2-350M-Math,以及社区开发的 Luth-LFM2 法语微调系列。官方称 LFM2-1.2B-Extract 在结构化抽取上优于 22.5 倍参数量的 Gemma 3 27B,LFM2-350M-ENJP-MT 的英日互译质量超过 10 倍参数量的通用模型。模型已在 LEAP 平台和 Hugging Face 上线,采用开放许可。

    匹配字段标题、摘要

星期二

  1. Liquid AI 模型与工程博客

    Liquid AI 发布端侧 AI 开发平台 LEAP 与 iOS 应用 Liquid Apollo

    Liquid AI 发布面向端侧 AI 的开发者平台 LEAP,以及用于在手机上体验小语言模型的 iOS 应用 Liquid Apollo。LEAP 提供 Android 和 iOS 跨平台 Edge SDK,开发者用几行代码即可在移动应用中部署小语言模型,模型体积最小 300MB,可在 4GB 及以上内存设备运行,并支持 LFM2 等模型。Liquid Apollo 已原生支持全部 LEAP 模型,可在完全本地、保护隐私的界面中体验包括新一代 LFM2 在内的模型库。

    匹配字段标题、摘要

星期四

  1. Liquid AI 模型与工程博客精选

    Liquid AI 发布 LFM2 系列端侧基础模型

    Liquid AI 发布 LFM2 系列端侧基础模型,开源 0.35B、0.7B、1.2B 三个稠密权重,可在 Liquid Playground、Hugging Face 和 OpenRouter 试用。官方称其采用乘法门控与短卷积的混合架构,共 16 个模块,CPU 上 decode 与 prefill 速度最高为 Qwen3 的 2 倍,训练效率较上一代提升 3 倍。模型在 10T token 上预训练,以 LFM1-7B 做知识蒸馏,上下文长度扩展至 32k,并支持 CPU、GPU 和 NPU 部署。

    匹配字段标题、摘要

星期三

  1. Ollama Blog精选

    Ollama 上线 Llama 3.2 的 1B 与 3B 端侧模型

    Meta 的 Llama 3.2 现已可通过 Ollama 运行,其中 1B 和 3B 为纯文本模型,针对手机或边缘设备本地运行做了优化,可用于构建高度个性化的端侧智能体,例如总结 WhatsApp 最近十条消息或下月日程。Ollama 表示处理在本地完成,数据不发送给第三方或云服务,提示与响应接近即时。11B 和 90B 视觉模型即将推出,支持图表等文档级理解和图像描述。

    A picture of Ollamas acting out what small and multimodal looks like. We hope you enjoy the new llama 3.2 models from Meta!

    匹配字段标题、摘要

星期三

  1. Cartesia 产品与研究

    Cartesia 发布端侧智能更新:开源 Edge 库、1.3B 模型 Rene 与 Sonic On-Device

    Cartesia 宣布端侧智能首个里程碑,发布开源库 Edge、1.3B 参数 SSM 语言模型 Rene,以及支持低延迟实时流式生成的 Sonic On-Device 私有测试版。Rene 采用 Mamba-2 混合架构,在多项基准上表现与同级 SOTA 小模型相当,Edge 已支持 Apple MLX 和量化推理。

    The on-device intelligence update

    匹配字段标题、摘要

星期日

  1. Zyphra Research

    Zyphra 发布 2.7B 端侧模型 Zamba2-small

    Zyphra 发布 Zamba2-small,一个面向端侧应用的 2.7B 小语言模型,权重以 Apache 2.0 开源。该模型将 Zamba-7B 的 Mamba1 块替换为 Mamba2 块,并采用两个 ABAB 交错共享注意力块,对每个共享 MLP 块应用 LoRA projector。相比 Phi3-3.8B,其首 token 时间快 2 倍、内存开销降低 27%、生成延迟低 1.29 倍,并保持 3-4B 稠密 Transformer 的质量而只需 1-2B 的推理算力与内存。

    匹配字段标题、摘要

星期三

  1. 人民日报

    复旦团队研发“旦宝”机器人,纯视觉端侧大脑实现自主行走

    复旦大学未来信息创新学院与极目天舒团队联合研发的机器人“旦宝”在第二十六届中国国际工业博览会上展示,无预置地图、不靠遥控,仅凭视觉自主找路并避让行人。其视觉空间智能导航参数量约1.2亿,可在20瓦以内功耗下支持最多8路视觉输入端侧实时运行,团队正将其适配跑腿取送、巡检、农业、清洁等多类机器人。

    匹配字段标题、摘要、正文

星期五

星期三

  1. 智东西

    微纳核芯完成超10亿元C2轮融资,半年累计融资30亿元

    杭州存算一体AI芯片公司微纳核芯完成超10亿元C2轮融资,由建投投资领投,资金用于产品开发迭代与供应链量产备货。叠加9月完成的C1轮,该公司两个月内融资超20亿元、半年累计30亿元。其3D-CIM架构面向大模型推理,端侧与云侧三颗芯片已全部投片,预计2027年初客户送测并启动批量供货。

    匹配字段摘要、正文

星期四

  1. 智东西

    王腾创业品牌ISHO发布AI睡眠戒指与温控床,戒指1799元起

    前小米中国区市场部总经理王腾创立的ISHO今日宜休发布ISHO Ring智能戒指和ISHO iFlow智能温控系统,戒指售价1799元、带充电仓版本2199元,iFlow售价9999元起。ISHO Ring全球首发Apollo 330B Plus芯片,可端侧运行AI监测模型,续航6-10天;iFlow搭载联发科Genio 420平台,据称可让入睡潜伏期减少10分钟、深睡眠时间提升22%。王腾称公司目标5-10年打造全球领先的AI睡眠科技生态,团队已超百人。

    匹配字段摘要、正文