Conway Research 的端侧助手 Underdog 以 Apache 2.0 发布 Saluki 27B，这是 Qwen3.8-27B 的 2-bit 混合精度 GGUF，体积 7.89 GB，而 BF16 原模型需 54 GB，可在原生 llama.cpp 上运行并支持完整 GPU 卸载。在相同测试环境下，Saluki 在 Underdog Bench 的 120 项 BFCL v4 任务上得 88 分，原模型 84 分；并行工具调用 42 对 35；SWE-bench Verified 修复 30 个问题，原模型 33 个。代价是数学与多步推理下降 12 到 18 分，AIME 2025 为 79.2 对 96.7。
匹配字段摘要
Google 发布实验性笔记应用 Google AI Edge Foresight，可在完全离线状态下转写会议和音频文件，免费使用，基于其端侧 EmbeddingGemma 2 模型，目前运行于 macOS。该应用会在转写的同时生成会议摘要，并支持用户记录要点后由应用整理成完整笔记，还内置助手可回答关于录音内容的问题，也能接入本地文件作为参考。Google 称文件、会议音频和笔记都不会离开用户电脑，目前仅针对 Apple Silicon 的 Mac 优化。
匹配字段摘要
Google 发布会议记录应用 Google AI Edge Foresight，对标 Granola 等 AI 笔记工具，Mac 版可完全离线运行，使用端侧 EmbeddingGemma 2 模型（7.4 亿参数）跨应用捕捉会议内容，包括线下会议。应用采用分屏视图，一侧手写速记、一侧生成 AI 笔记，支持查看转录文本或与 Gemma 4 驱动的助手对话，还可上传 PDF、Google Docs、Microsoft Office 格式、纯文本、Markdown 和网页书签构建知识库，在会议中实时回答相关问题。Google 在 FAQ 中说明该应用针对 Apple Silicon 优化，可完全离线使用。
匹配字段摘要
Perplexity 开源 pplx-embed-v2-late，包含 9B 和 0.6B 两个多向量嵌入模型，覆盖文本与图像并共享同一嵌入空间。9B 用于索引多模态数据，0.6B 用于端侧查询，还支持无需 OCR 直接检索 PDF 页面。该模型在 MADQA 上得分 92.4%，在 BrowseComp+ 上得分 64%，权重已在 Hugging Face 发布。
匹配字段摘要
Google DeepMind 发布 EmbeddingGemma 2，一个 740M 参数、Apache 2.0 许可的端侧多模态嵌入模型，原生将文本、图像、音频和视频映射到统一嵌入空间。它在 MTEB Code 上从 68.76 提升到 78.68，支持 8K token 上下文窗口，可处理约 5.5 分钟音频、29 张图像或 58 帧视频，并可通过 MRL 将向量从 768 维截断至 128 维。模型权重已在 Hugging Face 和 Kaggle 开放下载，支持 LiteRT、MediaPipe、transformers.js、vLLM、Ollama 等部署方式。
匹配字段摘要
Google DeepMind 发布 EmbeddingGemma 2，这是面向端侧的多模态嵌入模型，可将文本、图像、音频和视频映射到统一嵌入空间。模型基于 Gemma 4 架构，采用 Apache 2.0 许可，参数量 7.4 亿，文本任务最低 2.7 亿参数，可选视觉（1.7 亿）和音频（3 亿）编码器。它支持 8K token 上下文窗口，是 EmbeddingGemma 1 的 4 倍，可处理约 5.5 分钟音频、29 张图片或 58 帧视频；借助 MRL 可将输出向量从 768 维截断至 512、256 或 128 维，最多减少 6 倍存储占用。在 MTEB Code 上得分从 68.76 提升至 78.68，模型权重已在 Hugging Face 和 Kaggle 开放下载。
匹配字段摘要
Google 发布 EmbeddingGemma 2，这是其首个原生多模态开源端侧嵌入模型，可在 0.5GB 内存下本地运行。该模型为 740M 参数、Apache 2.0 许可，由 270M 文本模型与 170M 视觉、300M 音频模块组合而成，将代码、图像、音频和视频统一到同一嵌入空间。Unsloth 提供了该模型的运行与训练支持，并附有 GGUF 与使用指南链接。
匹配字段摘要
Apple 正在研发代号 J450 的 AI 安防摄像头，据 Bloomberg 的 Mark Gurman 称，它不录制任何视频，而是通过低帧率传感器和端侧 AI 向用户提供家中活动的文字描述，并支持人脸识别标记有人进入房间等事件。该摄像头与传闻中的 J490 智能家居中枢配对，并共享 Apple 带摄像头 AirPods 的技术。它能否在真正出事时仅靠文字描述满足需求，仍有待观察。
匹配字段摘要
Decision 模型现可在 llama.cpp 中端侧运行。免费、快速、私密！ llama serve -hf ggml-org/Kev-4B-GGUF https://t.co/ApnQQaKB4Z
Decision 模型现可在 llama.cpp 中端侧运行。免费、快速、私密！ llama serve -hf ggml-org/Kev-4B-GGUF https://t.co/ApnQQaKB4Z
匹配字段摘要
Perplexity 近期开源了七个项目。pplx-decider-v1-27b 是多模态决策模型，在 11 项基准上平均 85.7%，领先 Jev；pplx-embed-v2-context-9b-preview 为上下文嵌入向量模型，在 ConTEB 和 turbopuffer context-bench 上表现最佳。此外还有面向 Apple silicon 的本地推理引擎 Lily，用 Rust 加自定义 metal kernel 实现，在 M5 Max 上 prefill 比 MLX-LM 快 1.23 倍、decode 快 1.35 倍；0.6B 端侧 PII 分类器 PII-Tracer 及配套 PII-TRACE 基准；面向深度研究智能体的 WANDR 基准；笔记本与工作站智能体检测响应工具 Numbat；以及只读供应链扫描器 Bumblebee。
匹配字段摘要
Google 发布新款笔记本 Googlebook，以 Android OS 为核心，并深度整合 AICore、Gemini Nano 等端侧 AI 基座。AI 智能体可跨应用执行复杂任务，配合 Handoff 与 App Intents，用户无需手动切换应用即可完成表单填写与数据整理。文章同时回顾了 Toshiba Dynabook AZ、Lenovo IdeaPad A10 等早期 Android 笔记本的失败教训。
匹配字段摘要
@AbuSaud_Cyber 不错的本地演示。MiniCPM5-2B 旨在 16GB Mac 上运行，并且仍能处理网页搜索这类工具调用。一个 2B 模型能在端侧做到这一点，才是关键。
@AbuSaud Cyber 不错的本地演示。MiniCPM5-2B 旨在 16GB Mac 上运行，并且仍能处理网页搜索这类工具调用。一个 2B 模型能在端侧做到这一点，才是关键。
匹配字段摘要
@grokkedd 一个 2B 模型在 WebGPU 上于浏览器内运行完整编码智能体，正是我们想要的端侧故事。基于 MiniCPM5-2B 的出色构建。
匹配字段摘要
iPhone 18 Pro 系列首发溢价缩水近一半，部分渠道只回收 Pro Max 且加价降至 200-300 元；而厚度 11.3 毫米、重量 254 克、富士康良率仅 60% 多的折叠屏 iPhone Duo 仍获百万预约并开出万元定价。荣耀、vivo、OPPO 等国产厂商集体押注端侧 AI 与智能体，但 QuestMobile 数据显示 2026 年 6 月 AI 原生 App 月活达 4.99 亿、同比涨 85.4%，用户无需换机即可获得 AI 能力，换机驱动力不足。高端竞争已从硬件参数内卷转向 OS 架构、跨设备能力与用户粘性的生态长跑。
匹配字段摘要、正文
腾讯混元发布翻译产品 Tencent Hy Translation，由 Hy-MT2 模型驱动，支持 33 种语言和 5 种中国少数民族语言及方言，提供语音与拍照翻译。该产品完全离线运行于端侧，无需网络，已在 12 个国家和地区上线。
匹配字段摘要
全新深蓝S07搭载豆包大模型，车机从“听指令”转向“懂意图”：一句“车里有点闷”即可调节温度，“先去充个电，然后再去机场”能拆成两段行程。该车最多支持6组个人声纹，端侧处理简单指令，隧道弱网下仍可调温并开启座椅加热。深蓝CEO姜海荣称安全是底线，涉及车控操作需用户二次确认。
匹配字段摘要、正文
苹果发布 iPhone 18 Pro 与 iPhone 18 Pro Max，搭载 2nm 制程 A20 Pro 芯片，CPU 较 A19 Pro 提升 20%、GPU 提升 40%，神经网络核心 32 核并具备端侧大模型运行能力。影像上主摄维持 4800 万像素并加入 f/1.6-f/4.0 可变光圈，充电 15 分钟可充入 50% 电量。海外起售价 1199 美元与 1299 美元，均较上一代上调 100 美元，国行 9999 元起，9 月 18 日发售，但国行无法使用 AI 版 Siri 等 AI 功能。
匹配字段摘要、正文
Google 发布 Agent Development Kit（ADK）for Kotlin 1.0 正式版，功能与 ADK 1.0 Core 完全对齐，并面向 Android 提供端侧扩展。该版本支持层级多智能体、上下文压缩、Human-in-the-loop 确认流程、会话恢复，以及通过 @Tool 和 @Param 注解自动生成工具 schema，同时集成 Vertex AI 的会话、RAG 记忆与 Memory Bank 服务。Android 侧可用 LiteRT-LM 和 ML Kit（beta）运行端侧智能体，通过 Firebase AI Logic 编排混合云工作流，并用 Room 与 AppSearch 持久化智能体状态。
匹配字段摘要
苹果发布首款折叠屏 iPhone Duo，展开为 7.6 英寸内屏、折叠后为 5.4 英寸外屏，搭载 A20 Pro 芯片与 iOS 27，起售价 1999 美元，10 月 16 日开启预售、10 月 23 日发售。新机引入基于端侧 AI 的 Smart Take 自动抓拍、Duo Preview 外屏取景和 Duo FaceTime，并支持 Split View 双应用分屏。Siri AI 随 iOS 27 以 beta 形式推出，可调用个人上下文与屏幕内容执行操作。
匹配字段摘要
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 投机解码草稿模型，GPU 上吞吐最高提升 3.18 倍，端侧最高 2.87 倍，且不改变输出质量。草稿模型约 300M 参数，采用 5 层、block size 9 的简化注意力结构，已在 Hugging Face 提供 Safetensors 与 GGUF 权重，并开源集成到 llama.cpp 和 SGLang。在 BFCL 多工具函数调用场景中，LFM2.5-2.6B 的延迟平均降低 57%；LFM2.5-8B-A1B 受 llama.cpp Metal 后端 MoE 实现影响，端侧仅提升 18%。
匹配字段摘要