天数智芯首次实机演示通用GPU天垓300和端侧算力终端TY1200，并预告标称算力600T的下一代端侧产品TY2000。天垓300有144GB显存，在64K长上下文下Attention性能为H200的1.05倍，GLM-5.3模型下MoE吞吐为H200的1.15倍；TY1200为300 TOPS INT8稠密算力，实测TPS超越英伟达Thor T5000。天垓300 IXL144超节点在单机柜集成144颗GPU、聚合约10.1TB显存，每百万有效Token成本较国际主流方案降低约40%。
匹配字段标题
Sentient 发布开源 AI 模型 Sentient OS，可从本地文件和消息中收集上下文，并在用户电脑上执行任务。其 Sidekick 功能支持把屏幕上打开的表单或邮件等任务交给它，由它用自己的光标完成。它学到的内容以纯文本文件存储在本地，用户可打开和编辑；前 1000 名在应用内输入 FINAL_1000 的用户可终身免费使用。
匹配字段标题
Sentient OS（YC F26）发布端侧 AI，夜间用本地 LLM 读取用户的消息、文件和笔记，并把学到的内容写入电脑上一个纯 markdown 文件夹，用户可打开、编辑或删除。白天 Double Tap 和 Sidekick 读取这些文件来起草回复、在应用中完成任务，只有较重的任务才调用用户自选的云端模型。
匹配字段标题
2026年10月28日,Sentient OS发布端侧AI,夜间用本地LLM读取用户的消息、文件和笔记,并把学到的内容写入电脑上一个纯markdown文件夹,用户可打开、编辑或删除。同日Testing Catalog报道称,Sentient发布开源AI模型Sentient OS,可从本地文件和消息中收集上下文,并在用户电脑上执行任务;其Sidekick功能支持把屏幕上打开的表单或邮件等任务交给它,由它用自己的光标完成。报道还称,它学到的内容以纯文本文件存储在本地,用户可打开和编辑;前1000名在应用内输入FINAL_1000的用户可终身免费使用。另一篇同日报道提到,白天Double Tap和Sidekick读取这些文件来起草回复、在应用中完成任务,只有较重的任务才调用用户自选的云端模型。目前尚无后续发展。
2026年10月28日,Sentient OS发布端侧AI,夜间用本地LLM读取用户的消息、文件和笔记,并把学到的内容写入电脑上一个纯markdown文件夹,用户可打开、编辑或删除。同日Testing Catalog报道称,Sentient发布开源AI模型Sentient OS,可从本地文件和消息中收集上下文,并在用户电脑上执行任务;其Sidekick功能支持把屏幕上打开的表单或邮件等任务交给它,由它用自己的光标完成。报道还称,它学到的内容以纯文本文件存储在本地,用户可打开和编辑;前1000名在应用内输入FINAL 1000的用户可终身免费使用。另一篇同日报道提到,白天Double Tap和Sidekick读取这些文件来起草回复、在应用中完成任务,只有较重的任务才调用用户自选的云端模型。目前尚无后续发展。
匹配字段标题
2026年10月28日,Sentient OS发布端侧AI,夜间用本地LLM读取用户的消息、文件和笔记,并把学到的内容写入电脑上一个纯markdown文件夹,用户可打开、编辑或删除。同日Testing Catalog报道称,Sentient发布开源AI模型Sentient OS,可从本地文件和消息中收集上下文,并在用户电脑上执行任务;其Sidekick功能支持把屏幕上打开的表单或邮件等任务交给它,由它用自己的光标完成。报道还称,它学到的内容以纯文本文件存储在本地,用户可打开和编辑;前1000名在应用内输入FINAL_1000的用户可终身免费使用。另一篇同日报道提到,白天Double Tap和Sidekick读取这些文件来起草回复、在应用中完成任务,只有较重的任务才调用用户自选的云端模型。目前尚无后续发展。
匹配字段标题
面壁智能 OpenBMB 公布 MiniCPM-V 4.7 的端侧推理方案，在 iPhone 18 Pro Max（12GB）上平均解码速度达 20.51 tokens/s，相比同一设备未优化的 SSD 专家加载基线提升 6.07 倍。该方案名为 Lookahead Expert Scheduling（LES），通过跨层路由预测预取下一层可能需要的专家、并行加载剩余专家，并对专家权重做连续存储重排和逐层混合精度量化，同时配合 DSpark 投机采样。模型为 35B 总参数、每 token 激活 3B 的 MoE 架构，原始模型架构与专家路由保持不变，无需额外训练。
匹配字段标题
Mac 版 Perplexity Computer 新增端侧模式，可完全在设备端运行，无需联网即可执行任务。用户授权后它还能访问本地文件，并与备忘录、信息、邮件和 Numbers 表格等应用协同工作。该功能面向 Perplexity Pro、Max 和 Enterprise 订阅用户开放，首发提供 Qwen 3.6 和 PPLX Pro 两种端侧模式，最低要求 Apple 芯片和 36GB 统一内存。
匹配字段标题
面壁智能的 MiniCPM-V 4.7 可在本地以 100 tok/s 运行，内存占用约 3 GB，定位为让端侧 AI 更实用。官方提到 llama.cpp 生态让该模型更容易上手试用。
匹配字段标题
面壁智能 宣称 MiniCPM-V 4.7让端侧AI更实用
English translation is being prepared.
匹配字段标题
Google 发布 LiteRT Tensor API，让开发者在 C++ 中逐算子构建计算图，同一份代码可经 LiteRT 跑在 CPU、GPU（ML Drift）和 NPU 上，或不经模型文件直接通过 XNNPACK 在 CPU 运行。官方用该 API 手写 SAM 2 并部署到浏览器 WebGPU，在 MacBook Pro 上比 Apple MLX 快约 1.5 倍，输出掩码与 Meta PyTorch 参考逐像素一致。该 API 还支持从 .safetensors 直接加载权重，并让预处理、推理与后处理通过共享加速器缓冲区串联，避免数据回传 CPU。
匹配字段标题
华为在终端创新技术沟通会上宣布首款采用逻辑折叠技术的麒麟9050系列量产，麒麟9050 Pro互连规模超过5000万混合键合、超过500万有效信号互连，晶体管密度提升53.5%。对比搭载麒麟9030 Pro的Mate 80 Pro Max，搭载麒麟9050 Pro的Mate 90 Pro Max CPU主频提升12.7%、性能提升25%，GPU性能提升40%、功耗降低45%，NPU算力提升140%、功耗降低66%。麒麟9050系列在新增占用不到2.5GB内存的情况下可运行30B MoE大模型，AI ISP处理时延控制在16.7毫秒以内；华为半导体业务无线终端芯片产品管理部部长徐松余透露，下一代麒麟2027芯片已在华为手上，测试结果符合预期。
匹配字段标题
Google DeepMind 与新加坡政府科技局（GovTech）合作推出端侧诈骗检测模型，基于轻量级 Gemma 微调，可在普通智能手机上本地运行。模型采用两级流水线，先用轻量分类器筛查消息，再用微调后的 Gemma 分析更大范围对话上下文，检测到操纵性对话模式时在设备上实时提醒用户。训练在 GovTech 管理的 GCP 环境中完成，数据经匿名化处理，不含私人或可识别个人信息，该成果在新加坡国际网络周（SICW 2026）上展示。
匹配字段标题
2026年10月14日,Google DeepMind与新加坡政府科技局(GovTech)合作交付一款端侧诈骗检测模型,该成果在新加坡国际网络周(SICW 2026)上展示。据Google DeepMind介绍,模型基于轻量级Gemma微调,可在普通智能手机上本地运行,采用两级流水线:先用轻量分类器筛查消息,再用微调后的Gemma分析更大范围对话上下文,检测到操纵性对话模式时在设备上实时提醒用户。训练在GovTech管理的GCP环境中完成,数据经匿名化处理,不含私人或可识别个人信息。目前尚无后续发展事实。
匹配字段标题
Google DeepMind and the Government Technology Agency of Singapore (GovTech) 交付 on-device scam detection model
English translation is being prepared.
匹配字段标题
Google AI Edge 团队以 Apache 2.0 协议开源端侧 GPU 计算引擎 ML Drift，它抽象 OpenGL ES、OpenCL、Metal 和 WebGPU，是 LiteRT 的核心 GPU 加速引擎，也可作为独立库使用。相比旧版 TFLite GPU delegate，它引入张量虚拟化统一 shader、可扩展自定义算子框架、5D 张量支持和针对 LLM 的阶段性优化，并新增 Windows 和 Linux 桌面预览。官方称 Gemma 基准中内存开销最多降低 12%，YouTube Shorts 平均帧延迟最多降低 40%，Google Photos 提速最多 2 秒，Adobe Lightroom 与 Photoshop 端侧性能最多提升 30%，Snapchat 镜头模型延迟改善 30%。旧版 TFLite GPU delegate 将不再获得新功能更新。
匹配字段标题
Sarvam AI 发布 Sarvam Edge，面向设备端推理推出语音识别、语音合成和多语言翻译模型。语音识别为 74M 参数的统一多语言模型，支持 10 种印度语言，端侧体积约 294MB（FP16），在 Snapdragon 8 Gen 3 上首 token 延迟低于 300 毫秒；语音合成 24M 参数、约 60MB，支持 10 种语言和 8 个多语言音色，首音频延迟 260 毫秒；翻译模型约 150M 参数、约 334MB，覆盖 11 种语言共 110 个语言对，首 token 约 200 毫秒。官方称该系列与全球设备厂商合作开发，推理完全在本地完成，无按次云端成本。
匹配字段标题
Liquid AI 与 AMD 在 CES 上展示 LFM2-2.6B-Transcript，一款完全在 AMD Ryzen AI 平台本地运行的会议摘要模型。该模型可在 2.7GB 内存中处理 10K token（约 60 分钟会议记录），16 秒生成 1K token 摘要，基准测试中短文本表现超过 gpt-oss-20b 并接近 Qwen3-30B 和 Claude Sonnet，长文本仍优于 gpt-oss-20b。用户可通过 Liquid AI Cookbook 中的命令行工具直接体验，无需 API key 或云服务。
匹配字段标题
Liquid AI 发布面向端侧 AI 的开发者平台 LEAP，以及用于在手机上体验小语言模型的 iOS 应用 Liquid Apollo。LEAP 提供 Android 和 iOS 跨平台 Edge SDK，开发者用几行代码即可在移动应用中部署小语言模型，模型体积最小 300MB，可在 4GB 及以上内存设备运行，并支持 LFM2 等模型。Liquid Apollo 已原生支持全部 LEAP 模型，可在完全本地、保护隐私的界面中体验包括新一代 LFM2 在内的模型库。
匹配字段标题
Meta 的 Llama 3.2 现已可通过 Ollama 运行，其中 1B 和 3B 为纯文本模型，针对手机或边缘设备本地运行做了优化，可用于构建高度个性化的端侧智能体，例如总结 WhatsApp 最近十条消息或下月日程。Ollama 表示处理在本地完成，数据不发送给第三方或云服务，提示与响应接近即时。11B 和 90B 视觉模型即将推出，支持图表等文档级理解和图像描述。
匹配字段标题
复旦大学未来信息创新学院与极目天舒团队联合研发的机器人“旦宝”在第二十六届中国国际工业博览会上展示，无预置地图、不靠遥控，仅凭视觉自主找路并避让行人。其视觉空间智能导航参数量约1.2亿，可在20瓦以内功耗下支持最多8路视觉输入端侧实时运行，团队正将其适配跑腿取送、巡检、农业、清洁等多类机器人。
匹配字段标题