←搜索结果

按匹配度 · 共 71 条结果 清除搜索

星期三

  1. 智东西

    天数智芯首次实机演示天垓300与端侧终端TY1200

    天数智芯首次实机演示通用GPU天垓300和端侧算力终端TY1200,并预告标称算力600T的下一代端侧产品TY2000。天垓300有144GB显存,在64K长上下文下Attention性能为H200的1.05倍,GLM-5.3模型下MoE吞吐为H200的1.15倍;TY1200为300 TOPS INT8稠密算力,实测TPS超越英伟达Thor T5000。天垓300 IXL144超节点在单机柜集成144颗GPU、聚合约10.1TB显存,每百万有效Token成本较国际主流方案降低约40%。

    匹配字段标题、摘要、正文

  2. Testing Catalog

    Sentient 推出开源端侧 AI 模型 Sentient OS

    Sentient 发布开源 AI 模型 Sentient OS,可从本地文件和消息中收集上下文,并在用户电脑上执行任务。其 Sidekick 功能支持把屏幕上打开的表单或邮件等任务交给它,由它用自己的光标完成。它学到的内容以纯文本文件存储在本地,用户可打开和编辑;前 1000 名在应用内输入 FINAL_1000 的用户可终身免费使用。

    匹配字段标题

  3. Rohan Paul

    Sentient OS 推出端侧 AI:夜间用本地 LLM 读取消息文件并写入 markdown

    Sentient OS(YC F26)发布端侧 AI,夜间用本地 LLM 读取用户的消息、文件和笔记,并把学到的内容写入电脑上一个纯 markdown 文件夹,用户可打开、编辑或删除。白天 Double Tap 和 Sidekick 读取这些文件来起草回复、在应用中完成任务,只有较重的任务才调用用户自选的云端模型。

    匹配字段标题、摘要、正文

  4. Computerworld

    Opera 在 Opera One 中开启 WebAI 本地模型预览

    Opera 开始在 Opera One 中以可选预览形式支持 WebAI 标准,让网站和浏览器扩展调用在浏览器本地运行的 AI 模型,用于生成文本和内容分类。该预览支持搭载 Intel 或 AMD 处理器的 64 位 Windows PC 和 Apple silicon Mac,暂不支持 Windows on Arm,模型需用户开启后才会下载,并可按网站授予权限。Opera 称已支持 Google Gemma 及兼容 Mac 上的 Apple 端侧基础模型,后续将加入针对不同设备优化的模型。

    匹配字段摘要、正文

星期三

  1. 面壁智能 OpenBMB

    面壁智能 MiniCPM-V 4.7 在 iPhone 上实现 20.51 tokens/s 端侧推理

    面壁智能 OpenBMB 公布 MiniCPM-V 4.7 的端侧推理方案,在 iPhone 18 Pro Max(12GB)上平均解码速度达 20.51 tokens/s,相比同一设备未优化的 SSD 专家加载基线提升 6.07 倍。该方案名为 Lookahead Expert Scheduling(LES),通过跨层路由预测预取下一层可能需要的专家、并行加载剩余专家,并对专家权重做连续存储重排和逐层混合精度量化,同时配合 DSpark 投机采样。模型为 35B 总参数、每 token 激活 3B 的 MoE 架构,原始模型架构与专家路由保持不变,无需额外训练。

    匹配字段标题、摘要

  2. SiliconANGLE

    Google 发布 TorchTPU,让 PyTorch 应用可直接运行在 TPU 上

    Google 发布 TorchTPU,这是 PyTorch 的一个专用版本,让开发者无需重写底层代码、只需调整少量配置,就能把现有模型和应用迁移到 TPU 上运行。Google 称与 Meta、Hugging Face 以及 vLLM、SGLang 的开发者合作,确保相关代码库兼容;同时推出 TPU agent suite 协助迁移并自动修复错误,并更新端侧工具 LiteRT 以兼容 PyTorch 应用。此前 AWS 也发布了面向自家 Trainium 芯片的 TorchNeuron。

    匹配字段摘要

星期二

  1. IT之家·人工智能

    Mac 版 Perplexity Computer 新增端侧模式,要求 36GB 统一内存

    Mac 版 Perplexity Computer 新增端侧模式,可完全在设备端运行,无需联网即可执行任务。用户授权后它还能访问本地文件,并与备忘录、信息、邮件和 Numbers 表格等应用协同工作。该功能面向 Perplexity Pro、Max 和 Enterprise 订阅用户开放,首发提供 Qwen 3.6 和 PPLX Pro 两种端侧模式,最低要求 Apple 芯片和 36GB 统一内存。

    匹配字段标题、摘要、正文

  2. 集微网

    阶跃星辰发布首款智能体手机 STEPX Neo 先行版,售价 3999 元

    阶跃星辰 10 月 13 日晚在上海发布首款智能体手机 STEPX Neo 先行版,将 Step 系列模型、Step AOS 1.0 系统、Step Studio 工具与手机硬件打包,售价 3999 元,当晚 9 点开启预售,10 月 16 日 10:13 在京东、天猫、抖音首销。该机搭载智能体原生操作系统 Step AOS 1.0 与个人智能体阶跃 Amoo,采用双入口设计,右滑可从 Amoo 界面切回传统 App 桌面,执行上端侧处理轻量任务、云端旗舰模型负责复杂推理与多步规划。阶跃同时提出连接个人智能体与服务智能体的 A to A 网络,通过 MCP、A2A 等协议打通,Amoo 已与支付宝、腾讯、携程、滴滴、剪映、高德、美团等近百家企业或产品达成合作。

    匹配字段摘要、正文

星期一

  1. Google Developers Blog

    Google 发布 LiteRT Tensor API,支持用 C++ 手写端侧模型图

    Google 发布 LiteRT Tensor API,让开发者在 C++ 中逐算子构建计算图,同一份代码可经 LiteRT 跑在 CPU、GPU(ML Drift)和 NPU 上,或不经模型文件直接通过 XNNPACK 在 CPU 运行。官方用该 API 手写 SAM 2 并部署到浏览器 WebGPU,在 MacBook Pro 上比 Apple MLX 快约 1.5 倍,输出掩码与 Meta PyTorch 参考逐像素一致。该 API 还支持从 .safetensors 直接加载权重,并让预处理、推理与后处理通过共享加速器缓冲区串联,避免数据回传 CPU。

    oct2026_liteRT_tensorAPI

    匹配字段标题

星期四

  1. 雷锋网

    华为首款逻辑折叠芯片麒麟9050量产,Mate 90 Pro Max 端侧可跑30B MoE模型

    华为在终端创新技术沟通会上宣布首款采用逻辑折叠技术的麒麟9050系列量产,麒麟9050 Pro互连规模超过5000万混合键合、超过500万有效信号互连,晶体管密度提升53.5%。对比搭载麒麟9030 Pro的Mate 80 Pro Max,搭载麒麟9050 Pro的Mate 90 Pro Max CPU主频提升12.7%、性能提升25%,GPU性能提升40%、功耗降低45%,NPU算力提升140%、功耗降低66%。麒麟9050系列在新增占用不到2.5GB内存的情况下可运行30B MoE大模型,AI ISP处理时延控制在16.7毫秒以内;华为半导体业务无线终端芯片产品管理部部长徐松余透露,下一代麒麟2027芯片已在华为手上,测试结果符合预期。

    匹配字段标题、正文

星期三

  1. Google DeepMind

    Google DeepMind 与新加坡 GovTech 推出端侧诈骗检测模型

    Google DeepMind 与新加坡政府科技局(GovTech)合作推出端侧诈骗检测模型,基于轻量级 Gemma 微调,可在普通智能手机上本地运行。模型采用两级流水线,先用轻量分类器筛查消息,再用微调后的 Gemma 分析更大范围对话上下文,检测到操纵性对话模式时在设备上实时提醒用户。训练在 GovTech 管理的 GCP 环境中完成,数据经匿名化处理,不含私人或可识别个人信息,该成果在新加坡国际网络周(SICW 2026)上展示。

    匹配字段标题、摘要

星期四

  1. Google Developers Blog精选

    Google 开源端侧 GPU 推理引擎 ML Drift

    Google AI Edge 团队以 Apache 2.0 协议开源端侧 GPU 计算引擎 ML Drift,它抽象 OpenGL ES、OpenCL、Metal 和 WebGPU,是 LiteRT 的核心 GPU 加速引擎,也可作为独立库使用。相比旧版 TFLite GPU delegate,它引入张量虚拟化统一 shader、可扩展自定义算子框架、5D 张量支持和针对 LLM 的阶段性优化,并新增 Windows 和 Linux 桌面预览。官方称 Gemma 基准中内存开销最多降低 12%,YouTube Shorts 平均帧延迟最多降低 40%,Google Photos 提速最多 2 秒,Adobe Lightroom 与 Photoshop 端侧性能最多提升 30%,Snapchat 镜头模型延迟改善 30%。旧版 TFLite GPU delegate 将不再获得新功能更新。

    ML Drift banner

    匹配字段标题、摘要

星期六

  1. Sarvam AI Blog

    Sarvam AI 发布 Sarvam Edge 端侧模型系列

    Sarvam AI 发布 Sarvam Edge,面向设备端推理推出语音识别、语音合成和多语言翻译模型。语音识别为 74M 参数的统一多语言模型,支持 10 种印度语言,端侧体积约 294MB(FP16),在 Snapdragon 8 Gen 3 上首 token 延迟低于 300 毫秒;语音合成 24M 参数、约 60MB,支持 10 种语言和 8 个多语言音色,首音频延迟 260 毫秒;翻译模型约 150M 参数、约 334MB,覆盖 11 种语言共 110 个语言对,首 token 约 200 毫秒。官方称该系列与全球设备厂商合作开发,推理完全在本地完成,无按次云端成本。

    Announcing Sarvam Edge

    匹配字段标题、摘要

星期三

  1. Liquid AI 模型与工程博客

    Liquid AI 与 AMD 推出端侧会议摘要模型 LFM2-2.6B-Transcript

    Liquid AI 与 AMD 在 CES 上展示 LFM2-2.6B-Transcript,一款完全在 AMD Ryzen AI 平台本地运行的会议摘要模型。该模型可在 2.7GB 内存中处理 10K token(约 60 分钟会议记录),16 秒生成 1K token 摘要,基准测试中短文本表现超过 gpt-oss-20b 并接近 Qwen3-30B 和 Claude Sonnet,长文本仍优于 gpt-oss-20b。用户可通过 Liquid AI Cookbook 中的命令行工具直接体验,无需 API key 或云服务。

    匹配字段标题

星期二

  1. Liquid AI 模型与工程博客

    Liquid AI 发布端侧 AI 开发平台 LEAP 与 iOS 应用 Liquid Apollo

    Liquid AI 发布面向端侧 AI 的开发者平台 LEAP,以及用于在手机上体验小语言模型的 iOS 应用 Liquid Apollo。LEAP 提供 Android 和 iOS 跨平台 Edge SDK,开发者用几行代码即可在移动应用中部署小语言模型,模型体积最小 300MB,可在 4GB 及以上内存设备运行,并支持 LFM2 等模型。Liquid Apollo 已原生支持全部 LEAP 模型,可在完全本地、保护隐私的界面中体验包括新一代 LFM2 在内的模型库。

    匹配字段标题、摘要

星期三

  1. Ollama Blog精选

    Ollama 上线 Llama 3.2 的 1B 与 3B 端侧模型

    Meta 的 Llama 3.2 现已可通过 Ollama 运行,其中 1B 和 3B 为纯文本模型,针对手机或边缘设备本地运行做了优化,可用于构建高度个性化的端侧智能体,例如总结 WhatsApp 最近十条消息或下月日程。Ollama 表示处理在本地完成,数据不发送给第三方或云服务,提示与响应接近即时。11B 和 90B 视觉模型即将推出,支持图表等文档级理解和图像描述。

    A picture of Ollamas acting out what small and multimodal looks like. We hope you enjoy the new llama 3.2 models from Meta!

    匹配字段标题、摘要

星期三

  1. 人民日报

    复旦团队研发“旦宝”机器人,纯视觉端侧大脑实现自主行走

    复旦大学未来信息创新学院与极目天舒团队联合研发的机器人“旦宝”在第二十六届中国国际工业博览会上展示,无预置地图、不靠遥控,仅凭视觉自主找路并避让行人。其视觉空间智能导航参数量约1.2亿,可在20瓦以内功耗下支持最多8路视觉输入端侧实时运行,团队正将其适配跑腿取送、巡检、农业、清洁等多类机器人。

    匹配字段标题、摘要、正文

星期四

  1. The Decoder精选

    Google 在 Android Dev Summit 开放 Android Studio 接入第三方…

    Google 在 Android Dev Summit 上为 Android Studio Rabbit 2 推出 Bring Your Own Agent 功能,开发者可通过开放 Agent Client Protocol 在 IDE 内同时运行 Claude Agent、Codex、Google Antigravity 等 40 多个编码智能体,并直接访问项目结构、模拟器和 Logcat。Google 称内部测试中智能体在终端渲染 Compose 预览后完成 UI 任务快 77%、token 用量最多降至三分之一;使用 Claude Opus 5.5 的 A/B 测试中,内置 LeakCanary 的 CLI 查找并修复内存泄漏快近一倍、token 减少约 25%。面向端侧,Google 在 ML Kit 中加入由 Gemini Nano 4 驱动的 Agentic API alpha,并推出基于 MCP 的 AppFunctions API beta 与 Agent-to-UI 接口;同时与 XREAL 合作发布 Android XR 智能眼镜 XREAL AURA,售价 1,099 美元,11 月中旬发货。

    d Dev Summit 上为 Android Studio Rabbit 2 推出 Bring Your Own Agent 功能,开发者可通过开放 Agent Client Protocol 在 IDE 内同时运行 Claude Agent、Codex、Google Antigravity 等 40 多个编码智能体,并直接访问项目结构、模拟器和 Logcat。Google 称内部测试中智能体在终端渲染 Compose 预览后完成 UI 任务快 77%、token 用量最多降至三分之一;使用 Claude Opus 5.5 的 A/B 测试中,内置 LeakCanary 的 CLI 查找并修复内存泄漏快近一倍、token 减少约 25%。面向端侧,Google 在 ML Kit 中加入由 Gemini Nano 4 驱动的 Agentic API alpha,并推出基于 MCP 的 AppFunctions API beta 与 Agent-to-UI 接口;同时与 XREAL 合作发布 Android XR 智能眼镜 XREAL AURA,售价 1,099 美元,11 月中旬发货。

    匹配字段摘要、正文

星期五

  1. BleepingComputer

    Google 为 Android 推出 AI 反诈骗防护,覆盖诈骗短信与伪造来电

    Google 宣布在 Android 上推出 AI 驱动的反诈骗防护,目前正向符合条件的设备推送,重点覆盖 Google Messages 与来电转接滥用。新防护对陌生发件人的复杂对话使用云端 Gemini 分析,在加密的 Private AI Compute 环境中进行,并加入端侧 Gemini Nano 对陌生链接的实时检查;该云端防护默认关闭,需用户手动开启。Google 称现有 Phone 和 Messages 诈骗检测每月标记超过 500 万条可疑诈骗电话和短信,此外设备端聊天通知诈骗检测将从 Pixel 扩展到更多 Android 设备,敏感信息遮蔽扩展到 Chrome 和 Android WebView,并阻止应用在后台静默开启来电转接。

    匹配字段摘要