←搜索结果

按匹配度 · 共 13 条结果 清除搜索

星期四

  1. Rohan Paul

    Google 发布 EmbeddingGemma 2 论文,744M 参数端侧多模态嵌入模型

    Google 发布 EmbeddingGemma 2 论文,这是一个 Apache 2.0 许可的端侧多模态嵌入模型,把文本、代码、图像、音频和视频映射到同一向量空间。模型基于 Gemma 4 构建,通过向更大的 Gemini Embedding 2 学习并用对比训练调优,744M 参数规模在多项任务上超过大 2 至 12 倍的模型。在 Pixel 11 Pro 上,量化后的文本权重占用约 191MB 活跃内存,完整多模态模型约 567MB,上下文窗口扩大 4 倍至 8K tokens,可容纳约 5.5 分钟音频、29 张图像或 58 帧视频;直接嵌入语音在 MSEB 口语查询检索基准上得分 69.54,高于先转写再检索的 57.59,代码检索在 MTEB Code 上从 EmbeddingGemma 1 的 68.76 提升到 78.68。

    匹配字段标题、摘要、正文

星期三

  1. 集微网

    清华大学团队研制1克重无线介观显微镜Airscope,成果发表于《自然》

    清华大学戴琼海团队与解放军总医院戴朴团队研制出无线介观显微镜Airscope,重量仅1克,可在6毫米视场内以4至6微米单细胞分辨率记录小鼠大脑皮层神经活动,单只小鼠可同时记录8500多个神经元,是现有同类型设备的25倍。该设备仅用4片非球面镜片,通过200万像素图像传感器实现端侧压缩,使百万像素级图像可无线传输,摆脱了线缆束缚。成果19日在线发表于《自然》,团队已用其在5平方米自然栖息地和32个末端的大型迷宫中记录多只小鼠的皮层活动。

    匹配字段摘要、正文

星期六

  1. Google Research

    Google 用冻结多 token 预测加速 Pixel 上的 Gemini Nano

    Google Research 提出将多 token 预测(MTP)改造到已冻结的 Gemini Nano v3 上,在不改动主干权重的前提下加速端侧推理。该方法在主干最后几层附加轻量 Transformer 头,直接交叉注意力读取主干的 KV cache,省去独立草稿模型的预填充延迟,并比独立草稿模型节省最多 130MB 内存。在 Pixel 9 上,其 token 预测速度比同参数量独立草稿模型快 50% 以上,已随 Pixel 9 和 10 系列推送,用于 AI 通知摘要和校对等功能。

    Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction

    匹配字段摘要

星期一

  1. Zyphra Research

    Zyphra 用稀疏图 RAG 将 LLM 上下文扩展到 10 亿 token

    Zyphra 展示了一套检索系统,可在推理时于标准 CPU 上把任意现成 LLM 扩展到 10 亿 token 上下文。该方法基于稀疏图检索,在需要超长上下文推理的 Hash-Hop 基准上取得 SoTA,并称比使用稠密嵌入的常见 RAG 系统更省算力与内存,也比长上下文 Transformer 更高效。团队表示这些初步结果适合端侧和算力受限场景,后续将测试其在更多长上下文任务上的通用性。

    匹配字段摘要

星期日

  1. 事件1 条新闻 · 1 个事实

    Meta蒸馏出30B端侧智能体模型Muse Glimmer

    Meta从更大的Muse Spark蒸馏出稠密30B模型Muse Glimmer,并以模拟应用中的合成智能体轨迹进行训练。该模型4-bit权重不到20 GB,可在单张RTX 5090上运行。据2026年10月22日报道,在多工具测试MCPAtlas上,Muse Glimmer得75.5,高于Gemma4-31B的54.2和Qwen3.6-27B的62.5;但在OSWorld-Verified上以65.9落后于Qwen3.6-27B的75.6。目前尚无后续发展事实。

    匹配字段标题

  2. 事件1 条新闻 · 1 个事实

    Meta将Agent模型Muse Glimmer 30B压缩至端侧运行

    Meta 于 2026 年 10 月 20 日发布 30B 开源权重模型 Muse Glimmer 的技术报告,该模型面向消费级硬件上的智能体任务,并以 4-bit 精度在单张消费级 GPU 上运行。转述者补充称,该模型在工具调用和多步规划上领先同规模开源模型,部分指标超过 Qwen3.6-27B 和 Gemma4-31B;4-bit 量化后约 17GB,目标在 24GB 显存设备上运行,采用 DFlash 推测解码在 RTX 5090 上约 233 tokens/s,相比普通解码提速约 3.1 倍。目前尚无后续发展事实。

    匹配字段标题

  3. 事件1 条新闻 · 1 个事实

    戴琼海团队与戴朴团队研制超轻无线介观显微镜Airscope

    清华大学戴琼海团队与解放军总医院戴朴团队研制出超轻无线介观显微镜Airscope。该设备重量仅1克,可在6毫米视场内以4至6微米单细胞分辨率记录小鼠大脑皮层神经活动,单只小鼠可同时记录8500多个神经元,为现有同类型设备的25倍。设备仅用4片非球面镜片,通过200万像素图像传感器实现端侧压缩,使百万像素级图像可无线传输,摆脱线缆束缚。成果于19日在线发表于《自然》。团队已用其在5平方米自然栖息地和32个末端的大型迷宫中记录多只小鼠的皮层活动。

    匹配字段摘要

星期四

  1. 事实所属事件

    Meta蒸馏出30B端侧智能体模型Muse Glimmer

    Meta从更大的Muse Spark蒸馏出稠密30B模型Muse Glimmer,并以模拟应用中的合成智能体轨迹进行训练。该模型4-bit权重不到20 GB,可在单张RTX 5090上运行。据2026年10月22日报道,在多工具测试MCPAtlas上,Muse Glimmer得75.5,高于Gemma4-31B的54.2和Qwen3.6-27B的62.5;但在OSWorld-Verified上以65.9落后于Qwen3.6-27B的75.6。目前尚无后续发展事实。

    匹配字段标题

    查看事件:Meta蒸馏出30B端侧智能体模型Muse Glimmer

星期二

  1. 事实所属事件

    Meta将Agent模型Muse Glimmer 30B压缩至端侧运行

    Meta 于 2026 年 10 月 20 日发布 30B 开源权重模型 Muse Glimmer 的技术报告,该模型面向消费级硬件上的智能体任务,并以 4-bit 精度在单张消费级 GPU 上运行。转述者补充称,该模型在工具调用和多步规划上领先同规模开源模型,部分指标超过 Qwen3.6-27B 和 Gemma4-31B;4-bit 量化后约 17GB,目标在 24GB 显存设备上运行,采用 DFlash 推测解码在 RTX 5090 上约 233 tokens/s,相比普通解码提速约 3.1 倍。目前尚无后续发展事实。

    匹配字段标题

    查看事件:Meta将Agent模型Muse Glimmer 30B压缩至端侧运行

星期五

  1. 事件1 条新闻 · 1 个事实

    Google发布EmbeddingGemma 2论文

    Google 发布 EmbeddingGemma 2 论文,介绍一个 Apache 2.0 许可的端侧多模态嵌入模型,把文本、代码、图像、音频和视频映射到同一向量空间。该模型基于 Gemma 4 构建,通过向更大的 Gemini Embedding 2 学习并用对比训练调优,744M 参数规模在多项任务上超过大 2 至 12 倍的模型。在 Pixel 11 Pro 上,量化后的文本权重占用约 191MB 活跃内存,完整多模态模型约 567MB,上下文窗口扩大 4 倍至 8K tokens,可容纳约 5.5 分钟音频、29 张图像或 58 帧视频;直接嵌入语音在 MSEB 口语查询检索基准上得分 69.54,高于先转写再检索的 57.59,代码检索在 MTEB Code 上从 EmbeddingGemma 1 的 68.76 提升到 78.68。目前尚无后续进展。

    匹配字段摘要

星期五

  1. 事件1 条新闻 · 1 个事实

    Nvidia发布Nemotron 3.5 Super VL与Bolt模型

    Nvidia于2026年10月15日宣布推出Nemotron 3.5 Super VL与面向端侧的3.5 Bolt模型。据Nvidia官方介绍,Super VL为120B参数开放模型,面向常驻智能体任务,官方称其在同类开放模型中吞吐最高,比次优模型快5倍;同时推出Bolt 74B-A9B 24GB与Bolt E4B 4GB两款端侧模型,前者可在RTX/DGX Spark本地运行智能体任务,后者面向GeForce RTX、Jetson上的语音与对话智能体。Super VL与Bolt 74B-A9B已上线Hugging Face,Bolt E4B计划于10月23日发布。同日,SGLang宣布为Super VL提供Day-0支持,在单张RTX 6000 PRO上借助MTP达到243.9 tok/s;Prime Intellect与Nvidia用GRPO在128张GB200 GPU上后训练约11小时,使其在AutomationBench-AA公开集上从34.0%提升到57.7%。当晚OpenRouter上线该模型,次日Perplexity宣布Pro和Max订阅用户及Agent API可使用。

    匹配字段摘要

星期日

  1. 事件1 条新闻 · 1 个事实

    谷歌研究盲扫超声AI

    2026年10月6日,Google Research 公布一项研究,验证端侧AI通过盲扫超声判断胎龄和胎位。该研究由 Google 与 Northwestern、Jacaranda Health 合作,在肯尼亚内罗毕和芝加哥各招募1000名孕妇,让未经超声训练的医护按预设路径进行盲扫超声,再由机器学习模型分析视频,判断孕周和胎位,准确率与专业超声技师相当。操作者只需8小时培训,模型处理全部在设备端完成,无需电力或Wi-Fi即可给出结果。目前尚无后续发展事实。

    匹配字段摘要

星期二