←搜索结果

搜索“推理”

按匹配度 · 共 680 条结果 清除搜索

星期三

  2. 事件4 条新闻 · 2 个事实

    MiniCPM-V 4.7 在 Apple Silicon 上实现端侧推理

    2026年10月13日,面壁智能宣布 MiniCPM-V 4.7 在 Apple Silicon 上获得 Day 0 全端侧推理支持。据当日报道,该模型(1B 与 35B-A3B)通过与 Nativ 合作在 Mac 上实现全本地推理,支持图像与视频理解;在 Apple Silicon 搭配 Nativ v0.4.x 实测中,1B 版 prefill 超 24K tokens/s、decode 315 tok/s,35B-A3B 版 prefill 超 4K tokens/s、decode 90 tok/s。10月13日至14日的后续报道称,面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,为 35B-A3B 的 MoE 模型,可在手机上以仅 3GB 内存运行,能识别现实路牌、按约束做规划、解析复杂文档并对视觉数据推理,同时提供轻量 1B 版本,覆盖 iOS 与 Android。

    匹配字段标题

  3. 事件3 条新闻 · 2 个事实

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

    2026年10月13日,Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型。该模型总参数 24B、每 token 仅激活 2B,是 LFM2.5 家族中最大也是最后一款模型,基础版与后训练版均已在 Hugging Face 和 Playground 开放权重。据官方博客,它采用显式思维链的纯推理模式,上下文窗口从 32,768 扩展到 131,072 tokens,词表从 65K 扩至 128K,预训练数据从 17T 扩至 33T tokens;在八项智能体与工具调用基准中的五项领先或持平 Qwen3.6-35B-A3B,AutomationBench 得分为 27.69 对 8.72,LiveClaw 为 48.09 对 38.19;在 Apple M5 Max 上解码 184 tokens/s,单张 NVIDIA B300 GPU 高并发下输出超过 21K tokens/s。10月14日,OpenRouter 宣布该模型已上线,称其会先推理再作答,面向智能体与工具调用场景。

    匹配字段标题

  4. 事件1 条新闻 · 1 个事实

    Rohan Paul 提出推理定价存在规模惩罚

    2026年10月14日,Rohan Paul 提出判断:推理定价存在规模惩罚,最优每 token 价格给到承诺量最大者。其同源证据以 RouterPlus 为例说明这一判断:该服务把多个团队的需求合并成与供应商的一笔大单,各团队按自身流量份额享受该批量单价,使非批量买家也能拿到批量定价。该服务还会用真实用量测试模型,挑出够用且成本最低的那个,避免所有任务都付费调用顶级模型。作者认为这种模式最适合热门开源模型,因为多个团队本就需要相同权重跑在同类硬件上。目前尚无后续发展事实。

    匹配字段标题

  6. 事件1 条新闻 · 1 个事实

    马斯克称分布式推理云是大事

    2026年10月14日,马斯克就SpaceX分布式推理云发表评论,称“确实,这是一件大事”。该表态由马斯克本人发布,属于同一事实的代表性证据。目前没有后续发展事实,也没有官方证据或补充交叉来源,事件状态停留在这一评论本身。

    匹配字段标题

  9. 事件2 条新闻 · 1 个事实

    FireRedTeam 发布 FireRedASR2S 及权重与推理代码

    2026年2月12日,FireRedTeam 发布一体化语音系统 FireRedASR2S,并放出模型权重与推理代码。该系统包含 ASR、VAD、LID、Punc 四个模块,各模块均称达到 SOTA,且可独立使用。其中 FireRedASR2 支持中文(普通话及 20 多种方言口音)、英文、中英混说以及语音和歌声转写,在 4 个普通话公开基准上平均 CER 为 2.89%,在 19 个中文方言口音基准上为 11.55%,均优于 Doubao-ASR、Qwen3-ASR-1.7B、Fun-ASR 和 Fun-ASR-Nano-2512。FireRedVAD 支持 100 多种语言的语音、歌声和音乐检测,F1 为 97.57%;FireRedLID 覆盖 100 多种语言和 20 多种中文方言,准确率 97.18%;FireRedPunc 中英文标点预测平均 F1 为 78.90%。技术报告见 arXiv。目前尚无后续发展事实。

    匹配字段标题

  10. 事件1 条新闻 · 1 个事实

    OpenAI 介绍用推理模型检测真实使用中的失准行为

    2026年10月,OpenAI 介绍一种分析真实对话的方法,用内部推理模型充当 AI 裁判,从用户情绪恶化等细微信号中检测并诊断模型的对齐问题。据其 Alignment 研究博客,在允许使用数据的生产对话中,情绪恶化的对话出现 OpenAI Model Spec 违规的概率约为其他对话的两倍,AI 裁判还能发现用户自身未察觉的问题。离线评测显示,能力更强的裁判模型(GPT-5 > OpenAI o3 > OpenAI o1)严重程度判断更校准、F1 更高,说明这类审计能力会随模型能力提升而增强。目前该故事尚无后续发展事实。

    匹配字段标题

星期二

  1. 事实所属事件

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

    2026年10月13日,Liquid AI 发布 LFM2.5-24B-A2B 端侧智能体模型。该模型总参数 24B、每 token 仅激活 2B,是 LFM2.5 家族中最大也是最后一款模型,基础版与后训练版均已在 Hugging Face 和 Playground 开放权重。据官方博客,它采用显式思维链的纯推理模式,上下文窗口从 32,768 扩展到 131,072 tokens,词表从 65K 扩至 128K,预训练数据从 17T 扩至 33T tokens;在八项智能体与工具调用基准中的五项领先或持平 Qwen3.6-35B-A3B,AutomationBench 得分为 27.69 对 8.72,LiveClaw 为 48.09 对 38.19;在 Apple M5 Max 上解码 184 tokens/s,单张 NVIDIA B300 GPU 高并发下输出超过 21K tokens/s。10月14日,OpenRouter 宣布该模型已上线,称其会先推理再作答,面向智能体与工具调用场景。

    English translation is being prepared.

    匹配字段标题

    查看事件：Liquid AI 发布 LFM2.5-24B-A2B 端侧推理模型

星期四

  1. 事件3 条新闻 · 1 个事实

    Microsoft公布Clea Maia 300推理XPU规格

    2026年10月14日,Microsoft公布第三代自研推理加速器Clea Maia 300的规格。据The Next Platform报道,该芯片在Open Compute Project Summit 2026上亮相,采用台积电2纳米N2P工艺和chiplet架构,封装内含7颗芯片与8个HBM4堆栈,配备288 GB HBM4和18 TB/sec内存带宽。微软称一机架96颗Maia 300的token吞吐量最高可达一机架48颗Maia 200的7倍,每瓦性能提升2.5倍,单机架功耗约167千瓦,面向更大规模的智能体推理负载,ATL 2.0网络可将128个机架、12,288颗加速器连入同一一致性域。早先报道称,该芯片面向推理负载,预计2027年开始量产部署,官方称其每兆瓦token数比主流GPU系统高40%,TDP为950瓦;微软表示Maia 200已在Copilot等生产负载中运行,并部署于美国、欧洲和澳大利亚。

    匹配字段标题

星期四

星期五

星期日