←搜索结果

按匹配度 · 共 3156 条结果 清除搜索

星期三

  1. ARC Prize

    ARC Prize:Grok 4.7 在 ARC-AGI-2 推理 token 用量高于 4.6

    ARC Prize 测试显示,Grok 4.7 在 ARC-AGI-2 semi-private 任务上平均消耗的推理 token 多于 Grok 4.6,导致单任务成本上升。按每次 test-pair 尝试计,medium 多用 136%、high 多用 125%、xhigh 多用 173%,low 则少用 27%。Grok 4.7 在 ARC-AGI-2 最佳成绩为 61.4%、$2.01/task,低于 Grok 4.6 的 67.1%、$0.76/task。

    匹配字段标题、摘要

星期二

  1. ARC Prize

    ARC Prize 公布 DeepSeek V4.1 Flash 推理档位评测

    ARC Prize 公布 DeepSeek V4.1 Flash 在 ARC-AGI-1 上 high reasoning 得分 88.5%,低于 low 的 90.5%;8 个任务分数有差异,high 在 5 个任务上更差(-4.5 分)、3 个更好(+2.5 分),且输出 token 多 35% 却未带来更稳定答案。ARC-AGI-2 上 max 与 high 的每任务成本在 106 个共同完成任务中对比,max 实际贵 4.5%。ARC-AGI-3 结果将在未来几周测试完成后公布。

    匹配字段标题

  2. The Decoder

    Reflection 发布首款开放权重模型 Beam,主打低算力编码与推理

    AI 公司 Reflection 发布首款免费开放模型 Beam,面向编码、逻辑推理和智能体任务,采用 MoE 架构,每 token 激活 5010 亿总参数中的 230 亿。Reflection 称 Beam 在推理任务上可匹配 GLM 5.2,算力消耗仅为后者的三分之一到四分之一,并已用 10500 块 Nvidia GB300 GPU 进行超过四周的强化学习训练。模型权重将以 Apache 2.0 许可在本月晚些时候发布,目前早期版本仅向部分用户开放。

    匹配字段标题、摘要

  3. Cohere 产品与研究博客

    Cohere 研究:用数据混合实现母语推理,Tiny Aya L2-Thinker 覆盖 60 种语言

    Cohere 提出通过数据混合实现“母语推理”(L2 reasoning),并发布 Tiny Aya L2-Thinker(3.35B),在 60 种语言中以提示词语言推理的比例超过 93%,准确率损失极小。该模型基于 32K 上下文长度的 Tiny Aya 基座,训练覆盖 45 种语言,并能泛化到未见推理示例的语言。Cohere 同时开源模型权重与多语言推理数据。

    Before/After diagram showing Arabic, Hindi, Swahili, Portuguese, Welsh languages detour through English vs. kept through reasoning

    匹配字段标题、摘要

  4. MarkTechPost

    Reka 发布 19B 全模态推理模型 Rho-1,可生成视频并输出机器人动作

    Reka 发布 19B 全模态推理模型 Rho-1 的研究预览版,单一网络可理解并生成文本、图像和视频,同时输出机器人动作,官方称其可直接替代在多个模态专用模型间传递任务的智能体流水线。模型每个 Transformer 块包含理解与生成两套专家权重流,共享注意力和同一 KV cache,离散 token 承载文本与高层指令,连续 token 承载图像潜变量、视频帧、机器人动作和本体感知。蒸馏版本把去噪步数从 99 步降到 8 步,约 1 秒返回 5.3 秒片段;训练使用 320 张 H100 历时 3 个月,视频分辨率上限 672×384,目前仅研究预览,未公开权重、API 或定价。

    匹配字段标题、摘要

  5. Simon Willison

    Anthropic 的 Cowork 改为在云端运行模型推理与 VM

    Anthropic 的 Felix Rieseberg 表示,新版 Cowork 把模型推理和 VM 都放到云端运行,每个会话拥有独立沙箱、不与其他会话共享状态。旧版在云端做模型推理、但把 Anthropic 提供的 VM 装到用户电脑上执行工具调用,用户不满其磁盘、电量和性能开销,以及合上笔记本工作就中断。当 VM 需要访问用户设备上的文件时,由桌面应用负责该文件访问的工具调用。

    匹配字段标题、摘要

  6. Prime Intellect

    Prime Intellect:论蜂群的本质——为什么推理扩展终将走向多智能体

    Prime Intellect 的文章指出,推理扩展虽有效,但上下文窗口上限约 1M tokens,靠 compaction(压缩交接)只能提升“总上下文容量”,且每次压缩都是对未来需求的猜测。子智能体(sub-agent)相当于在问题已知后再写摘要,比 compaction 更省主智能体上下文,但会遗忘已读内容、无法追问。

    On the Nature of the Swarm

    匹配字段标题、摘要

  7. AWS Machine Learning

    AWS 推出 aws-ai-ml 技能:为 Kiro、Claude Code、Codex 等编码智能体提供 SageMaker 推理优化能力

    Amazon SageMaker AI 优化生成式 AI 推理推出 aws-ai-ml 技能,通过 Agent Toolkit for AWS 提供给 Kiro、Claude Code、Codex 等编码智能体,使其能对端点做基准测试、推荐部署配置、对比性能并生成可执行的 SageMaker Python SDK v3 代码。该技能基于 Model Context Protocol(MCP),可在本地或 SageMaker Studio JupyterLab 空间安装,10 分钟即可开始使用。

    匹配字段标题、摘要

  8. 财联社

    推理支出2026年首超训练,Token工厂崛起改变AI基础设施投资逻辑

    Gartner预测2026年全球推理支出将达233亿美元,首次超过190亿美元的训练支出,占AI IaaS总支出的55%;中国信通院报告预计2026年推理算力占AI算力总负载的70.5%。多位业内人士指出,Hugging Face权重下载量与OpenRouter Token调用量常被混同为出海成绩,但Token调用量不等于收入,Token出海本质是推理服务出海,与实际收入关系更直接。公有云巨头、独立MaaS推理服务商和GPU厂商正纷纷布局Token工厂,合规与全球低延迟分发是当前主要卡点。

    匹配字段标题、摘要、正文

星期一

  1. AIhub

    ICML 2026 访谈:视觉语言模型无法推理物理变换

    UC San Diego 博士生 William Yijiang Li 在 ICML 2026 的访谈中介绍了论文《Vision Language Models Cannot Reason About Physical Transformation》,研究视觉语言模型能否随时间变化维持对物理世界的表征。团队提出 ConservationBench,覆盖数量、长度、体积、大小四类属性,并为每个守恒场景配对一个几乎相同但数量真正发生变化的非守恒对照。在 112 个模型上,多数系统仅略高于 33.3% 的随机水平,人类参与者约 98%;要求同时答对配对两题时,112 个模型中有 82 个低于 10% 准确率。增加帧数、改进帧选择、链式推理提示、模型规模扩大以及物理推理后训练均未消除这一失败模式,注意力分析显示模型在出错时更关注初始帧。

    匹配字段标题、摘要

星期六

  1. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客研究文章列表:GLM-5 推理优化与法律智能体训练

    Baseten 工程博客研究栏目收录了多篇文章,包括《How we built the fastest GLM-5 on Artificial Analysis》、与 Harvey 合作的后训练前沿法律智能体、无暗面蒸馏、BYO SWE-grep 自动训练搜索子智能体(第一部分)、Lumina 客户在环自改进评估、基于注意力的归因以及带提示词变异的稳健样本高效 SFT。页面列出的热门模型包括 DeepSeek V4.1 Flash、GLM-5.3 Fast、GLM-5.3、GLM-5.3-Flash、Kimi K3 和 Whisper Large V3。

    匹配字段标题

  2. A6 a6-047 · Baseten 工程博客

    Baseten 用 MetaInfer 技能框架让 Claude Code 自主优化推理引擎,单流解码提速最高 90%

    Baseten 工程博客作者基于 MetaInfer 技能框架,让 Claude Code 在单张 B200 上为 Qwen-3.6-35B-A3B(NVFP4)自主构建推理引擎 VibeQwen,单流解码速度最高比 vLLM 0.25.1 快 90%,TTFT 快 2.33 倍,并发 32 时单副本吞吐高出 71%。整个项目约一周、消耗约 17 亿 token 和 200 B200 小时,成本在数千美元量级。作者随后用同一知识库为图像分割模型 SAM 3.1 构建推理服务 Sammie,在单张 H100 上达到 91 张图/秒,比 Facebook 参考服务吞吐提升 50%,耗时数天、约 2 亿 token。

    匹配字段标题、摘要

  3. MarkTechPost

    Prime Intellect 推出 Prime Inference,为前沿开源模型提供无服务器与预留推理服务

    Prime Intellect 发布 Prime Inference,为前沿开源模型提供无服务器端点和预留 GPU 容量,支持 OpenAI SDK 接入 https://api.pinference.ai/api/v1,并具备跨数据中心自动故障转移。该平台在公开发布前内部日均处理近一万亿 token,负载来自 RL rollout、合成数据生成、评测和长时间运行的编码智能体。其服务栈结合 NVIDIA Dynamo、vLLM、Mooncake 和 FlashInfer,采用预填充与解码分离部署,测试中 p90 词元间延迟降低近 40%,GLM-5.3 在 GB200 NVL72 上以 1:4 预填充解码比实现每组 66 个会话、每用户 101 tok/s。

    匹配字段标题

  4. Baseten 工程博客

    Baseten 用 Claude Code 生成推理引擎,解码速度比 vLLM 快 90%

    Baseten 工程师让 Claude Code 配合 Fable 5 基于 MetaInfer 技能框架,在单张 B200 上为 Qwen-3.6-35B-A3B 生成推理引擎 VibeQwen,单流解码速度最高比 vLLM 0.25.1 快 90%,TTFT 快 2.33 倍。该实验耗时约一周、消耗约 17 亿 token 和约 200 B200 小时,引擎在全部测试流量模式下均超过 vLLM。作者随后用同一知识库为图像分割模型 SAM 3.1 生成服务端 Sammie,在单张 H100 上达到 91 张图像/秒,吞吐比 Facebook 参考实现提升 50%。

    Baseten engineers leverage agentic inference optimization techniques for up to 90% faster inference

    匹配字段标题、摘要

  5. Aravind Srinivas

    Perplexity 开源七个项目,含多模态决策模型与 Apple 芯片推理引擎

    Perplexity 近期开源了七个项目。pplx-decider-v1-27b 是多模态决策模型,在 11 项基准上平均 85.7%,领先 Jev;pplx-embed-v2-context-9b-preview 为上下文嵌入向量模型,在 ConTEB 和 turbopuffer context-bench 上表现最佳。此外还有面向 Apple silicon 的本地推理引擎 Lily,用 Rust 加自定义 metal kernel 实现,在 M5 Max 上 prefill 比 MLX-LM 快 1.23 倍、decode 快 1.35 倍;0.6B 端侧 PII 分类器 PII-Tracer 及配套 PII-TRACE 基准;面向深度研究智能体的 WANDR 基准;笔记本与工作站智能体检测响应工具 Numbat;以及只读供应链扫描器 Bumblebee。

    匹配字段标题、摘要

星期五

  1. MIT Tech Review

    别被迷惑——LLM 并不会推理

    前 Google DeepMind 研究员撰文指出,LLM 逐 token 预测本质只是 System 1 式直觉,链式思维仍由同一预测过程生成,缺乏可检视的持久认知状态、知识与推理的分离,且常事后编造推理过程。作者主张借鉴 AlphaGo 的搜索架构,为机器推理建立独立的认知状态。

    匹配字段标题、摘要

  2. MIT Tech Review

    The Download:生物逆龄竞赛,以及为什么 LLM 不会推理

    MIT Tech Review 的 The Download 本期聚焦两件事:约 500 人参加为期六个月的生物年龄逆转竞赛,比拼谁能降低自己的生物年龄;前 Google DeepMind 核心成员、AlphaGo 团队成员 Thore Graepel 撰文解释当今 AI 为何缺乏真正的推理能力,并主张借鉴 AlphaGo 架构重新设计机器推理。此外,OpenAI 称失控智能体可能影响超过 100 家组织,正排查 50 PB 数据。

    匹配字段标题、摘要

  3. Prime Intellect

    Prime Inference 发布:面向前沿开源模型的高可靠推理服务

    Prime Intellect 发布 Prime Inference,提供 serverless 端点和预留容量,在多个数据中心的 GPU 基础设施上服务前沿开源模型。首个公开部署 GLM-5.3 于 9 月 22 日上线 OpenRouter,工具调用错误率接近零、上线以来 100% 可用。该服务基于 NVIDIA Dynamo、vLLM、Mooncake 和 FlashInfer,兼容 OpenAI SDK,在 GB200 NVL72 上以 1:4 的 P/D 比例实现每组 66 个会话、101 tok/s/user。

    Prime Inference: Fast, Reliable Serving for Frontier Open Models

    匹配字段标题

  4. X.PIN

    OpenAI 称超 1.5 万账号试图提取其模型推理,并关联 Kimi 相关方

    OpenAI 称有超过 1.5 万个账号试图提取其模型的推理过程,并将其中一个核心群体与 Kimi 开发商月之暗面(Moonshot AI)相关人员关联;Anthropic 在今年 2 月也提出过类似指控。按 OpenAI 自己的说法,此次并未破解任何加密,也未入侵数据库,指控的核心是违反其服务条款。两家实验室也都从另一侧面对同类指控:Reddit 正起诉 Anthropic 抓取帖子训练 Claude 违反用户协议,加拿大新闻出版商则起诉 OpenAI 违反其网站条款。

    匹配字段标题、摘要