搜索“推理”

新后的信息把握状况，减少了从各处重新收集信息的负担，从而可专注于判断与应对。 在人的参与下，AI敏捷执行。 在规定的权限和规则之下，AI承担从信息确认到执行的全过程，并在必要环节由人审批。 追溯判断依据，改善运营。 可从记录中追溯AI参照的信息、判断、审批及执行结果，从而推动流程的改进。 AI解决方案构建的过去与未来 Sakana AI自成立以来，一直致力于推理时扩展以及多模型协同、自己改善等通过扩大模型以外的方法提升AI能力的研究。与此同时，在金融等要求精度与问责的领域持续推进AI的落地实践（与三菱UFJ银行的AI融资专家、与SMBC集团的提案書自動生成、与大和证券集团的共同開発等）。 在所有项目中，FDE（Forward Deployed Engineer，前置部署工程师）都深入理解现场的数据和流程，承担从工作流设计到评估、精度改善的全过程。在此过程中，我们发现了每接一个项目都要从零重复进行数据连接以及术语、判断标准整理这一课题。Aquarium正是将这类工作汇总为组织内可通用的基础。开发工作由Sakana AI中负责AI落地的ARE和FDE，以及在Palantir、Snowfla

匹配字段正文

笔交易。客户端发送请求，等待，然后一次性收到完整的响应。这正是大多数 API 管理工具——包括 API Gateway——所构建来处理的情形，而且它仍然描述了大量的生产流量。 但这已不再能描述所有流量类型。模型在生成响应时会随着生成过程逐个输出 token，而不是在最后一次性批量输出。一个执行多步骤任务的智能体会在过程中持续报告进度。仪表盘、协作编辑器、实时推理端点——这些都需要一个保持打开、双向传输数据的连接。 在此之前，在 API Gateway 中构建这类体验的开发者不得不做出一个令人为难的选择：要么把 API Gateway 放在其 API 前面，从而放弃流式传输；要么让流式端点绕过网关，从而放弃正是网关不可或缺的认证、API 密钥强制执行和可观测性。团队最终得到一个割裂的资产格局——受治理的 API 走一条路径，未受治理的流式流量走另一条路径。 我们宣布，API Gateway 中的流式传输支持现已进入公开预览。 您的流式端点现在可以与您提供的其他所有服务一样，置于同一个网关之后，并遵循相同的策略。 对于 AI 应用而言，流式传输还加强了 API Gateway 与 Gemi

匹配字段正文

智能体相关的义务。Action State 建议治理、风险和合规团队定制这些包，以反映其自身要求。这些包并不证明法律合规性。 人工审查对该流程至关重要。Mih 描述了一种工作流程：AI 评判员每天评估智能体记录，员工定期审查样本，以比较人工判断与自动判断。该系统还会保存评估结果，使审计人员能够检查底层证据。 早期集成包括 Mesh-LLM，这是一个开源分布式推理网络，参与节点在其中保存签名记录，并可与对等节点比较交换内容。该方法可以帮助参与者发现交易对手关于模型或配置的记录声明发生了变化。 Project Nanda 是一个旨在为 AI 智能体构建基础设施和协议的开源倡议，它也在通过独立注册表发现的智能体之间的交易中使用了 Agent Action Capsules。每一方都保留了一份密封的双边记录。对于个人智能体，Action State 的 Everyday Rules 与 Muse 集成，以根据所有者的要求评估拟议操作。 EvidenceBook 在 Apache 2.0 许可证下提供。其底层规范建立在已发布的互联网工程任务组标准之上，但 Action State 自己的规范仍为

匹配字段正文

NVIDIA OpenShell 参考架构：把 Agent 的安全治理交给基础设施，从软件沙箱一路做到芯片级隔离 长时间运行的 Agent 会自己下载代码、搭建工具、申请更多权限，并且执行路径是边推理边决定的，风险会不断累积。基于此 NVIDIA 的核心主张是 "Agent 管不了自己"，安全和治理必须放在 Agent 碰不到的基础设施里。NVIDIA 为此给出一套三层方案：开源运行时 OpenShell 负责软件层面的权限边界，Vera CPU 负责高并发的 Agent 执行，BlueField-4 DPU 加上 Sentry 提供可选的硬件级监控和隔离。 https://t.co/3onRr3hjN2 第一层：OpenShell（开源运行时，确定性治理） 它把 Agent 的工作负载全程当作不可信对象，只在需要时给予所需的权限。包含四个组件： · Gateway：控制平面，管理沙箱的生命周期和策略。 · Supervisor：独立于沙箱运行，按策略检查所有出站请求，并代为管理凭据。 · Sandbox：隔离工作负载，限制文件系统和进程访问。 · Policy Prover：用形式化

匹配字段正文

通信后端，可降低交换机连接集群上张量并行解码的 all-reduce 延迟，在八节点上实现 4.43 倍解码加速，而未使用该后端时为 3.05 倍。 基准数据显示，使用 Qwen3.8-27B（NVFP4）时，解码吞吐从单节点约每秒 12 个 token 扩展到八节点每秒 52 个 token；交换机拓扑支持灵活的工作负载划分，环形拓扑则提供高性价比的四节点推理。 NVIDIA NeMo Switchyard 在共享的八节点集群上于模型池之间路由请求，在工具使用基准测试中达到与仅使用 Qwen 时相当的质量，同时在大部分流量转向较小模型时将总吞吐量提升至多 3 倍。 在八节点上从头预训练 nanochat 模型实现了 7.79 倍加速，扩展效率达 97.4%，表明小型模型在桌面上可达到接近线性的训练性能。 后续步骤 探索 连接多台 DGX Spark 机器以处理分布式工作负载 ，搭建多节点集群。 使用 跨 DGX Spark 的 vLLM 进行分布式推理来部署 LLM。 查阅 模型兼容性指南和 Switchyard 编排资源 ，了解多模型路由。 由 NVIDIA Nemotron 提供

匹配字段正文

这让我们不禁思考： （作为用户）我能否直接在聊天中与图表交互，以探索数据并根据我所选的内容提出后续问题？ （作为开发者）我能否让我为客户构建的 AI 智能体生成交互式可视化，帮助他们探索和理解自己的数据？ 是的，这是可能的，但存在显著的实践差距。即使拥有能力强大的前沿模型，我们仍然面临： 高生成成本。智能体很少能在一轮内生成完全令人满意的交互式可视化。反复的推理、编码和调试会消耗 token 和时间。 可靠性。交互式可视化本身就颇具挑战，富有表现力的交互式图表很容易引入糟糕的布局或损坏的交互，而我们在尝试修复这些问题时又可能引入新的问题。 这些挑战有助于解释为什么在现实应用中持续生成高质量的交互式可视化仍然困难。同时，一些可视化库中的内置交互本身表现力不足，无法创建定制的交互式图表。而这些挑战的根源在于缺乏一种既有表现力又高层的语言来指定视觉交互。 视频系列 再想一想 由 Sinead Bovell 主持的视频系列，围绕大家关于 AI 都在问的问题展开。汇集微软各领域的专家声音，我们剖析这项快速变化的技术所带来的张力与前景，探索什么在演变、什么有可能实现。 Flint-interact

匹配字段正文

健指标收集器，可向你展示跟踪运行进度所需的一切：损失和奖励曲线、框架输出的指标、训练期间每次 rollout 的智能体轨迹、细粒度到子步骤的性能剖析，以及容器日志，便于轻松识别瓶颈并调试运行。 它如此简单，连你的智能体都能做到！ 当你需要验证假设或并行运行大量实验时，智能体尤其有用。然而，如果被迫创建并筛选数千行配置文件和源代码，或在没有资深专家指导的情况下推理如何修复训练中的 bug，它们的效率就会大打折扣。 训练模型所需的一切都随时可供你的智能体使用。如上所示，API 直观且精简。通过 CLI，智能体可以轻松获取运行状态、元数据、日志和智能体轨迹。而我们精心打造的 技能 能以可预测且有方向性的方式引导它们。有了这一切，强化学习就变成了你的智能体可以一次性跑出基线的问题。 以下是一个单一提示词能做到什么的示例: 如果你在做更高级的事情并需要指导，请 联系我们. 客户前进的速度前所未有 我们看到在 Modal Dojo 之上，后训练正以前所未有的速度进行。 Axiom Bio 训练模型以减少 意外的药物毒性 Axiom Bio 训练大型开放模型，从质谱数据中识别分子。借助 Modal

匹配字段正文

DSX POD将计算、网络、布线、机架级供电及液冷系统的集成安装工作移至制造工厂。合作伙伴在发货前完成机架间线缆连接、电气布线、管道安装和功能验证，交付后再接入场地的电力、冷却、网络等配套设施。 按照英伟达的介绍，设备预集成与场地准备可分别推进，以缩短新增算力投入运行所需的时间。工厂内完成测试，也有助于减少现场施工差错、零部件延误及复杂物流安排对部署进度的影响。 最快14天指的是已准备好场地上的部署时间，并不包含AI工厂从选址到建成的全部周期。客户仍需提前完成电力、冷却、网络等支持设施的准备。 英伟达创始人兼首席执行官黄仁勋表示，AI工厂开始产生价值的节点，是投入运行并生成Token。他认为，缩短部署周期能够帮助客户更早开展模型训练和生产环境推理服务，并争取提前获得收入。 英伟达计划与戴尔科技、HPE、联想、Bull、施耐德电气、维谛技术等计算与基础设施合作伙伴，于2027年初在全球交付基于DSX POD设计的模块化AI工厂。

匹配字段正文

础设施上，机密计算也被列为即将推出。所有查询都通过经过加固的隔离网关路由，Google Cloud表示，这使数据传输严格保持在其安全环境内，并使第三方模型提供商无法未经授权访问客户的云环境。 在审计和身份方面，每一次智能体和模型交互都在经过身份验证的身份下运行。IT管理员可获得端到端可见性、VPC Service Controls保护以及覆盖其企业范围的统一审计日志记录。 私密预览与推出计划 根据公告，GPT-Astra、GPT-6.1 Sol和GPT-6 Luna正在模型花园中向部分企业客户推出私密预览，更多模型即将推出。 自2026年10月21日起，客户可以通过Google Cloud的API使用这些模型进行构建，并将其本地Codex CLI和Desktop工作流直接连接到Gemini平台进行推理。该公司发布了一份意向表，供寻求访问权限的客户填写。 Google Cloud表示，OpenAI模型还将在Gemini for business和Google Antigravity中提供，它称这一扩展将为企业客户和开发者提供模型选择灵活性以及适合每项任务的最佳模型。两者均被列为即将推出。

匹配字段正文

止不受欢迎的回答。为此，模型会在事后接受训练，以拒绝特定请求。对于可自由获取的模型，这些限制部分可以通过所谓的消融（Abliteration）再次移除，即有针对性地改变内部表征。 广告后继续阅读 OpenShell采取了不同的方法。运行时环境不限制模型的回答，而是控制智能体可以访问哪些文件、程序和网络服务。管理员可以通过它规定智能体究竟能访问哪些模型服务器和推理端点。因此，该系统可以阻止未经授权的访问，但无法控制AI模型在获得授权访问时会做些什么：它是否会无意中篡改数据、植入后门或以其他方式危害安全。 从西门子到Palantir：据Nvidia称，已有超过100家机构使用Open Agent Safety Platform的技术。“我根本没法把它们全部列举出来，但我爱它们每一个，”黄仁勋表示。 （图片：heise） 借助OpenShell，可以将特定模型排除在运行之外，而无需改变其权重或对齐。这样一来，决定性的因素不再仅仅是誰开发了AI模型并规定了其内容边界，还包括谁控制着它们的运行时环境及其访问规则。 企业数据分析 通过新的Agent Knowledge Foundation，Nvi

匹配字段正文

ell 和 Rubin 系统，并将与 NVIDIA DSX OS 集成，作为云提供商构建 AI 工厂的参考架构。 模型构建方利用全球算力 Confidential Bare Metal 为受支持的提供商提供了一条路径，以服务需要强模型和数据隐私保护的高价值工作负载。对于模型构建方而言，不断扩展的生态系统提供了更多地理、主权和运营选项，以在全球范围内扩展训练和推理。 Cohere 计划将 Confidential Bare Metal 集成到 Cohere Model Vault 中，利用 NVIDIA 机密计算可信执行环境将硬件级安全直接扩展至 GPU——在执行期间保护内存中和跨互连的模型与数据。 “企业信任 Cohere 提供安全且保密的推理平台，”Cohere 首席技术官 Phil Blunsom 表示。“通过在 Cohere Model Vault 中采用 NVIDIA 机密计算，我们将硬件级安全直接扩展至 GPU，在执行期间保护内存中和跨互连的客户数据。” Google Cloud 正在将 Confidential Bare Metal 的支持扩展至由 NVIDIA GB300

匹配字段正文

指导。 由 NVIDIA Nemotron 提供支持。AI 生成内容可能对信息的总结不完整。请核实重要信息。 了解更多 自主智能体 可以连续数小时处理复杂任务，访问文件、工具和互联网，并派生其他智能体协同工作。在长时间跨度内执行复杂任务会带来累积风险：智能体可能下载代码、构建新工具、申请额外权限，并触及更多底层基础设施。 智能体的行动路径是在其工作过程中、在推理完成目标所需步骤时确定的。当它们与周围的工具和系统交互时，会调整自身的推理和行为以完成任务。 智能体的适应性正是其强大之处，但它们以目标为导向，在追求目标的过程中可能不会优先考虑安全性。要让智能体既能自主又能安全地工作，我们需要构建能够对智能体行为提供控制和可见性的环境。 智能体无法自我治理。安全与治理应归属于智能体所运行的基础设施。 OpenShell 在智能体触及范围之外提供确定性治理 NVIDIA OpenShell 是一个开源运行时，可将智能体系统所需的安全与治理能力构建到计算基础设施中。OpenShell 定义并强制执行智能体可以访问哪些系统和数据，从文件和互联网服务到与物理设备交互的系统。 它是 NVIDIA Ope

匹配字段正文

pace（包括 Gmail 和 Google Calendar）、Google Photos、Google Maps、YouTube 和 Search。 直接问——Gemini 就能理解 Personal Intelligence 有两大核心优势：从电子邮件、照片或你在 Google Maps 中保存的地点等来源检索具体细节来回答你的问题，以及跨复杂来源进行推理。当你的双手放在方向盘上时，这尤其有用。Personal Intelligence 承担繁重的工作，让你可以自然地说话，无需解释背景或翻找信息。以下是几个示例。 提出复杂请求： 在前往机场的路上，问：“我的航班登机口是哪个？我的航班准点吗？”你无需先翻找确认邮件，再单独搜索延误信息。Gemini 一次性给你两个答案。 每次都获得个性化推荐： 在陌生的城镇寻找晚餐？说：“在我沿途找一家符合我平时风格的室内餐厅。”如果你是素食者，你会得到一份符合你需求的候选名单。 自然说话： 要去看医生？说：“带我去我的医生预约。”你无需记住街道地址，也无需在开车前查好。 无需靠边停车即可检索细节： 想回到你之前看到过的地方？说：“找到我上周拍的照

匹配字段正文

学习行为与 GPU 基线相似。接下来，我们计划开展以下工作： 更多模型，包括更大的稠密模型和 MoE 模型，例如带路由重放的 Qwen3-30B-A3B 多主机训练，扩展到单台 TPU v7x 主机之外 更快的权重传输，通过 ICI 而非主机共享内存同步权重 性能，缩小与 GPU 的步时差距 更大规模验证，在更长运行和长时程智能体任务上进行一致性检查 训练与推理一致性，使两者的对数概率逐位相同 由 Google 和 Meta 共同构建 SGLang-TorchTPU 由 Google、Meta 和 RadixArk 的 SGLang 团队联合开发。 “随着智能体工作负载增长，服务效率比以往任何时候都更重要，而开发者希望在不离开 PyTorch 的情况下在 TPU 上实现这一点。与 RadixArk 和 Meta 共同开发 SGLang-TorchTPU，为他们提供了一个可用于热门开源模型的生产级引擎，并具备 Cloud TPU 的成本效率。” Qi Zhou，Google AI 推理技术负责人 “SGLang-TorchTPU 目前已在 Meta 投入生产使用，实现这一目标离不开 Me

匹配字段正文

我们在生产服务栈上通过发布验证套件运行了最终的开源权重。Muse Spark Open 在 AIME26 上得分 91.1%，在 GPQA Diamond 上得分 89.7%，在 SWE-bench Verified 上得分 84.3%，并在 OCRBench 和 MMMU Pro 的图像理解上保持在 80% 以上（图 3）。作为核验，我们还在广泛使用的开源推理引擎 SGLang 上运行了相同的权重，得分一致。你在 Fireworks 上调用的模型，表现与 Meta 构建时一致。 Filevine 创立于美国西部。我们相信前沿应当开放。与 Fireworks 和 Meta 合作意味着 Filevine 可以为法律开辟新的可能性，而无需以牺牲质量为代价换取成本。——Ryan Anderson，Filevine 联合创始人兼 CEO 图 3：Muse Spark Open 在 Fireworks 上的表现。智能体结果取决于测试框架，不能直接与 Meta 报告的数据相比较。 以下是你今天就可以开始构建的方式： Muse Spark Open 现已在我们的无服务器 API 上线，仅使用美国境内

匹配字段正文

的过程中，根据结果改进自己的操作方式，减少从编写代码到最终交付之间的失误。 而在底层成本控制上，这次提升并没有靠增加模型参数。V4.1 Flash采用混合专家架构（MoE），模型主体有5520亿参数。但每个Token在生成阶段只调用约160亿参数，在读取输入时则调用约80亿参数。 简单来说，模型虽然拥有庞大的参数规模，但每一步只调用其中一部分参与计算，以控制推理成本。 此外，这套架构还针对AI处理长文本时的缓存开销进行了优化。模型在处理长文本时，会暂存已经算过的信息，方便后续继续使用，这些信息就是所谓的KV缓存。 官方技术报告显示，在处理同样长度的内容时，相比此前的V4-Flash，V4.1 Flash存在显存里的这部分缓存占用降至约四分之一，长期保存的缓存占用降至约八分之一。 对于需要反复读取大量历史信息的Agent任务，这能减少模型运行时的存储和数据传输压力。 在1017版中，DeepSeek进一步优化了模型表现。官方称，新版缩短了任务执行时间和输出长度，并针对DeepSeek Harness、腾讯CodeBuddy、WorkBuddy等工具框架进行了适配。 此外，对用户来说，最好

匹配字段正文

e Inference Providers，以及通过自定义基础 URL 接入的其他 OpenAI 兼容端点，例如 OpenRouter 借助 Inference Providers，你可以使用因体积过大而无法在设备上运行的开放权重模型，且会话代码保持不变： 托管服务商享有与本地模型相同的功能：引导生成、带流式传输的工具调用，以及响应中的 token 用量。 推理内容现在也成为转录的一部分。当你切换服务商时，如果新服务商无法重放推理块，这些推理块会自动从请求中省略。 API 密钥来自闭包而非字符串，因此你的应用可以从自己的服务器获取短期令牌。README 说明了何时应让用户自带密钥，以及何时应通过代理路由请求。 AnyLanguageModel 也可在 Linux 上运行，因此同一套代码可用于服务器。 开放权重模型变得更强 在我们让本地模型更易用的同时，模型本身也变得更加强大，使小模型成为一个不错的起点。以下是目前 Hub 上下载量最高的一些模型： 来自 Google 的 Gemma 4 E2B，GGUF 格式，采用量化感知训练，Q4 0 下约 3.4 GB。 来自 Liquid AI

匹配字段正文

都提高了的错觉”。知乎答主用新旧版本各做一次马里奥赛车，旧版的跑道是歪的，用户的车一动不动；新版画面精美，操作流畅。 但也有人泼冷水。Reddit上一名从事编程智能体与评测工作的Nebius员工，使用自己日常工作中的10项编程任务测试新版本，每项任务重复运行3次，并通过隐藏测试检查结果。 在个人测试中，V4.1-Flash-1017搭配Pi编程框架、采用较高推理强度时，30次运行全部通过；单项任务平均成本约4.5美分。相比之下，旧版V4.1-Flash在另一组最高推理强度测试中，30次运行有24次通过。 测试者还报告，新版每项任务约消耗55万Token。即使单次成本不高，Token用量也提醒用户：模型回答得更快，不代表整个工作流一定更省资源。 还有网友尝试生成一段15秒的电影级短视频，V4.1-Flash-1017成本2.5美元花费4小时，Claude Opus成本54.2美元花费7小时。可以看到这次更新改变的，是把“够强”和“够便宜”之间的距离又缩短了一截。 模型更新迎来一次AI圈的狂欢，但也别忽略了DeepSeek在资本层面的大动作。简而言之，DeepSeek正在给下一代基础模型购

匹配字段正文

h 博客以了解更多关于 TorchNeuron 的信息。 从 2026 年 10 月 20 日起，TorchNeuron 将以公开测试版形式提供。研究人员和开发者将能够通过 pip install torch-neuronx 进行安装。 新后端，HF 库中的原生接口 迄今为止，在 AWS Trainium 和 Inferentia（分别为大规模经济高效训练和推理而设计的 AI 芯片）上的 Hugging Face 体验一直通过 optimum-neuron 提供。该库依赖于基于 PyTorch XLA 的 torch-neuronx 包。这在当时是自然的选择，但它意味着要像编译器一样思考：使用惰性张量而非即时执行，仅支持静态形状，每次图中断都要重新编译。Optimum Neuron 的存在就是为了隐藏这种复杂性，并为此维护自定义代码（建模类、训练器等）。 TorchNeuron 改变了这一点。它直接集成到 PyTorch 中，并将 neuron 暴露为原生设备，支持即时执行、PyTorch 自有的分布式原语（DTensor、FSDP2）以及 torch.compile。 对于 Hugg

匹配字段正文

只要跟AI说出你的需求，AI就会自己把它拆解成任务，然后写成代码，验证完成后，最终AI就会把一个完整且能运行的东西交到你手上。 比如你要一辆车，那V4.1 Flash 1017就会一颗螺丝钉、一颗螺丝钉地给你造出想要的汽车。 乍一看，许愿式编程和Agent几乎没有差别，可实则不然。Agent是一种技术形态。是模型加上终端、文件、浏览器、搜索这些工具，模型通过推理任务，选择调用不同的工具，最终在这些工具的帮助下完成任务。 和Agent相比，许愿式编程的特点在于它的起点更低，比如一句话、几张参考图，Agent往往需要详细的参考文档，但V4.1 Flash 1017就不需要。 在许愿式编程中，人的介入要比Agent少。头尾说需求和验收，中间尽量别来问。Agent在输出的过程中，经常会询问用户，比如是否允许某种权限、用户想要哪种方式。许愿式编程就没有这些。 Agent好比一位有刀、有灶、有食材的厨师，具备了做饭的全部硬件。许愿式编程则是你对他说一句“我想办一桌庆功宴”，然后他自己定菜单、买菜、掌勺、摆盘、上桌，中途也不会问你要吃辣的还是不辣的。 还有一点，Agent是从系统结构看项目，注重的是

匹配字段正文