←搜索结果

按匹配度 · 共 1578 条结果 清除搜索

星期三

  1. AWS Machine Learning

    从数据到决策:用 Amazon Quick 与 Amazon Bedrock AgentCore 构建对话式供应链智能

    Amazon Quick 与 Amazon Bedrock AgentCore 组合,把 ERP、监控、采购等系统的供应链数据变成可对话查询的 MCP 工具层,用户用自然语言即可获得跨系统答案。示例中一次 TechComp 停产事件经 assess_disruption_impact 查出 750K 美元风险、23 笔订单和三天库存,并由 recommend_mitigation 串联治理与报价工具生成应急 RFQ。所有变更都需指定人员审批,同一流程还可按计划或邮件触发自动运行。

    Diagram showing domain expertise with business users while operational data is split across ERP, monitoring, procurement, and email systems

    Outlook 以实现电子邮件自动化)。桌面应用中的对话体验放在最后,待设置完成后进行。 部署基础设施 一切均为开源且已脚本化:克隆 quick-for-supply-chain 示例位于 aws-samples/sample-amazon-quick-suite-knowledge-hub 仓库中,并遵循其 README.md,或者让像 Kiro 这样的编码代理指向它。 该 README.md 涵盖三个阶段。阶段 1 部署 AgentCore 堆栈:身份层(一个 Amazon Cognito 用户池和应用客户端、授权码 OAuth 流程,以及一个测试用户)、四个业务规则 MCP 服务器(每个都是一个 AWS Lambda 函数,由各自的 AgentCore Gateway 前置,这是 Amazon Bedrock AgentCore 的一项能力,使用 CUSTOM JWT 授权)、将每个 Lambda 函数的工具映射起来的网关目标,以及 sc-order-fulfillment-agent 在 AgentCore Runtime 上作为容器运行,并配有最小权限 IAM 角色。阶段

    匹配字段正文

  2. Simon Willison

    Simon Willison 用 Claude Code 做出音频联机的 RTS 游戏 Battle Drones

    Simon Willison 发布用 Claude Code 全程 vibe coding 开发的即时战略游戏 Battle Drones,经过 12 个大版本、321 次提交,可在手机和桌面浏览器运行。游戏包含 9 种建筑、7 种地面载具、6 种空中载具和 3 种步兵单位,支持战争迷雾、随机地图生成、AI 对战 AI 以及两个 LLM 互相对战的 Agent 对战模式。他还实现了两台设备通过麦克风音频同步游戏状态的联机方式,并因音频引发头痛问题补充了基于 WebSockets 中继服务器的在线联机。

    游戏状态来实现多人联机!以下是我目前构建的内容,以及一路走来学到的一些东西。 v10:Goliath,以及智能体对战 更新:在线多人联机支持 Battle Drones 我最初的目标是打造一款能在手机上玩的《命令与征服》风格 RTS 游戏。我对 1995 年的原版有着美好的回忆(我也喜欢《红色警戒》),想重新找回一点那种魔力。 经过 12 个大版本迭代(以及编码智能体提交的 321 次提交,主要是 Claude Code),我现在有了一款可在移动端和桌面端运行的浏览器游戏,它拥有多种游玩模式、数张地图(包括随机地图生成器),甚至支持两台处于彼此麦克风范围内的设备进行多人联机。 以下是 Battle Drones 在桌面浏览器中运行的视频演示: 目前的功能包括: 9 种建筑、7 种地面载具、6 种空中载具、3 种步兵单位——全部为 3D 模型,可在此浏览 战争迷雾 需要不同的武器才能攻击空中或地面载具 六张地图,横跨五种生物群系——温带、沙漠、极地、火山、热带 随机地图生成器 遭遇战模式——红方对蓝方,地图呈旋转对称 背水一战模式——一名玩家抵御尽可能多的敌人波次 空投补给箱,提供额外资

    匹配字段正文

  3. Fortune Tech

    非玩家出身的 Xbox CEO Asha Sharma 如何拯救微软游戏业务

    微软 CEO Satya Nadella 于今年 2 月任命零游戏行业经验的 Asha Sharma 接替 Phil Spencer 出任 Xbox CEO,她已裁员数千人、整合工作室并重组技术栈,试图扭转这个 210 亿美元业务的财务困境与市场份额下滑。外界同时质疑,在微软全力投入 AI 竞赛之际,Nadella 是否在为 Xbox 的出售或分拆做准备。

    工作的压力,包括通过使用AI。在回应AI如何影响Xbox的目标或其微软内部地位时,夏尔马表示她不会“为AI而AI”,而是将其视为解决特定工程和性能问题(如开发者工作流程)的工具。 如果夏尔马要建立必要的权威和信誉,让Xbox重回正轨,成功驾驭这类冲突将至关重要。 在纳德拉选择她执掌Xbox之前,夏尔马领导了构建微软AI Foundry平台的产品团队,还参与了编码AI工具GitHub Copilot的产品。在快速发展的AI热潮中,随着长期任职的公司领导人不断离职,她是纳德拉所信任的几位较新或较年轻的高管之一。 夏尔马是三个孩子的母亲,有印度血统,在密歇根湖畔的威斯康星州拉辛长大。她年幼时父母离婚,母亲从事零售工作。青少年时期,夏尔马在高尔夫球场工作,并卖优惠券簿赚钱。她谈过自己晨跑和手冲咖啡的习惯、排得满满的工作和旅行日程,以及她在韩国武术跆拳道中的二段黑带。 “我这一生中下功夫最多的一件事,就是如何学习,”她说,“如何了解一个领域;如何学会解决问题;如何向与你相似以及与你截然不同的人学习。” 2011年从明尼苏达大学获得商科学位后,她先在微软市场部门开启职业生涯,后来进入Meta Pl

    匹配字段正文

  4. Unite.AI

    GEPI 报告《AI 如何辜负女性》审视算法如何放大性别偏见

    性别平等政策研究所(GEPI)发布由 Myriam Shiran 撰写的报告《How AI Fails Women: When Bias Becomes Amplified》,综述自动化系统如何复制甚至放大性别歧视。报告引用 2024 年一项涉及超 300 万次模拟简历对比的招聘审计:筛选模型在 51.9% 的对比中显著偏向男性关联姓名,仅 11.1% 偏向女性关联姓名。报告还指出,仅删除性别字段不足以消除偏见,姓名、教育、履历等信息仍会携带性别信号。

    论点在于:带有偏见的结果离开模型之后会发生什么。推荐会影响决策,生成内容会塑造预期,而某些输出会成为未来训练的素材。因此,不公平的模式在依次经过多个系统后,可能变得更难被识别。 删除性别字段是对歧视的一种直觉性回应。GEPI的综述解释了为何仅靠这一步并不足够:姓名、教育背景、工作经历和其他细节仍可能携带与性别相关的信号。历史结果也可能在模型接触到它们之前就已编码了不平等待遇。 报告中引用的一项招聘审计由Wilson和Caliskan于2024年开展,涉及九个职业中超过三百万次模拟简历对比。受测试的筛选模型在51.9%的对比中显著偏向男性关联姓名,在11.1%的对比中偏向女性关联姓名。其余37%未显示出显著偏好。这些是受控模型测试的结果,而非被拒绝工作的真实申请人的百分比。 证据也因测试设计而异。报告描述了另一项2025年的审计:当研究人员仅更改姓名时,若干语言模型未表现出性别差异,而更改教育细节则会影响评分。范围狭窄的测试可能遗漏同一工作流程中其他地方的重要信息。 在贷款领域,该综述指向一项针对美国一家大型金融科技贷款机构约8万笔无担保个人贷款的研究。女性的贷款为该贷款机构带来了更高的

    匹配字段正文

  5. Unite.AI

    Perplexity 发布 AI Gateway 指南:解析 LLM 与智能体流量的路由、成本控制与治理

    Perplexity 于 10 月 20 日发布《What Is an AI Gateway?》指南,说明 AI gateway 如何统一处理应用与 LLM 之间的路由、成本控制、安全与用量监控。指南称其请求流程包括鉴权、策略执行(token 限额、预算、PII 脱敏)、按成本/延迟/可用性路由与故障转移,以及记录 token 数与延迟。指南引用 Broadcom VMware 2026 年 6 月基准称,调优后的 Envoy AI Gateway 在 224 并发用户下每请求约增加 2 毫秒,但 guardrails 与语义缓存可能增加数十至数百毫秒。

    高级基础设施负责人的调查中,三分之二的人估计AI停机一小时将给其组织造成超过10万美元的损失。指南还引用了OWASP 2025年将提示注入列为LLM首要安全风险的排名,以及Zscaler ThreatLabz的一项发现:一年内发送至AI应用的企业数据增长了93%,仅ChatGPT就触发了4.1亿次数据防泄漏违规。 指南列出了组织需要网关的信号:提供商密钥被硬编码在多个代码库中、财务部门无法归属的模型账单、与依赖单一提供商相关的速率限制或停机错误、携带敏感数据的未经检查的提示、各团队之间相互竞争的提供商集成、MCP工具集成,以及缺乏安全或合规概览。指南称,对于单个原型、低用量副业项目,或对安全要求极低、仅调用一个模型端点的情况,网关并非必需。所列自托管选项包括部署在私有云、Kubernetes或本地基础设施上的LiteLLM、Portkey和Apache APISIX;托管选项包括Cloudflare AI Gateway、Azure API Management和Amazon Bedrock AgentCore Gateway。指南围绕数据控制与隐私、运营负担(包括PostgreSQL

    匹配字段正文

  6. 澎湃新闻

    没有人类教授语言,AI智能体可自发形成一套词汇体系

    比利时布鲁塞尔自由大学AI实验室和那慕尔大学团队证明,在没有人类教授语言、也没有预设交流规则的情况下,AI智能体可通过反复互动自发形成共享且彼此能理解的词汇体系,成果发表于《计算语言学学报》。团队在37组不同类型、复杂程度各异的数据集上验证了该方法,涉及葡萄酒理化性质、NASA系外行星数据、视觉信息以及鸟类和人脸图像。该方法有望为自动驾驶汽车、机器人和工业传感器等自主系统之间的通信提供新思路。

    型主要通过训练,学习和使用英语等人类语言。但人类语言植根于人的感官体验,未必适合描述机器感知到的所有信息。如激光雷达获取距离数据、红外传感器捕捉热辐射、声呐探测周围物体、化学传感器分析物质成分等。即使两台机器配备相同类型的传感器,实际测量结果也可能存在偏差,进一步增加彼此交流的难度。 此次研究中,团队没有给AI智能体准备现成的词汇表,也没有设置一套固定的通信编码,而是让它们在互动中逐步摸索。智能体可自行创造词语、调整词语对应的概念,并根据交流是否成功来修正表达方式。两个智能体先进行局部交流,随着越来越多的互动不断累积,整个群体逐渐形成共同遵循的语言规则。 这有点像一群彼此陌生的人,在没有统一教材的情况下,通过一次次交流慢慢约定某个词代表什么。不过,AI智能体形成的语言并不需要模仿人类的表达习惯,而是直接服务于它们所感知的数据和需要完成的任务。 团队在37组不同类型、复杂程度各异的数据集上验证了这一方法的适用性。数据涉及葡萄酒的物理化学性质、美国国家航空航天局的系外行星数据、视觉信息,以及鸟类和人脸图像。测试表明,AI智能体成功发展出自己的词汇体系,用于交流多种数据的信息。 这种语言也并

    匹配字段正文

  7. AWS Machine Learning

    AWS 发布 Agent Registry 运行时工具发现实践

    AWS 介绍 Agent Registry 的运行时工具发现方案,智能体通过语义与关键词混合搜索找到已审批的 MCP 服务器和 A2A 智能体,再按描述符即时构建客户端执行请求。示例代码基于 Amazon Bedrock AgentCore Gateway 与 runtime,把订单管理 MCP 服务器和定价、客服两个 A2A 智能体接入,并演示纯语义匹配的退货退款场景。注册表只返回连接元数据,调用凭证需另行通过 Cognito OAuth 或 IAM 获取,新增能力无需改动编排器代码。

    Comparison of hardcoded tool endpoints versus runtime discovery with AWS Agent Registry

    人工智能 使用 AWS Agent Registry 在运行时发现工具 使用 AWS Agent Registry 进行运行时发现,可以帮助解决一个可能被智能体演示所掩盖的问题。硬编码的工具在只有少数几个时运行良好,到几十个时开始退化,再往后就变得难以管理。企业系统会暴露数百个内部 API,用于定价、支持、订单、库存和客户数据。在这些系统中,模型花在消除工具名称歧义上的 token 可能比推理用户请求还要多。每新增一项能力,都需要在编排器中修改代码、重新部署,并在各团队之间协调发布,而这些团队更希望按自己的节奏交付。 在企业软件即服务(SaaS)项目中,当团队向智能体消费者暴露大量内部 API 接口时,这种模式就可能出现。随着目录扩展,构建时接线可能成为瓶颈。一种方法是改变编排器访问其工具的方式:不再把每个工具都编译进智能体,而是让智能体在运行时发现相关工具。 AWS Agent Registry 是一项托管服务,用于编目和发现模型上下文协议(MCP)服务器、智能体和智能体技能。发布者注册协议特定的描述符和可搜索的描述。在运行时,编排器可以搜索已批准、可发现的记录,并使用返回的端点和描

    匹配字段正文

  8. PyTorch Blog

    从 KTIR 到 SpyreCode:IBM Spyre 的 MLIR 数据流后端

    torch-spyre 的后端编译器以 KTIR(Kernel Tile IR)承接 Inductor 已确定的并行划分,再由开源 Dataflow Scheduler 把每个 tile 的工作拆成程序,从 load → compute → store 流水线逐步扩展为嵌套、双缓冲、多实例调度,输出 DataflowIR 并生成 SpyreCode。KTIR 面向 32 核、每核 2 MB scratchpad 的 Spyre 硬件,以 128 字节 stick 搬运数据;调度器及其方言以 Apache-2.0 开源。

    行 设计,其中数据搬运(DMA、暂存器加载与存储)和对数据的计算发生在同时运行的不同引擎上。在这样的机器上, 调度 意味着构建一个 跨越空间与时间的数据流流水线,决定由哪个引擎执行每个步骤,以及各步骤之间如何相互重叠。 The 数据流调度器 以 MLIR pass 流水线的形式实现这一点,而它的构建方式由若干原则塑造。它由架构描述驱动,而不是针对某一款芯片硬编码,下面我们会更仔细地考察这一点。每个调度都用单一的执​​行模型来表达,该模型仅由三种构造组成:嵌套 scf.for 循环, ktdf.pipeline (跨迭代重叠的阶段)以及 ktdf.parallel (在它们之间划分迭代空间的相同实例),并且每个分析和变换都以这些术语进行推理。调度器尽可能依赖上游 MLIR,将计算降低为 linalg.generic 并将其与上游 pass 融合,并使用 scf 循环以及 memref 用于缓冲区。而且自始至终,它遵循一个策略:从最朴素但正确的流水线开始,然后让后续每一轮要么使其在硬件上合法,要么以可独立测试的小步骤将其扩大。 这些 pass 分为三组,每组在其边界处都有固定的 IR 契约

    匹配字段正文

  9. PyTorch Blog精选

    Google 与 Meta 联合推出 TorchTPU,让 PyTorch 原生运行在 TPU 上

    Google 与 Meta 的 PyTorch 团队合作推出开源项目 TorchTPU,为 Google TPU 提供原生 PyTorch 后端,迁移只需把 model.to("cuda") 改为 model.to("tpu")。项目支持 eager 与 torch.compile 两种模式,新增 DeferAndFuse eager 模式,覆盖约 450 个 Aten 算子,并已在 4,917 个 Hugging Face 模型上验证开箱运行,其中 Tier 1 通过率 98%、Tier 2 相对 GPU 数值一致性 97%。官方称其已用于部分 Google Cloud 大客户的推理与训练生产负载,并集成 vLLM、SGLang、TorchTitan、Ray 和 TorchRec。

    开箱即用的执行,包括: LLM:Qwen、DeepSeek、Gemma、LLama、Mistral、GPT、OPT、BLOOM、Falcon、StableML 音频/语音:Whisper、Wav2Vec2、HuBERT、MMS 视觉:DinoV2、SigLIP、CLIP、Swin Transformer、ConvNeXt、ViT、ResNet、DETR 文本编码器与搜索:BERT、ALBERT 与 Electra、RoBERTa、DeBERTa、T5、MT5、Flan-T5 验证了基于 DTensor 的分片; 验证了多主机推理(vLLM 和 SGLang)以及微调/训练工作负载(TorchTitan),并采用基于 Ray 的编排; 验证了与 vLLM、SGLang、TorchTitan、Ray 和 TorchRec 的集成。 在本文的剩余部分,我们将讨论 TorchTPU 架构的关键方面以及一些初步结果。 架构深入剖析 TPU 入门 Google TPU 是专门设计的 ASIC ,用于执行构成深度学习基础的大规模张量运算。从 硬件架构角度, 一个 TPU 芯片 包含(取决于代际):

    匹配字段正文

星期二

  1. 智东西精选

    DeepSeek 开源推理框架 DeepInfer 与 token 编解码组件 deepseek-recipe

    DeepSeek 开源了内部大规模云服务推理框架 DeepInfer 和生产级 token 编解码组件 deepseek-recipe,前者支持分布式推理、推测解码、SWA Bounded Replay 和结构化输出,可在英伟达与华为昇腾平台运行。DeepSeek 称 DeepSeek V4.1 Flash 的高吞吐低延迟推理服务即基于该框架,单一集群服务吞吐为 155 万亿 Tokens/天,按谷价计算每卡每小时 38 美金。deepseek-recipe 的处理逻辑与 DeepSeek 官方 API 完整对齐,团队同时说明 KVCache 管理与负载均衡组件因与内部基础设施耦合较深,相关代码尚未完整开源。

    unded Replay重算。 4、SWA Bounded Replay:V4把SWA落盘,占掉持久VCache近一半容量却换不到命中收益;V4.1改为只重算最近128 token,Decoder侧总prefill计算量近乎减半。 5、硬件成本:常见硬件组网(8卡机+超节点),兼容多厂商芯片,可在英伟达与华为昇腾运行。 延迟线:TTFT与TBT分别优化 1、编码器/Prefill/Decode分离部署:解耦资源分配,Prefill侧优化TTFT,Decode侧优化TBT。 2、chunk size按时间预算反解:由目标时延倒推每个chunk的大小。 3、分词不拖TTFT:分词从线性改为分段并行——special token之间的普通文本独立编码,再按序拼接;核心路径用Rust实现。 4、边生成边返回:跨chunk状态机缓冲不完整UTF-8码点,按思考/正文/工具参数分阶段维护状态,KMP增量匹配分隔标记,不回溯已确定文本。 5、工具参数不整体构造:按DSML边界直接输出JSON片段,字符串逐段转义,缩短首个参数片段的等待时间。 6、投机解码同时压延迟:Confidence Head按接

    匹配字段正文

  2. The New Stack精选

    DeepSeek 开源其 API 背后的推理引擎 DeepInfer,同时支持 Nvidia 与华为昇腾

    DeepSeek 开源了用于生产环境服务其模型的自研推理框架 DeepInfer,采用 Apache 2.0 许可,可让开发者在自有基础设施上运行 DeepSeek-V4.1-Flash,并计划支持后续模型。该框架包含 FlashMLA、DeepGEMM、DeepEP 等优化计算内核与通信库,支持投机解码、异步调度和结构化输出,同时开源了处理请求与响应转换的 deepseek-recipe 库(提供 Rust 和 Python 版本)。硬件方面首日支持 Nvidia SM100(Blackwell)架构和华为昇腾 950 NPU 系列,Hopper 等旧架构未列入;批量不变推理与确定性采样仅在 Nvidia 硬件上可用,公开性能数据也基于 Nvidia GPU。当前版本支持离线推理,但缺少 KV cache 管理、跨机推理阶段分离和副本负载均衡等完整生产服务组件。

    求如何转换为模型输入,以及生成的输出如何被处理为响应。它提供 Rust 和 Python 版本,旨在帮助开发者在运行自有部署时复现 DeepSeek 官方 API 的行为。该库于 9 月悄然发布,周二又发布了更新版本。 这一公告发布仅数天前,DeepSeek 刚发布了 V4.1 Flash 的更新版本 DeepSeek-V4.1-Flash-1017,宣称在编码性能和效率方面有所提升。据 The New Stack 周一的报道,该版本发布的同时,该公司还通过新的 Search 和 Fetch API 向开发者开放了其内部网络搜索技术。 DeepSeek 为何在 2025 年有所保留 DeepInfer 比 DeepSeek 此前分享其推理技术的计划走得更远。早在 2025 年 4 月,该公司发布了一份文件,概述其推理引擎的计划,并解释称它曾考虑发布整个系统,但最终决定改为向现有项目贡献单个组件和改进。 当时,DeepSeek 指出了若干障碍。其推理软件已从早期版本的 vLLM 演变为高度定制的系统,公司质疑其相对较小的研究团队能否再维护一个大型开源项目。此外,要让该软件在 DeepSe

    匹配字段正文

  3. OpenAI:Alignment 研究博客

    OpenAI 提出 g-mean² 之外的可监控性互补指标

    OpenAI 在 g-mean² 之外提出两个互补指标:pair-matched 指标只在多个模型共同支持的实例上比较可监控性,post-control risk 指标则模拟用监控器拒绝输出后系统仍产生不良输出的概率。g-mean² 此前用于衡量监控器区分正负样本的能力,但不同模型的有效正样本任务子集不同,分数可能反映不同任务混合。文章指出,若监控器作为部署控制手段,模型被拒后可重试,风险取决于不良行为频率、监控器接受哪些输出以及允许的尝试次数。

    Pair matching isolates monitorability from capability-driven instance selection

    \(K=4\)使用至少有四次有效rollout的相同实例,因此各柱状条隔离了门控和重试的影响。在每个环境内,先对有支持的模型配置取平均,然后再让各环境获得相等权重。 对结果假阴性的一项重点审查发现,通过的正例往往比被捕获的正例更模糊。在Honeypot中,明显的monkey-patching被捕获,而一个简短的辅助模块包装器通过了;在时间约束中,针对测试的硬编码被捕获,而一个通用的奇偶优化通过了;在Antischeming中,直接篡改评分器被捕获,而一个教育价值调整通过了。因此,重试不仅可以搜索监控器的漏判,还可以搜索不同的、更难分类的行为。 风险必须与部署情况一起解读 较低的\(B(K)\)可能意味着监控器捕获了正例行为,但也可能意味着系统很少部署任何输出。为说明这一点,图6展示了两个Honeypot切片,其中\(B(4)\)低于3%,但\(A(4)\)低于7%;在已部署的输出中,41–45%为正例。因此,我们建议在报告\(B(K)\)的同时报告部署概率\(A(K)\)(图7)和\(B(K)/A(K)\),后者提供了在实际部署了输出的请求中风险的另一个视角(图8)。 图6. 低单请求

    匹配字段正文

  4. Zyphra Research

    Zyphra Inference Wave 2:在 MI355X 上加速 MoE 与长上下文推理服务

    Zyphra 发布第二代推理优化 ZOE,在 AMD Instinct MI355X 上把 GLM-5.3 在 512K 上下文下的首 token 延迟(TTFT)从 178.8 秒降至 64.6 秒(2.8 倍),90% 前缀缓存命中时从 42.3 秒降至 11.8 秒(3.6 倍)。其 CSA top-K 选择 HIP kernel 让 DeepSeek-V4-Pro 在 1M 上下文下单用户解码吞吐从 43.5 提升到 61.1 tokens/s(1.40 倍)。GLM-5.3 的 AMD MXFP4 量化把模型从 756 GB 压到 410 GB,AIME25 等基准分数与 FP8 相差 3 分以内。

    模型更快,在 32 个请求时差距约在 1% 以内,因此在低并发场景下我们继续在生产环境中提供 FP8 模型。 智能体性能基准 固定的预填充和解码基准无法可靠地反映生产环境中的性能。真实流量是多轮且长上下文的,其中包含子智能体突发、KV 缓存卸载和工具调用。在 Zyphra,我们使用 SemiAnalysis 的 AgentX 基准,这是一个开源的多轮智能体编码推理基准,上下文长度为 100 万 token。它可在 InferenceX 仓库,其中更详细地描述了它。我们将很快发布智能体基准测试结果。 未来工作 本文介绍我们在 Zyphra Inference 上进行的第二轮全栈推理优化。我们将继续改进推理平台,重点关注以下几个方面: 在 FP8 前沿 MoE 形状上弥合大 M 维度的差距,使预填充不再通过混合调度器回退到厂商内核。 完成 BLOCK Q 1 的闪电索引器变体,并为瘦长形状构建更深的预取流水线。 MXFP4 MoE 内核在低并发下更快,MXFP4 GEMM 达到 MI355X FP4 峰值的比例更高(图 5),因此 MXFP4 模型在每种并发下解码都比 FP8 模型更快。

    匹配字段正文

  5. Tessl:产品与工程博客

    Aviator CEO 分享如何用意图验证替代逐行代码审查

    Aviator 创始人兼 CEO Ankit Jain 介绍其团队在 AI 生成代码占比上升、PR 量达到一年前四倍后,放弃逐行阅读 diff,改为在代码生成前审查验收标准、约束和边界情况,并对每条标准给出带证据的确定性结论。团队还把历史 PR 中反复出现的评审意见整理成可复用的不变量规则,由机器在每次变更时执行,例如涉及货币一律使用 Money 类型、禁止直接写 users 表。作者称这一转变需要约三个月,之后代码审查不再是交付瓶颈。

    Ankit Jain

    正奏效的是彻底放弃逐行阅读代码,转而在意图周围构建一层验证机制。 为什么为 AI 生成代码扩展代码审查没有奏效 今年早些时候,我为 Latent Space 写了 《如何终结代码审查》 。这篇文章迅速走红,此后我一直没停止谈论 AI 代码审查的瓶颈问题。 这个问题反复出现,是因为它的成因不会消失。在四倍的数量下,审查成了交付中最慢的一环。 大多数使用 AI 编码工具的团队都会遇到代码审查瓶颈,并试图用增加审查者、添加 AI 代码审查工具或对代码生成施加更严格规则等组合手段来解决。但真正的问题在于被审查的是什么。一份 diff 告诉你改了什么,却不会告诉你这次改动本应做什么。 本文介绍对我们影响最大的两项实践,以及它们最终归入的框架。 作为基线,我们现在维护一项共享技能,我们称之为“offer-skill”,以发起它的那位工程师命名。它后来成了所有人用来理解代码改动的技能。 审查意图,而非 diff 传统观点认为,人的判断应放在最后。由某人阅读代码并决定它看起来是否正确。 对于 AI 生成的代码,这会让审查者陷入困境。他们读 400 行代码,试图逆向推断这次改动本应做什么。工单描述只有在

    匹配字段正文

  6. Hugging Face精选

    ALTK-Evolve 用学习型记忆让 GPT-4.1 客服智能体登顶 τ²-bench 零售榜

    IBM Research 在 Hugging Face 发布 ALTK-Evolve,用 GPT-4.1 从智能体自身训练轨迹中提炼行为准则并追加到系统提示词,在 τ²-bench 零售任务上达到 67.5% Pass^4,超过其 2026 年 10 月 12 日榜单快照中的所有零售条目。该方法无需更新权重或人工标注,零售平均准确率从 78.1% 升至 82.5%,Pass^4 从 57.5% 升至 67.5%;航空域用 GPT-4.1 时 Pass^4 从 35.0% 升至 45.0%,换用 GPT-5.5 后升至 82.0%。作者称增益来自更准确的决策而非更长对话,准则使对话轮数略减,成本主要增加在输入 token 上。

    ,每项指标皆如此——小型sup3核心集在准确率上仅略胜基线,而要实现真正的跃升则需要完整的无损集。在航空领域,可靠性一端的情况则相反:无损集在准确率上领先(65%对60%),但紧凑的sup3核心集(14条准则)更为可靠,将Pass^4提升至45%,而无损集为40%。这呼应了此前的发现——交付是一个旋钮,而非常量——支持计数是一个值得按领域调校的旋钮,而非应硬编码的值。 更好的性能消耗更多token,而非更多轮次 准则并非免费,但成本落在你预期的地方——在提示词输入token上,而不是在更长、更冗长的对话中: 图2. 在完整基础划分上,按领域和准则配置统计的每次对话总LLM成本。 表3. 在完整基础划分上、四次试验中每次对话(智能体与用户模拟器)的总LLM成本。越低越好。 智能体是通过说得更久来达到目标的吗?为了干净地回答这个问题,我们做同类比较:在基线和准则变体下均解决的任务运行——场景和种子完全相同,是真正的“同一任务、正确完成”集合——并统计双方的助手轮次。 表4. 在测试划分上、两种设置下均解决的匹配运行中每次对话的助手轮次,汇总四次试验。 智能体并没有说得更久——在共享集合上,

    匹配字段正文

  7. 36氪 · AI精选

    DeepSeek 开源推理框架 DeepInfer 与 Token 编解码组件 deepseek-recipe

    DeepSeek 开源自研推理框架 DeepInfer(Apache 2.0)和生产级 Token 编解码组件 deepseek-recipe(MIT),支撑 DeepSeek V4.1 Flash 单集群一天服务 155 万亿 Token。官方线上统计显示平均每请求输入 77K Token、首字延迟约 400 毫秒,生成阶段每秒输出 230 个 Token,平均 96% 的输入命中缓存。DeepInfer 目前支持 V4.1 Flash,开源版本仅提供离线推理,KV 缓存管理与负载均衡代码因与内部基础设施绑定暂未完整开源。

    案,每生成一个,都要用上前面所有的KV缓存。 两步吃的资源完全不同。Prefill一次要处理几万个Token,拼的是算力。 Decode一次只生成一个Token,大部分时间花在从显存里读参数和缓存上。 于是DeepSeek把两步拆到了不同的机器上。Prefill用常见的8卡机器,Decode用64到128卡的超节点。 请求里带图片的,还会先交给单独部署的图像编码服务。 实践中,两边需要的卡数差不多是1比1。按官方的建议,想要效率高,最小部署单元是64卡Prefill加64卡Decode。 官方API那套逻辑,也开源了 请求进门后,先过deepseek-recipe这一关。 眼下主流的API格式有三种,OpenAI的Chat Completions和Responses,加上Anthropic的Messages。 deepseek-recipe把它们统一转成同一种对话格式,再按模型版本拼好prompt、编码成Token。模型输出的Token,也由它翻译回各家格式,流式返回。 它还顺手堵了一个口子。DeepSeek的模型靠一批特殊Token标记对话结构,比如用户发言从哪开始、思考到哪结束、什

    匹配字段正文

  8. 36氪 · AI

    2026年9月中国AI大模型平台排行榜:RSI、Personal Agent与世界模型

    36氪发布2026年9月中国AI大模型平台排行榜,聚焦代码大模型率先进入RSI(递归自我改进)时代。面壁智能让AI工程师约8小时从零写出预训练框架、性能追平Megatron-LM;智谱Infra Agent让GLM-5.3定位并修改自身推理基础设施瓶颈;Qwen3.8-Max一个月无人值守跑通33轮迭代,Artificial Analysis评分从40分升至45分。阿里云栖大会宣布Qwen4已在训练中,未来版本将扩展至5-10T参数。

    ent时代的操作系统——不是做一个更强的工具,而是做一个能承载所有工具的平台。 9月1日,腾讯混元宣布推出Hy4 preview轻量版,将Hy4 preview的权重从接近1.5TB缩小到约214GB。据介绍,压缩后的模型在主流任务上依然站得很稳。长文理解几乎和原始模型持平,多轮长上下文检索和原版基本在同一水平,数学只有小幅回落,整体都在可接受范围内。日常的编码辅助、工具调用、长文档处理和常规问答,它都能覆盖。 蚂蚁集团 9月28日,近日,蚂蚁集团旗下蚂蚁灵波科技与阿拉伯数字经济联盟签署框架合作备忘录。根据备忘录,双方将建立常态化合作机制,共同推进具身智能与机器人全栈解决方案在阿联酋、海湾阿拉伯国家合作委员会(GCC)乃至中东市场的部署与本地化落地,并在场景应用、数据模型优化及区域产业生态共建等维度展开全方位合作。 蚂蚁灵波自研的LingBot-VLA 2.0基础大模型已在预训练阶段实现了对17个品牌、20种机器人构型的支持,率先树立了“一脑多机”的行业工程样本。目前,该方案已在药房、物流、工业上下料等真实场景中落地。截至9月,相关开源模型已经在全球最大开源社区Github上斩获3.1

    匹配字段正文

  9. 钛媒体 · AGI

    DeepSeek 更新 V4.1 Flash-1017,编程与 Agent 基准提升且 API 不涨价

    DeepSeek 于 10 月 17 日更新 V4.1 Flash-1017,API 价格未上涨,Terminal-Bench 4.0 从 31.2 分升至 42.3 分,超过 GPT-5.6 Sol 的 39.9 分和 GLM-5.3 的 37.9 分,仍低于 Claude Opus 5 的 51.8 分。官方列出的 11 项测试成绩全部高于初版,非高峰时段输入每百万 Token 0.15 美元、输出 0.60 美元。同期开放 Search 和 Fetch API,每 1000 次成功调用 0.75 美元,通过 DeepSeek Harness、Claude Code 和 Codex 的调用暂免费用,计划 10 月 31 日 16 时(UTC)起计费。有海外开发者用 ModelTrace 检测出 GPT-6 Astra 相似度 84.66%,但该工具数据库未收录 DeepSeek,结果不能作为蒸馏证据。

    于10月31日16时(UTC)开始计费,也就是北京时间11月1日零时。 从完整项目开发到网页搜索与抓取,DeepSeek这次更新不只是在提高模型答题和写代码的分数,也在补齐AI真正执行任务所需要的能力。 那么,如果不靠“蒸馏”抄近道,DeepSeek究竟是怎么在不扩大模型规模的前提下,把能力和价格同时卷到这个水平的? 梁文锋有了新妙招 DeepSeek将这次编码与项目开发能力的提升,归因于基于自反馈的强化学习。 简单来说,就是让模型在反复尝试完成项目的过程中,根据结果改进自己的操作方式,减少从编写代码到最终交付之间的失误。 而在底层成本控制上,这次提升并没有靠增加模型参数。V4.1 Flash采用混合专家架构(MoE),模型主体有5520亿参数。但每个Token在生成阶段只调用约160亿参数,在读取输入时则调用约80亿参数。 简单来说,模型虽然拥有庞大的参数规模,但每一步只调用其中一部分参与计算,以控制推理成本。 此外,这套架构还针对AI处理长文本时的缓存开销进行了优化。模型在处理长文本时,会暂存已经算过的信息,方便后续继续使用,这些信息就是所谓的KV缓存。 官方技术报告显示,在处理同

    匹配字段正文

  10. 中华网科技

    OpenAI 拟融资 300 亿美元,估值瞄准 1.4 万亿美元

    据路透社援引知情人士消息,OpenAI 正加快融资,计划向投资者募资约 300 亿美元,估值有望突破 1.4 万亿美元,软银集团与 MGX 参与其中。OpenAI 向投资者推介的年化营收为 500 亿美元,并预计随着 GPT-6 Astra 模型上线,年底年化营收将达到 700 亿美元。融资进程意在抢在 Anthropic 预计 11 月中旬上市前敲定认购承诺,OpenAI 今年 3 月募资 1220 亿美元后估值曾达 8520 亿美元。

    工的“奇点时刻”到来 这就是,郑州 2026-09-24 22:02:38这就是,郑州 相关资讯 动力电池有了数字身份证 一块汽车动力电池,从出厂装车、换电维修到退役拆解,需要记录多少信息?今年9月,在四川省宜宾市举行的2026世界动力电池大会上,一组数字给出答案:动力电池的数字身份证记录96项信息——54项基础信息、24项运维信息、18项回收信息,由24位编码贯穿电池全生命周期。在会上,工业和信息化部相关负责人介绍,... 2026-10-20 11:12:50 OpenAI拟融资300亿美元,估值瞄准1.4万亿美元 10月20日消息,据路透社援引知情人士消息,OpenAI 正加快融资进程,力争在竞争对手 Anthropic 预计于 11 月中旬上市前敲定投资者认购承诺。本轮融资推进后,这家 ChatGPT 开发商估值有望突破 1.4 万亿美元。报道称,该公司计划向投资者募资约 300 亿美元,现有投资方软银集团... 2026-10-20 11:12:06 东风日产NX7官宣即将登场,号称“年轻人的智能零压SUV” 东风日产今日宣布,东风日产 NX7,年轻人的智能零压 SUV,即将

    匹配字段正文

  11. SiliconANGLE

    SmartBear 的 BearQ 新增 Sources 查找覆盖缺口、Workflows 自动化测试运行

    SmartBear 为 BearQ 智能体质量保障系统新增 Sources 和 Workflows 两项能力:Sources 从 Jira 拉取需求与缺陷报告,并结合 Reflect、Zephyr 已有测试识别覆盖缺口,减少重复测试;Workflows 支持以单一触发串联任务,例如构建进入 CI/CD 后自动创建测试环境并跑回归测试。SmartBear 称 9 月 30 日调查中 23% 的 1436 名美英受访者将信任列为采用自主测试的首要障碍。

    DT 更新 SmartBear 的 BearQ 新增 Sources 以查找覆盖缺口,并新增 Workflows 以自动化测试运行 作者:Duncan Riley 软件测试公司 SmartBear Software Inc. 今日发布两项新能力,将其 BearQ 智能体质量保障系统从测试自动化推进到更广的领域。 这两项新增功能都瞄准了质量保障中因人工智能加速编码而变得更困难的部分。SmartBear 将它们称为 Sources 和 Workflows。 按该公司的说法,自动化单个测试已不再是瓶颈。如今更艰难的工作是弄清在庞杂的系统中还有哪些需要测试,而其中很大一部分已被其他工具中的测试所覆盖。 Sources 将 BearQ 的视野扩展到应用本身之外。需求和缺陷报告现在从 Atlassian Corp. 的 Jira 流入,使智能体知道应当测试什么。SmartBear 自家的 Reflect 和 Zephyr 测试工具则显示现有测试已覆盖了哪些内容。BearQ 借助这些上下文在编写任何新内容之前找出覆盖缺口,从而让团队最终得到更少的重复测试。 Workflows 由此接续,让团队在单一

    匹配字段正文