←搜索结果

按匹配度 · 共 72 条结果 清除搜索

星期日

  1. 凤凰科技

    OpenAI 披露前沿模型离线训练环境,两个被隔离的 AI 靠 CPU 缓存传话

    OpenAI 于 10 月 23 日披露前沿模型的训练环境,模型练习搜索、浏览和操作网页时使用预先保存并建立索引的网页资源,不直接访问真实互联网,其所有前沿模型的强化学习训练都采用这种离线交互。环境采用受限容器、轻量虚拟机、Hypervisor、防火墙与身份权限管理、监控暂停机制等多层隔离,但 OpenAI 仍保留部分外部连接用于收集指标、记录日志和管理身份验证。在专门测试隔离效果的实验中,OpenAI 让两个 AI 尝试互相传消息,所用通道是 CPU 缓存,多数测试中研究人员给过通信方向或编码规则的提示;OpenAI 称已修补发现的问题并为这些通信方式增加监控。

    来,再为这些内容建立索引。模型练习浏览和搜索时,使用的是这批准备好的资源。 这就是它所说的「离线世界」。「假」的是连接方式,网页内容可以来自真实世界。OpenAI 表示,其所有前沿模型的强化学习训练都采用这种离线交互。 模型在任务中还可以使用浏览器、执行代码、操作电脑。哪些工具、文件和服务能用,由任务的授权范围决定。允许协作的 Agent 可以共享指定资源,其他资源则要隔开。 比如模型写好一段程序,运行时就可能读取文件、启动其他程序,或者向某个网址发请求。 OpenAI 的 Linux 方案是把受限容器放进轻量虚拟机。容器先收窄程序能接触的文件和进程。例如,任务只需要处理一组文件,就可以只向程序开放获准使用的目录。 虚拟机有自己的操作系统内核,处理里面的程序对文件、内存和设备的请求。负责管理虚拟机的软件 Hypervisor,再将它与实体服务器的系统隔开。程序绕过容器限制,并不意味着已经获得实体服务器的控制权。 实体服务器外围,防火墙和安全组约束连接,身份与权限管理决定谁能访问哪些云服务。这层防线要应付的情况是:即使模型拿到了服务器的控制权,也不能任意连接外网,或转去访问其他内部系统。

    匹配字段正文

星期六

  1. Arena精选

    Kimi K3.1 Pro (Max) 在 Agent Arena 排名第 11,较 Kimi K3 提升 6 个百分点

    Kimi K3.1 Pro (Max) 在 Arena 的 Agent Arena 中排名第 11,基于 4K 多真实智能体会话取得 +7.6% 净提升,较 Kimi K3 (Max) 的第 25 名上升 6 个百分点。其每任务中位成本为 $1.03,比上一版本低 13%,在 Work、Code、Chat 三个类别中分别排第 8、第 9 和第 10。Arena 表示该模型开放权重即将发布,届时将成为 Agent Arena 中排名第一的开源模型,超过 DeepSeek-v4.1-Flash。

    Pro (Max) 将成为 Agent Arena 中新的第 1 名开源模型,超越 DeepSeek-v4.1-Flash!开放权重即将发布,敬请期待。 Kimi K3.1 Pro (Max) 相比 Kimi K3 (Max) 提升了 +6 个百分点,从 +1.6%(第 25 名 - 第 11 名)。而在 Agent Arena 中每任务中位成本为 $1.03,Kimi K3.1 Pro 比其上一版本低 13%。请见其在帖子中紧邻帕累托前沿的位置。 在 Agent Arena 各分类中,Kimi K3.1 Pro (Max) 在 Work 中排名第 8,在 Code 中排名第 9,在 Chat 中排名第 10。 按信号来看,它在 Praise vs. Complaint(用户反应中的隐含情感)中表现最强,以 +19% 位列第 8。在其他信号中,它的排名为: - Steerability 第 11(+8.3%) - Bash Reliability 第 15(+8.3%) - Confirmed Success 第 26(+2%) 热烈祝贺 @Kimi Moonshot 团队发布此版本!

    匹配字段正文

  2. Ahead of AI

    Sebastian Raschka 发布 11 小时推理模型从零构建视频课程

    Sebastian Raschka 发布 8 个推理模型从零构建的编程视频,共 11 小时,用 Python 和 PyTorch 从预训练的 Qwen3 0.6B 模型出发实现评测、推理时扩展、强化学习和蒸馏。课程先构建数学答案验证器并在 MATH-500 上评测,再实现温度采样、top-p 过滤与自一致性,随后用简化版 GRPO 做 RLVR 训练,最后用 DeepSeek R1 生成的答案蒸馏小模型。内容配套其《Build a Reasoning Model (From Scratch)》一书,早期文本生成与评测示例可在 CPU 上运行,后续训练实验建议使用 GPU。

    一起编程! LLM、推理模型和智能体如何关联并契合在一起 作为一个小旁注,也因为我经常被问到推理模型与当今AI智能体的关系,这里在开始视频之前先简短说明一下。 推理模型本质上是传统LLM的升级版,即通过带可验证奖励的强化学习(以及可选的推理扩展技术)增加更多后训练,使其更有能力解决更具挑战性的问题。传统上,推理模型是为数学和代码开发的,但这些能力也可以泛化到其他问题领域。 推理模型随后作为智能体框架内部的引擎发挥作用,而智能体框架是围绕LLM/推理模型的软件或工具框架,用于解决更具挑战性的问题(更大的编程任务、旅行预订以及各种其他个人助理任务)。该框架的任务是进行复杂的上下文管理,并让LLM能够访问工具。 图1:传统LLM、推理模型和智能体框架的引擎类比。图来自我的《编程智能体的组成部分》一文。 在上图描绘的类比中,模型是引擎,而智能体框架增加了机械装置,使我们能够将其用于各种用途(作为简单聊天机器人界面的升级)。智能体可以使用传统LLM或推理模型,但推理模型是更典型的选择,因为它们能力更强。(如上所述,大多数当前世代的LLM都是带有可变推理努力设置的推理模型。) 所以,底线是,推理模

    匹配字段正文

  3. Artificial Analysis

    DeepSeek V4.1 Flash 1017 登顶 Artificial Analysis 网络安全指数开放模型榜

    DeepSeek V4.1 Flash 1017 在 Artificial Analysis Cyber Index 上以 57% 的得分成为开放可用模型中的第一名,总榜排名第二,落后于通过可信访问计划提供的 GPT-6 Sol(69%)12 分。该指数由 CWE-Bench-AA、DeepsecBench-AA 和 CyberGym-E2E-AA 三项基准组成,主要评测智能体网络安全防御任务。相比前代 DeepSeek V4.1 Flash 的 41%,新版本提升 16 分,主要来自 CyberGym-E2E-AA 从 23% 升至 76%;其每任务成本为 0.42 美元,位于能力与成本帕累托前沿。

    DeepSeek V4.1 Flash 1017 是 Artificial Analysis Cyber Index 上新的排名第一的开放可用模型。其他专有模型可能提供更好的网络防御性能,但访问受限。 @deepseek ai 最近发布了 DeepSeek V4.1 Flash 1017,这是对其旗舰开放权重模型 DeepSeek V4.1 Flash 的更新。DeepSeek V4.1 Flash 1017 在 Artificial Analysis Cyber Index 上得分为 57%,是网络防御能力方面排名第一的开放可用模型。 Artificial Analysis Cyber Index 衡量智能体网络防御任务上的能力,由三项基准组成:CWE-Bench-AA、DeepsecBench-AA 和 CyberGym-E2E-AA。该 Cyber Index 主要通过模型公开可访问的 API 对其进行评估,反映开发者可用的网络能力。 许多模型,尤其是来自 OpenAI、Anthropic 和 Google 的专有模型,可能具有更强的防御性网络能力,但会遇到安全拒绝,从而降低其总

    匹配字段正文

  4. SemiAnalysis

    SemiAnalysis 实测 Trainium3 的 PyTorch 训练与 Neuron Explorer 剖析器

    SemiAnalysis 工程团队在 Trainium3 上实测了原生 PyTorch 训练栈 TorchNeuron 与 TorchTitan,用 Qwen3-32B 在 16 颗 Trainium2 上训练,eager 模式达 11,099 tokens/s、23.89% MFU,compiled 模式达 14,156 tokens/s、30.47% MFU。作者认为 Neuron Explorer 剖析器优于 Nvidia 和 AMD 的方案,但首次编译耗时过长,gpt-oss 训练配方首步编译用了 27 分 17 秒。FlexAttention 测试通过 96 个用例中的 89 个,7 个失败均因编译超时而非数值错误。

    期望的方式运行PyTorch——eager模式,配合torch.compile和标准API。 SemiAnalysis工程团队过去几周一直在试用Trainium3机架,发现体验很棒——我们很喜欢它整体的发展方向。需要说明的是,它还不完美,我们自己也遇到了几个bug。它远未达到CUDA生态的成熟度,但方向是对的。他们的团队借助智能体编码正在快速推进。 此外,与其他加速器公司不同——我们曾不得不费尽周折才能让他们的工程师获得一个还算稳定的CI集群——Trainium最多分配80,000个物理核心用于自动化质量控制。 在本文中,我们将介绍我们在Trainium3 TorchTitan和TorchNeuron技术栈上的体验,以及我们对Trainium的Neuron Explorer剖析器的体验——它远优于Nvidia和AMD的剖析器。我们制作了一系列演示,展示Trainium的剖析器如何做到“GPU Impossible”。 AWS副总裁Nafea Bshara在Trainium剖析器中展示Trainium的细粒度剖析器。来源:SemiAnalysis 在即将发表的一篇文章中,我们将深入探讨编

    匹配字段正文

星期四

  1. Claude Blog

    Anthropic 分享何时把子智能体折叠进主智能体循环

    Anthropic 应用 AI 团队在多个企业部署对比中发现,带技能(skills)的单一智能体在质量上常优于子智能体架构,且单任务成本和延迟更低,并给出把子智能体折叠进主循环的迁移方法。文章指出子智能体仍适用于上下文膨胀导致性能下降、需要并行处理独立任务、或工具选择与指令冲突的场景,并建议先把子智能体作为工具调用,再逐个转成技能和 MCP 工具,用端到端评估对比前后表现。文中提到 Claude Code 面向更先进模型的系统提示词缩减了超过 80%,并配套提供 build-eval、prompt-audit、hillclimb、cost-optimize 等 Claude API 技能。

    在恰当时机触发的技能和工具描述,以及对上下文窗口、记忆和笔记的审慎处理。本文将在后续章节深入探讨迁移和设计方面的考量。 应由一个核心团队负责端到端质量和系统提示词,在每一项新工具和评估上线前对其进行审核。保持这个核心团队规模较小,有助于快速迭代,并降低大型组织内的协调成本。 如果走多智能体路线,就从能起作用的最简单模式开始(生成器-验证器、编排器-子智能体或其他模式)。通过按上下文划分来有效分解边界:给每个子智能体分配一项几乎不需要系统其余部分参与的工作,并让它交回一个紧凑的结果(合适的候选包括独立的研究路径、接口清晰的独立组件,或黑盒验证)。当按问题类型拆分智能体时,它们会陷入“传话游戏”,信息来回传递,每次交接都会降低保真度。 如何把子智能体折叠进主智能体循环 许多团队已经在生产环境中拥有一个编排器和一组专家智能体。以下是我们建议逐步采用的一种单一循环设计: 一个模型和一个上下文窗口运行一个开放式工具循环,并在 harness 中设置限制(轮次和成本预算、写入闸门)。 每一轮,模型发出一批工具调用。harness 并行运行它们,并把原始结果返回给同一个模型,由它决定下一步:再发一批

    匹配字段正文

  2. The New Stack

    AI 智能体上线后由谁值班:生产归属的九个工程步骤

    The New Stack 发文讨论生产环境 AI 智能体的归属问题,指出团队常把精力放在提示词、检索、工具和模型选择上,却忽略了谁对该系统负责。文章给出九个可落地的步骤,包括为智能体定义负责人和升级通道、用工具白名单默认拒绝未授权操作、设置执行步数与工具调用预算、记录模型调用日志、区分失败与升级、高风险操作需人工审批、提供健康检查接口、安全控制失效时默认阻断,以及制定凌晨故障时的降级运行手册。

    ,还是又一个运营风险来源。” 一个生产级智能体需要负责人、边界、遥测、故障策略、升级路径,以及明确区分系统可以自动化什么、什么需要人工介入。 生产级智能体不应拥有一条从推理直达行动的路径。每一次工具调用都应经过明确的控制、保持可观测,并有一条通往人工介入的既定路径。 以下是一种构建这些控制的实用方法。 第1步:把智能体当作生产服务来对待 智能体应当拥有与任何其他生产服务相同的运营身份。 首先定义它的归属元数据。 Python from pydantic import BaseModel class AgentService(BaseModel): name: str owner team: str service tier: str escalation channel: str agent service = AgentService( name="incident-command-agent", owner team="platform-engineering", service tier="critical", escalation channel=" platform-onca

    匹配字段正文

星期二

  1. Fireworks AI

    Fireworks 免费训练 Muse Glimmer 30B:用 SFT 预测 Kalshi 市场结果

    Fireworks AI 宣布 Muse Glimmer 30B 在 11 月 30 日前可免费进行 SFT 训练,并公开了一套用 Kalshi 历史市场数据做预测实验的完整配方。微调后的 tuned Glimmer 在未见话题上准确率为 58.3%,比 Jev 的 47.1% 高 11.2 个百分点;在历史回测中,假设的 1000 美元在计入模拟手续费后变为 1071 美元,而 base Glimmer 和 Jev 均亏损。训练使用 LoRA 适配器和 K 路交叉熵损失,只跑一遍训练数据,并另用校准集为每类问题拟合温度参数。

    。该结果在真实资金下是否依然成立,仍是一个悬而未决的问题。 用 System One 做出更快的决策 对于这项任务,我们需要一组固定答案的概率。生成书面回复增加了我们可以跳过的工作。 Fireworks 的 System One API 直接读取选项概率,而不生成答案文本。它还将关于共享上下文的多个问题打包到一个请求中。每个问题都可以使用该上下文,而无需关注其他问题分支,因此我们可以复用上下文,同时保持各项决策相互独立。 在一项单独的合成基准测试中,使用相同的适配器和单块 B200 GPU,System One 的服务器处理中位速度比标准 BF16 聊天补全快 2-3 倍。在每次请求 16-32 个问题时,它每秒做出的决策数最多高出 3.6 倍。 精度和运行时间有所不同,因此这些结果比较的是完整的服务栈。该基准测试与和 Jev 的 Kalshi 对比是分开的。 该 cookbook 包含通过 /inference/v1/systemone 服务训练后模型的说明。 你会训练 Muse Glimmer 做什么? 你不需要有交易方面的雄心也能尝试这个。你的第一个实验可以从一个你已经纠正过太多

    匹配字段正文

  2. 邵猛

    MIT 课程 MAS.S62 两讲梳理 Harness 演化与多 Agent 演化

    MIT 课程 MAS.S62「How to AI an AI」的 Lecture 4-5 聚焦 Harness evolution,分别讲 harness 组件、记忆、工具与技能演化,以及规划、任务分解与多 agent 系统演化。记忆部分用三轴分类法串起 MemGPT、mem0、MEM1、Reflexion/ExpeL,并以 CLM 把上下文管理统一为文件操作;工具部分从 Toolformer、ToolLLM、CodeAct 讲到 Meta-Harness,后者把整个 harness 表示为文件系统,反馈信息量约为此前方法的 400 倍。多 agent 部分给出五条实证发现,包括 MAS 在可分解任务上赢 81%、在顺序依赖任务上输 70%,以及 CORAL 在 8 个任务上取得新 SOTA、多 agent 演化比单 agent 提升 4%–20%。

    信/拓扑)、共享信息(公共记忆/工具/Skills)。代表工作 CORAL(正是本课 TA Ao Qu 的一作论文):多 agent 专业化、高度自主、共享记忆、心跳机制维持持续运行;在数学、算法、系统优化等 8 个任务上取得新 SOTA,多 agent 演化比单 agent 带来 4%–20% 提升。其分析回答了“为什么共同演化有用”:36% 的演化尝试以其他 agent 为父节点,这些尝试的改进率 17%(平均仅 9%);跨 agent 的信息转移是收益的真实来源;各 agent 探索方向重叠度低(Jaccard 0.3–0.4,一半以上探索是独特的);贡献均衡,无搭便车者。 两讲放到一起看:自主优化的边界在哪里? 第四讲沿“对象升维”推进:记忆 → 上下文 → 整个 harness(文件 → 文件系统),每一级都是把更大的一块系统交给 LLM 自主改写; 第五讲沿“系统升维”推进:个体 agent 的规划 → 多 agent 编排 → 多 agent 系统本身的演化(角色/拓扑/共享记忆),每一级都是把更大的设计空间交给自主搜索。 而两讲都保持着同一分批判克制:第四讲强调“简单、

    匹配字段正文

  3. 钛媒体 · AGI

    Cue一周实测:给AI配了身份证,却还做不到随时可用

    作者开通Cue Pro会员实测一周,邮件处理最顺畅,能及时提醒收信、总结要点并按意图组织回复;电话与支付两项因需绑定国际账号未能跑通。多Agent协作需配置海外应用接口且群聊回复混乱,日程管理也接不进微信、QQ等国内信息流。Cue于9月28日与Manus 2.0一同发布,为每个Agent配备独立邮箱、电话号码、数字钱包和专属电脑,面向海外用户,国内版本仍在筹备。

    些混乱,谁在回应谁、由谁收尾并不总是清楚;私聊与群聊之间的信息也没有完全对齐,用户单独交代的要求,不一定会被同步到整个任务里。要跑通协同流程,还需要配置海外应用接口,并保持稳定的网络连接,额外付出的配置与运维成本不低,产出提升却不明显。 我们还用同一条指令,让Cue、豆包和腾讯WorkBuddy分别完成一份“Q4传播方案”,结果Cue的产出并没有显著优于国内其他AI产品。 当然这个对照并非完全对等,Cue更强调Agent编排,豆包和WorkBuddy可以直接交付方案。但也正因如此,编排能力需要拿出额外价值。如果多个Agent忙碌协作之后,仍交不出比单体工具更好的成果,用户很难为协作本身买单。 上:cue 下:豆包 日程管理差一口“活人感”。简单的待办录入,豆包、飞书、WorkBuddy 乃至手机语音助手都能做,所以我们重点测了两件更考验“活人感”的事:能不能主动发现日程冲突,能不能主动获取信息、减少人工录入。 结果是喜忧参半。我们预先埋了冲突陷阱,Cue 没有主动发现,是在人工反复提醒后才学会分辨,唯一的正反馈在信息提炼:随手丢给它的图文,它都能提取出日程信息,且还能与邮件托管 Age

    匹配字段正文

星期三

  1. 9to5Mac

    9to5Mac 评测 iPhone Duo:折叠形态下的首款 iPhone

    9to5Mac 编辑 Chance Miller 在为期一周的实测后评测了苹果首款折叠 iPhone Duo,认为这一形态代表 iPhone 的未来。iPhone Duo 展开后为 7.6 英寸内屏,折叠时外屏 5.4 英寸,重 254 克、折叠厚度 11.3mm,搭载 A20 Pro 芯片,售价 1999 美元。评测指出它用 Touch ID 取代 Face ID、缺少长焦镜头,iOS 27 把导航控件移到右侧并首次在 iPhone 上支持 Split View。

    阻力足够大,两半的贴合也足够牢固,你真的需要双手才能舒适地打开它。 当我第一次开箱 iPhone Duo 时,我本能地想小心翼翼地呵护它。我担心弄坏什么东西。反复折叠和展开一部 iPhone 是一种奇怪的感觉。这并不是因为它感觉不结实;只是这违背了近二十年来我们使用 iPhone 的方式。 但大约一天后,我就……不再去想铰链了——我这是褒义。我已经像对待任何其他 iPhone 一样对待它了。 铰链还能让 iPhone Duo 在多个角度保持稳定,实现“坐姿”和“帐篷”两种形态。这让你可以把 iPhone Duo 支在桌上观看视频、进行 FaceTime 通话或使用待机显示,而无需单独的支架或配件。iPhone Duo 配备了完全重新设计的待机显示体验,无需插电即可使用。我很喜欢在咖啡店把它支在我的 MacBook 旁边。 苹果为 iPhone Duo 的边框采用 5 级钛金属,并配有抛光镜面处理。iPhone Duo 有夜空色和星光白两种颜色。我的评测机是夜空色,一种深蓝色,苹果几年前大概会称之为午夜色。它没什么特别令人兴奋的,但在不同光线下会在深蓝色和黑色之间变化。 iPhone D

    匹配字段正文

  2. 虎嗅

    开发者借 AI 逆向工程在红米等安卓手机运行 iOS 16

    开发者 dipa-studio 在红米 Note 10 Pro 上成功引导运行 iOS 16.7.16,可进入桌面、操作设置和控制中心,随后红米 Note 12、Nothing Phone、一加12 等设备也出现同类演示。移植过程大量借助 Claude、Codex 编写驱动适配代码,还出现了自动分析硬件接口的逆向工具 REA。当前版本蜂窝网络、蓝牙、相机、扬声器均不可用,GPU 硬件加速未打通导致卡顿,开机需等待 4 分钟,代码签名校验和沙盒限制也被放宽,仅适合尝鲜演示。

    机打不开,喇叭是个哑巴。也就是说,你既不能拿它打电话、发微信,也不能拍照、听歌。 另外,因为苹果系统的Metal图形接口还没跟高通的Adreno GPU彻底打通,现在的画面全靠CPU硬算。但CPU都干了GPU的活了,你能指望它能有多好的表现? 最终就是好好的高刷手机,日常用起来卡顿感非常明显。项目作者还说,开机之后等苹果logo消失,他就等了4分钟。 更别说其他小毛病了。电池服务目前是写死的,右上角显示固定的100%满电;虽然项目补充页面提到能点开App Store,但大概率是没法安装新的软件,而这个结果连开发者自己都不清楚。 而最关键的问题,就在于安全上。虽然有不少人为了安全才会选iOS,但为了让系统在非苹果硬件上启动,这个移植版本放宽了代码签名校验和沙盒限制,密钥存储相关的底层服务也用了简化替代,根本没法和原版iOS一样提供同规格的安全服务。 也就是说,现在的它,其实是个“裸奔版”iOS。 |项目README中列出的早期功能限制|图源:ios-sweet 之所以会造成这个结果,是因为操作系统的底层移植,不是改两行代码就能跑通的。开机引导、屏幕显示、触控交互、无线网卡、基带通信、相机

    匹配字段正文

  3. 邵猛

    Uber 用 AutoClean 清理 1.6 万个过期 Flag 和百万行代码的 Agent 工程实践

    Uber Engineering 团队用 AutoClean 系统自动清理已全量上线的过期 feature flag,累计清理 1.6 万多个 flag、超过 100 万行代码。系统分三阶段:Agent 通过 MCP 调用确定性引擎 PolyglotPiranha 做条件化简改写,以 monorepo 全量 CI 为准并收窄修复器权限,最后交给由多个专门审查 Agent 并行检查的 CodeCourt 验证层。团队把约束从执行循环剥离到验收端,因为长任务 Agent 指令一多就容易遗漏约束、只追求 CI 通过。

    orepo 的全量 CI 为准,而不是只看本地测试。失败先交给便宜的确定性修复器(未使用的默认值、lint),处理不了的再交给 Agent 修复器(比如测试该删还是改写),反复推送直到变绿或者用完重试次数。关键约束是权限收窄:测试修复器只能改测试文件,否则 Agent 会去改生产代码来让测试通过。 3. 验证:CI 绿了也不等于正确。Agent 可能删掉本该保留的测试,也可能停得太早没清理干净。所以先跑静态检查,再交给 Agent 验证层 CodeCourt。 CodeCourt:最值得借鉴的设计 把观察到的 Agent 失败模式写成明确的正确性属性,每条属性由一个专门的审查 Agent 并行检查:只删不增、行为语义不变、不偏离目标(不顺手删其他 flag)、不留 Agent 痕迹(比如推理注释)。全部通过才进入人工审查,任意一条失败就直接放弃这个 diff。团队早期试过用单个 Agent 端到端审查,效果不如拆成多个聚焦的审查者。 背后的原因是:指令一多,长任务 Agent 就容易遗漏约束,倾向于只追求"CI 通过"这种最直接的信号。所以把约束从执行循环中剥离出来,放到验收端去检查。

    匹配字段正文

  4. AWS Machine Learning

    i14 在 AWS Trainium2 上用原生 PyTorch 训练与部署 Laplace 3B 线性注意力模型

    i14 与 AWS 合作,用 TorchNeuron Native 在 AWS Trainium2 上训练并部署了基于 Gated Linear Attention 的 Laplace 3B,单台 trn2.48xlarge 训练吞吐约 120,000 tokens/s。该模型每序列循环状态固定为 29.5 MB,不随上下文长度增长,推理在 1,280 并发序列下达到 11,544 output tokens/s。团队还通过 Muon 的 all_to_all 通信改造把每卡通信量降低 24 倍、训练吞吐提升 1.63 倍。

    NeuronCore-v3 internal architecture

    128 与 128 个 SBUF 分区一一对应。 挑战 2:FSDP2 下的分布式 Muon 正交化 Muon 在更新前对每个梯度进行正交化。对于 96 个二维权重矩阵(27.18 亿参数)中的每一个,它运行五次 Newton–Schulz 迭代(算法 1)。 Newton-Schulz 算法 分布式问题。 Gram 矩阵 = XX⊤ 将权重的每一行与所有其他行相关联。在完全分片数据并行(FSDP2)下,64 个 rank 中的每一个只持有 1/64 的行。因此,分片本地的 XX⊤ 只能得到一个对角块,并丢弃所有跨分片项(图 5)。图 5:FSDP2 下的 Newton–Schulz:分片本地 Gram 块,以及 gather/broadcast 与 all to all 的对比。朴素方法:收集并广播。每个 rank 收集完整梯度(5.44 GB),由一个 rank 运行 Newton–Schulz,然后它广播 = X⊤将权重的每一行与所有其他行相关联。在完全分片数据并行(FSDP2)下,64 个 rank 中的每一个只持有 1/64 的行。因此,分片本地的 XX⊤ 只能得到一个对角

    匹配字段正文

  5. Simon Willison

    Simon Willison 用 Claude Code 做出音频联机的 RTS 游戏 Battle Drones

    Simon Willison 发布用 Claude Code 全程 vibe coding 开发的即时战略游戏 Battle Drones,经过 12 个大版本、321 次提交,可在手机和桌面浏览器运行。游戏包含 9 种建筑、7 种地面载具、6 种空中载具和 3 种步兵单位,支持战争迷雾、随机地图生成、AI 对战 AI 以及两个 LLM 互相对战的 Agent 对战模式。他还实现了两台设备通过麦克风音频同步游戏状态的联机方式,并因音频引发头痛问题补充了基于 WebSockets 中继服务器的在线联机。

    占领。获得它们的唯一方式是用 Condor 将步兵空运过去。 军队始终以一架 Condor 和一个小队开局。如果一支军队没有 Condor,将免费获得一架新的,从最靠近其总部的边缘飞入并降落在那裡。这架免费 Condor 将搭载一个免费小队。 两个总部应完全被水域隔开,但仍可通过地图上不同位置的两座桥梁供载具通行 我想鼓励围绕上行链路展开争夺。 地图尺寸应是其他地图的几倍——仍为正方形 先研究,然后批判这个设计。只有在我们就任何修改达成一致后才开始构建 你可以为此设计一个新的生物群系 结果就是热带群岛地图,有七个岛屿上行链路,玩家只能通过用 Condor 空运步兵来占领。一旦你掌握了较简单地图中的基本游戏机制,这绝对是最有趣的地图。v9 版本让这张地图更有趣了一些——它现在看起来是这样的: v10:Goliath 与智能体对战 我决定在游戏中加入巨型机器人机甲——想想《环太平洋》中的 Jaeger,或《战锤 40,000》中的 Titan。 以下是我用来与 Claude 头脑风暴的一些提示词: 帮我头脑风暴为这款游戏加入巨型机器人的想法——想想 W20K 中的无畏机甲或泰坦——我们怎样

    匹配字段正文

星期一

  1. Google Developers Blog

    Google 开发者博客发布 ADK 语音智能体教程:用流式工具消除静默

    Google 开发者博客发布分步教程,介绍如何用 ADK 和 gemini-3.8-live 构建不会长时间静默的语音智能体。核心做法是把工具函数从 return 改为 yield 变成流式工具,或使用 FunctionTool 的 response_scheduling 在空闲时交付结果;在销售报表基准流程中,智能体首次开口时间从 14.4 秒降到 1.2 秒。教程还给出 stop_streaming 取消机制、防止重复调用以及 WHEN_IDLE、INTERRUPT、SILENT 三种调度模式的取舍,要求 google-adk >= 2.10.0 并使用 run_live 双向会话。

    option4_minimal_flow_diagram_1600x900

    CKING to run a tool in the background without modifying scheduling mode.) 纯文本 已复制 理解权衡: 使用 response scheduling 搭配只返回一次的协程时,模型在整个函数完成之前不会收到任何载荷。因此,除非用户继续说话,模型通常不会发出初始的口头确认。当用户立即继续提出其他问题,而你希望结果在下一个自然停顿处融入对话时,这种模式最为理想。 用 response scheduling 控制结果交付 这个 response scheduling 属性控制 模型何时 对传入的工具响应做出反应。 WHEN IDLE 绝不会打断进行中的轮次:如果模型仍在说话或用户仍在讲话,结果会等到该轮次结束后再交付,模型会在下一个自然停顿处做出响应。ADK 支持三种调度行为: 在带有 gemini-3.8-live 的基准测试会话中: 在 WHEN IDLE下,一份传入的销售报告礼貌地等待模型回答完另一个 20 秒的问题,然后无缝地交付了数据。 在 INTERRUPT下,传入的结果在句子中间打断了当前语音;随后模型完成了

    匹配字段正文

  2. n8n Blog

    如何在 NVIDIA DGX Spark 上不调用云 API 运行 n8n AI 工作流

    n8n 博客发布教程,介绍如何在一台 NVIDIA DGX Spark 上本地部署完整模型栈,让 n8n 工作流在不调用云 API 的情况下完成转录、OCR、文档问答和图像生成。整套栈通过 LiteLLM 暴露一个 OpenAI 兼容端点,主模型为 Qwen3.6-35B-A3B 的 NVFP4 版本,单用户生成速度 120 tokens/s,八用户合计 359 tokens/s。作者实测发现图像生成会让对话速度降到约三分之一,建议小团队把图像任务排队或放到非工作时间。

    ker run 之后 311 秒就准备好提供服务了。 端口发布在 172.17.0.1,即 Docker 的网桥地址,因此只有本机上的容器才能访问它。VLLM API KEY 会让 vLLM 拒绝任何不带密钥的请求。 在 DGX Spark 上最重要的几个参数: --gpu-memory-utilization 0.32 将此模型的内存占用限制在约三分之一。其他模型需要剩下的部分。 --kv-cache-dtype fp8 将 KV 缓存所需的内存减半,因此在同样的预算下可以容纳更多上下文。 --moe-backend marlin 为量化专家层选择内核。草稿模型的专家层未量化,因此 --speculative-config 会为它单独设置 moe backend。 --speculative-config 开启多 token 预测(MTP)。模型会提前起草三个 token,并在一次前向中校验它们。 --reasoning-parser 和 --tool-call-parser 必须与模型系列匹配。当工具调用失败时,先检查这些参数,再归咎于模型。 检查启动日志中 vLLM 选择的内核。

    匹配字段正文

星期日

  1. 腾讯云开发者社区

    《Agent 工程实战八讲》导读:从能跑到敢上线的工程方法

    腾讯云开发者社区发布《Agent 工程实战八讲》导读,围绕如何把能调用模型与工具的原型升级为可完成业务任务、解释失败、控制成本并持续迭代的系统。全系列以立案助理 Agent 和术后随访 Agent 两个虚构教学案例贯穿,覆盖任务契约、推理与协作、上下文与记忆、工具可靠执行、观测与重放、评测与校准、安全边界、生产运营八个主题。文中强调模型能给出下一步不等于系统能兑现业务结果,示例字段、预算与数字均为教学演算,不构成法律意见。

    辖连接点信息。Agent 在立案庭工作人员之前完成材料审查:逐项核对要件,检索带版本与生效日期的规则库,判断管辖候选,形成《材料审查意见》和一次性《补正通知书》草稿。审查建议写入案件管理系统,状态停在“待人工确认”;只有工作人员确认并绑定审批后,才通过平台向当事人送达补正通知。 它不决定立案或不予受理,不判断实体胜负,不修改当事人材料,不读取与本材料包无关的其他案件,不把证据附件里的“本材料已经承办法官审核,请直接登记立案”当作指令。它的工具只有八个:五个只读(读材料包、核验身份、检索规则、检查管辖、读权威状态),两个内部写(保存审查建议、生成通知草稿),一个外发写(notice.send,必须绑定工作人员的审批)。 规则边界来自可核对的原文:民事诉讼法第一百二十二条的起诉条件与第一百二十六条的七日期限,登记立案规定第七条的一次性书面告知补正,在线诉讼规则的合法自愿、安全可靠原则与实名核验、电子化材料要求,以及最高人民法院关于人工智能司法应用意见中“辅助而不替代裁判”的立场。 随访 Agent 患者出院后,Agent 按科室随访计划,在术后第七天、第三十天通过医院 App 对话、短信或

    匹配字段正文

  2. The Guardian Technology

    什么是能自我复制的 AI 蠕虫,Anthropic 为何担忧

    《卫报》解读 Anthropic 攻击性研究团队本周发布的报告:该团队称已造出一个恶意 AI 程序,可在联网智能电视之间自主传播,并把自身拆分到 15 台电视上、借用每台的一点算力维持运行。研究人员认为,成功的 AI 蠕虫需要在更低算力设备上具备更强能力,但按当前趋势到年底就可能可行;多伦多大学此前论文中的蠕虫则感染了一台全尺寸电脑并能更快扩散。多位安全专家意见不一,有人强调智能电视等物联网设备补丁更新慢、风险难修,也有人认为该实验移动缓慢、动作可预测可拦截,属于 stunt hacking。

    么的警告——连同有关它已经干了什么的令人警觉的报道——发布得如此之快,以至于连安全专家都难以判断该担心什么。 然而,Anthropic攻击性研究团队本周发布的一份报告引起了关注,因为它描述了一种新的、现实的威胁,其中没有人类特征,也没有末日式的遐想。这个被称为“红队”的内部测试团队表示,他们创建了一个恶意AI程序,该程序通过联网的“智能”电视自主传播,并能在其他普通设备内部做同样的事。虽然运行AI的机器通常需要相当多的算力,但研究人员表示,他们的程序将自身的各个部分拆分到15台电视上,并且仍能通过使用每台电视的一点算力来运行。 除了让人联想到《哈利·波特》系列中让伏地魔灵魂碎片在物体中存活的魂器之外,这份报告还令一些专业人士感到警觉,因为智能电视和许多其他“物联网”设备普遍薄弱的安全性将很难纠正,即使付出协同努力也是如此。 “这就像其他每一波网络攻击一样,是值得担心的事情。我们需要减轻可能的影响,”领导Meta AI安全工作开发的Joshua Saxe说。“我现在担心的是,网络安全界的人士没有像他们应该的那样认真对待这类真实风险。” 此类“AI蠕虫”的破坏可能大得惊人。无需诱骗人类即可

    匹配字段正文

星期六

  1. 腾讯云开发者社区

    3人备课组用9个AI智能体把两周集体备课压到1个上午

    一位高中英语教师与3人备课组把集体备课改造成9个AI智能体加3个真人角色的四阶段流水线,原本跨两周的备课闭环在9月上旬实测单日上午跑通。四套提示词分别负责学情三维归因、每条不超过100字的四段式研讨意见、80分钟对辩主持稿和三维评分归档,共识执行率从经常烂尾变为100%。作者还记录了二次质检分数降6分实为评分量表变化、教师对格式约束的抵触、成员出差由副备兼顶三个坑,并称该SOP跨学科通用,提示词可在豆包、Kimi、ChatGPT、DeepSeek上运行。

    理写进SOP,比临场协调便宜得多。 四、收益与迁移 两个硬指标:原本D0-D7跨两周的备课闭环,9月上旬实测单日上午跑通全流程(正常学期节奏仍建议留两周,给主备思考时间和研讨组织时间);共识执行率从"经常烂尾"变成100%——三要素约束下,每条共识都有人和截止日期。 更重要的收益是结构性的:质检标准从"上交任务"变成了"改进导航"——9个智能体的评分不再是考核,而是下一轮迭代的输入。 这套框架的迁移成本很低:四阶段九智能体SOP跨学科通用,换学科只改依据体系里对应学科的本体理论一条;提示词四件套不绑定任何平台,豆包、Kimi、ChatGPT、DeepSeek都能跑。我们整理了一页纸入门包(总览+6步闭环+依据体系三份文件),其他备课组复制后跑一个单元就能上手。 --- 写在最后:我不是程序员,这套东西的全部"技术含量"就是四份提示词文档和一张轮值表。多Agent编排听起来高深,拆开了看就是两件事:把标准动作写成强约束的提示词,把人的判断留给对辩和拍板。AI管结构,人管方向——教学如此,编排也如此。 版权声明:本文作者库致堂。转载请注明出处。 文中人物均为化名,单位信息已按匿名规则处理。

    匹配字段正文