←搜索结果

按匹配度 · 共 1168 条结果 清除搜索

星期五

  1. Latent Space

    为什么 AI 算力是矩形的——对话 Modal CEO Erik Bernhardsson

    Modal CEO Erik Bernhardsson 解释,传统按固定 GPU 数量和时长签订的算力合同呈矩形,而真实负载会波动,Modal 通过聚合数千客户需求提供弹性切片。Modal 已跨过 10 亿美元年化收入、以 160 亿美元估值完成 7.5 亿美元 D 轮融资,并累计启动近 30 亿个 sandbox。sandbox 目前约占 Modal 收入的 1/3,其增长主要来自编码智能体、后台智能体和强化学习。

    以我们实际上不得不往前走得更保守一点,比如,你知道,在过去一年左右,在弃用和移除功能方面,我们必须非常小心地更新网上每一个示例 55:30。是的。而且,而且,而且,你知道,技能,对吧?是的,有类似那样的东西。但是,但是,还有现在网上也有数量惊人的 modal 代码,它们会进入训练数据。我见过,这算是一个,你知道,有点意思的例子,顺便说另一件事,显然就像类似于搜索引擎优化,有所谓的智能体引擎,你知道,不管人们怎么叫它,智能体优化。我们经常跑内部基准测试,我们会问智能体,比如,嘿,你能帮我们部署一个 stable diffusion 吗?用你想用的任何工具。然后我们看它是否推荐 modal。那些东西对我们随时间追踪非常有用。或者比如,嘿,启动一些沙箱,或者比如,嘿,给所有沙箱供应商排名。所以我们花很多时间做那些事情来确保。你们对此怎么做?是的,你说,嘿,你知道,构建这个 stable diffusion 的东西,它推荐 modal 吗?是的,你们对此怎么做?是的,我觉得那更难。我觉得,你知道,就像搜索引擎优化,我觉得主要靠内容,就是你必须发布大量内容。 在某种程度上,你也可以,比如稍微看到

    匹配字段正文

  2. Cohere 产品与研究博客

    Cohere Model Vault 上线机密计算公测

    Cohere 宣布 Model Vault 的机密计算功能进入公开测试,基于 Microsoft Azure 上的 NVIDIA H100 GPU 机密计算能力,为托管模型推理提供硬件级隔离。该功能把加密范围从静态存储和传输中的数据扩展到推理运行中的提示词、文档、响应和模型执行,应用负载端到端加密后只能在通过远程证明的机密环境中解密。客户可在发送敏感数据前用密码学方式核验硬件、固件和软件配置,不符合安全策略时客户端会拒绝发送请求,现有 Model Vault API 和请求格式保持不变。

    Rerank 5 logo

    行某项任务,而是该任务所需的数据能否安全地用于 AI。 Model Vault 上的机密计算旨在保护那些因安全、合同或监管要求而可能使宝贵数据被挡在托管 AI 平台之外的工作负载,包括: 金融服务领域的欺诈调查 法律服务中的特权文件检索与尽职调查 敏感的公共部门信息 专利与研究材料 专有工程设计文档(EDD)、接口设计文档(IDD)和架构材料 跨专有源代码的搜索与分析 这类工作负载正是通过减少特权基础设施访问并向客户提供可独立验证的证据,使此前受限的 AI 用例变得切实可行的场景。 机密计算并不能消除所有风险,也不能替代应用安全、合规、合同控制或数据驻留要求。它在推理进行期间,为数据和计算提供由硬件强制执行且可验证的保护边界。 现已开放公开测试 Cohere Model Vault 上的机密计算现已开放公开测试,由 Microsoft Azure 上的 NVIDIA H100 GPU 提供支持。 客户可以通过 Model Vault 创建和管理加密保管库,并使用相同的 Cohere API 进行集成;客户侧验证和端到端加密可在敏感请求内容离开客户环境之前对其进行保护。 如需深入了解机密

    匹配字段正文

星期四

  1. Claude Blog

    Anthropic 分享何时把子智能体折叠进主智能体循环

    Anthropic 应用 AI 团队在多个企业部署对比中发现,带技能(skills)的单一智能体在质量上常优于子智能体架构,且单任务成本和延迟更低,并给出把子智能体折叠进主循环的迁移方法。文章指出子智能体仍适用于上下文膨胀导致性能下降、需要并行处理独立任务、或工具选择与指令冲突的场景,并建议先把子智能体作为工具调用,再逐个转成技能和 MCP 工具,用端到端评估对比前后表现。文中提到 Claude Code 面向更先进模型的系统提示词缩减了超过 80%,并配套提供 build-eval、prompt-audit、hillclimb、cost-optimize 等 Claude API 技能。

    而管理层基于被稀释、过度本地化的分数做出决策。 延迟:多智能体架构的复杂性会增加延迟。一位客户将他们的多智能体框架与单一智能体循环进行了对比评估,发现后者的运行速度大约快 2 倍。 使用带渐进式披露的智能体循环 上文描述的编排器-子智能体设计是协调跨团队构建的专家智能体的一种合理方法,但通常更有效的方法是:通过技能(skills)渐进式披露上下文,并通过工具搜索(tool search)渐进式披露工具。换句话说,智能体只看到技能和工具的简短描述,只有在需要时才完整加载。 这种方法之所以合理,有三个原因: 共享上下文能产生更好的答案:对于运行时间较长的智能体,我们希望来自多个不同任务的上下文都保留在主上下文窗口中。一个已经看到每个先前步骤结果的智能体能够将它们联系起来,从而产生比子智能体交回的一组摘要更丰富的输出和更好的洞察。这也意味着更少的上下文窗口和更少的有损交接。 渐进式披露可防止上下文膨胀:这项技术让团队能够构建单一智能体,完成各种各样的任务,而无需把所有上下文都立即加载进一个很长的系统提示词中。这消除了团队此前把工作拆分给子智能体的主要原因。事实上,我们把 Claude Cod

    匹配字段正文

  2. METR Blog精选

    METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统

    METR 与 Redwood Research 在 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控系统开展高权限红队测试,产出 61 页内部报告。评估估计约 75–94% 的 Responses API 智能体流量可被监控,内部 Codex 智能体流量中 99.2% 可被监控,但当时 RL 训练未纳入监控,且压缩事件未被监控可能导致约 10% 的合格 Codex 流量漏检。报告还列出智能体可绕过 Codex 沙箱与 Auto-Review、利用序列化差异使监控失效、通过两个客户端可控 header 关闭监控等漏洞,OpenAI 称影响生产防护栈的漏洞均已修补。

    受到监控。仔细记录所有发生的推理,以及其中哪一部分正在受到监控——定期将这些日志与监控系统自身的日志进行交叉比对,以确保所有本应受到监控的内容确实受到监控。维护一份所有已知规避监控方式的清单。确保监控器看到的上下文与智能体相同。 快速且可靠地响应事件。为事件响应分配明确的责任归属,并维护清晰的指导方针以减少主观性。尽可能对更多的推理和监控流量保留防篡改且易于搜索的日志。 主动对监控系统进行红队测试。定期开展控制评估,在监控系统中寻找可被利用的漏洞,并制定评估战略性合谋的方法。 强制实施智能体与其监控器之间的隔离。智能体脚手架应尽可能运行在与工具调用执行位置相隔离的环境中,且智能体采取的行动不应能够影响监控系统是否运行或何时运行。智能体通常不应有权访问监控系统的设计或代码。 此次演练在很大程度上受益于上述深度访问权限,以及OpenAI工作人员提供的大量后勤和技术支持。 数据绝不应出现在训练语料库中。请勿在此数据上进行训练。本帖子包含此金丝雀条目,标识符为CANARY DATASET 3b33bf9d9a3dcc9cc9a6dcb011accb0e453ca25330df36af7a1db

    匹配字段正文

  3. heise online

    OpenCode 2.1 发布:一个编码智能体支持多种模型

    开源 AI 编码智能体 OpenCode 发布 2.1 版,SDK、HTTP 消息、事件和插件接口均有变更,供应商相关数据改放到 tool.native 下,原 providerState 和 providerResultState 字段被移除,集成方需相应调整。Windows x64 与 ARM64 获得持久化伪终端,并可通过 {"experimental":{"todo":true}} 启用 todowrite 任务列表。该版本基于 2.0,后者将终端、网页和桌面端统一到同一个本地后台服务。

    Code 会在会话中和侧边栏中显示该列表。终端界面中运行时间较长的命令,应不会再因 Bun 此前默认的五分钟 Fetch 超时而失去连接。 OpenCode 2.0 将会话集中到一项服务中 广告后继续阅读 2.0 版为此奠定了基础。正如项目在介绍 OpenCode 2.0 时所说,终端界面、网页界面和桌面应用不再各自启动一个独立的智能体进程,而是访问一个共同的本地后台服务。脚本可以通过新的客户端调用该服务;OpenCode 本身则可以通过改版后的 API 管理会话、将会话移动到 Git worktree 等。 此外还有“代码模式”。在该模式中,智能体可以在一个脚本中串联工具调用,而不是将每个结果单独发送给语言模型。例如在搜索工单时,它可以获取多个条目,并且只返回匹配的标题。这样可以让中间结果不进入对话上下文。 不过,版本跃升至 2.0 并非纯粹的功能更新:1.x 的插件无法原样使用,服务器 API 也已重新设计。 OpenCode 与开源编码智能体 Pi 存在竞争关系。后者最近发布的 1.0.0 版缩小了代码模式中的工具描述,允许从其脚本生成图像,并让终端界面默认以全屏启动。 (fo)

    匹配字段正文

  4. heise online

    Fortinet 因 AI 发现关键漏洞发布紧急更新

    Fortinet 宣布为 FortiOS、FortiManager、FortiAnalyzer、FortiMail 和 FortiAuthenticator 发布计划外安全更新,修复由 Frontier-AI 模型在安全测试中发现的严重和高风险漏洞,并敦促客户尽快安装。涉及版本包括 FortiOS 8.0.2、7.6.8、7.4.13、7.2.14 等,FortiSASE 将在本周四前自动更新。Fortinet 同时提醒,同类 AI 能力也可能被攻击者用于逆向分析补丁、在数小时或数天内构造出可用的漏洞利用。

    r 发布;此前已有 FortiAuthenticator 和 FortiMail 的新版本。该公司强烈建议每位客户在更新可用后立即安排并执行更新。应优先处理暴露在互联网上的设备。Fortinet 表示,无法立即更新者应暂时缩小攻击面:将 HTTPS 和 SSH 的管理员访问限制为可信 IP 地址,或在外部接口上关闭,并通过独立的管理网络管理设备。 AI 漏洞搜索后的紧急更新 该厂商在其安全测试项目中使用 Frontier AI 模型,并感谢 Anthropic、Google、OpenAI 以及已收购 xAI 的 SpaceX 的合作。此次宣布的版本修复了人工智能发现的关键和高风险漏洞。Fortinet 对此赞不绝口:AI 分析代码路径、协议处理和配置逻辑的深度和速度,是传统模糊测试和人工审查无法达到的。 现在,这些模型能够发现漏洞,使 Fortinet 能够在恶意行为者利用之前主动消除它们。该公司认为这是其“Secure-by-Design”承诺的实际落实。但这意味着,AI 的同样能力也可供攻击者使用,从而进一步缩短从发布到被滥用的时间窗口。 “关键和高风险” 客户应立即应用更新,因为

    匹配字段正文

  5. Unite.AI

    Mave 完成 2800 万美元 A 轮融资,累计融资 3400 万美元推进智能体 SecOps

    Mave 宣布累计融资 3400 万美元,其中 2800 万美元 A 轮由 Red Dot Capital Partners 领投,资金将用于推进 AI 研究、强化企业产品并拓展国际市场。其智能体安全运营平台通过 API 以只读权限接入企业现有工具,结合微调小语言模型与前沿大语言模型,在安全团队设定的边界内完成调查与获批响应。Mave 称平台已在 200 多个安全运营中心运行,过去一年 ARR 增长超过 400%,但未披露绝对数值。

    rge Ventures 领投的 600 万美元种子轮。Mave 将利用这笔资金推进其 AI 研究、强化企业产品并拓展国际市场。 该公司的方案针对的是一个众所周知的安全瓶颈:购买专用工具并不会自动将其发现关联起来。Mave 旨在承接这些系统之间的调查工作,然后在安全团队设定的边界内执行响应。 传统安全信息和事件管理系统(SIEM)将日志汇集在一起,以便分析师搜索可疑活动。但理解一起事件可能需要收集日志之外的信息:某个账户是否仍拥有特权访问权限、某项资产归谁所有,或者某个系统在那一刻是如何配置的。 Mave 的方法是使用各连接工具的本地语言进行查询,随着调查的推进获取上下文,并对结果进行核对。该公司表示,客户无需在使用该平台之前将所有遥测数据迁移到另一个集中式数据库。 设想对一起可能已遭入侵的账户展开调查。仅检查登录情况可能无法揭示该用户是否访问了敏感工作负载,也无法揭示相关终端是否出现了异常活动。一次有用的调查必须将身份、设备和应用证据串联起来。这个例子说明了 Mave 所瞄准的工作:跨系统追踪事件,而不是等待人工手动拼凑每一处关联。 这种架构可以减少采用另一个安全平台所涉及的迁移工作

    匹配字段正文

  6. Business Insider Tech

    Hugging Face 发布开源模型 Carbon-X,可用自然语言分析并生成 DNA 序列

    Hugging Face 发布开源模型 Carbon-X,将 DNA 分析与生成和自然语言结合,让研究者能直接提问并得到预测和解释。该模型基于 Qwen3-14B,用人类、其他哺乳动物、植物和真菌的基因组序列与自然语言训练,训练数据明确排除病毒。研究者可在本地运行,避免向外部 AI 公司共享敏感患者数据,也可生成新的 DNA 序列以辅助基因疗法研究。

    好的数学模型,”他说,并暗示类似的情况很可能在其他科学领域上演。 “我们希望为开放研究社区提供工具,使他们不必完全依赖某个外部的单一供应商,”他补充道。 研究人员可以在自己的电脑上运行Carbon-X,从而避免与外部AI公司共享敏感的患者数据。他还表示,在更大模型中出现的一些失准行为——例如7月份曾著名地入侵Hugging Face的OpenAI智能体——尚未在更小、更专门的模型中被观察到。 滕斯托尔说,通用聊天机器人有时也会拒绝回答研究人员提出的正当生物学问题,因为它们把这些提问误认为是试图“设计生物武器”。他说,病毒被明确排除在Carbon-X的训练数据之外,以避免该模型被滥用。 Business Insider有游戏! 在Google中添加BI,这样当您搜索重要内容时,更容易找到我们的报道。 虽然Carbon-X很可能被研究人员使用,但滕斯托尔说,该模型代表着朝着这样一个未来迈出的一小步:AI能够帮助提供更个性化的医疗服务。 “我认为终极目标是,总体而言,就是个性化医疗这一概念,即我们作为个体,能够拿自己的病历、自己的基因组,利用这些最终找到、甚至也许设计自己的治疗方案,”他说。

    匹配字段正文

  7. MiniMax Blog精选

    MiniMax Code 桌面端上线 Mini App

    MiniMax 在 MiniMax Code 桌面应用(macOS / Windows)的本地会话中推出 Mini App,它是一种带前端和 Node.js 后端、以插件形式安装的常驻应用,可与 Agent 互相调用,让工作留在持续存活的页面上而非散落在对话里。此次发布包含 Mini App 运行时(持久数据目录、托管 MCP、Agent API、Host Connectors 和页面内工具审批)、用一句话生成页面的 /miniapp-creator,以及插件市场的官方 Mini App 和开源社区仓库 MiniMax-Code-MiniApps。官方称账号凭证由宿主保管,插件和页面无法访问,页面传给 Agent 的内容会先进入输入框供审阅。

    Cover: a hand places a card into a cluster of Mini Apps, including a stock dashboard, a 3D model, a map, and a chat, connected by a line to the Agent

    中的截图检查结果。 首批官方 Mini App 中有几个是由我们工程团队之外的同事以这种方式构建的: 一个股票仪表盘 Mini App,将散落在知识星球(Zsxq)、金门财经和腾讯文档中的股票信息汇集到一个仪表盘中。 CadQuery Viewer 让你可以在 3D 模型上标记位置,并将它们发回对话,供 Agent 修改。 自驾路线规划器将地图路线规划、地点搜索和图像生成整合到一个行程规划工作区中。 MiniMax Bot 本身就是一个 Mini App。主 Bot 组建团队,将长时间运行的任务交给后台 Agent 对话,然后审查并汇报结果。这些对话中的 Agent 又可以调用 Bot 的工具来发送消息、保存和搜索记忆。大多数 Bot 更新只需改动插件,无需等待 MiniMax Code 发布新版本。其源代码现已放入开源社区仓库。 开源社区的开发者也开始构建自己的 Mini App:一个按日期和模型展示 token 用量的仪表盘、用于以泳道图浏览 Git 历史的 Git Commit Tree,以及用于回放对话模型轨迹的 Session Trajectory。有些则偏向日常生活和创意工

    匹配字段正文

  8. 邵猛

    斯坦福 CS 329Z 第 9 讲梳理 Agent 系统优化方法选型

    斯坦福 CS 329Z 课程第 9 讲给出 Agent 系统优化的选型图:优化前提是数据、系统、评估指标三者齐备,一般先做上下文优化(prompt 与 few-shots),因为便宜、快、省样本;当上下文优化不够用、想把能力蒸馏到小模型或 prompt 越写越长时再改权重。讲义还梳理了 OPRO、MIPROv2、TextGrad、GEPA 等反思式 prompt 优化方法,SFT、RL(PPO 与 GRPO 对比)、on-policy 蒸馏等权重优化路径,以及 Darwin Gödel Machine、Meta-Harness、karpathy 的 autoresearch 等让 agent 自我优化的做法,并指出 agent 已是不错的优化器,评估指标成为最需要把控的环节。

    step”是 71.8%。说明措辞的细微差别就会带来明显的效果差距,靠人手调很难找到最优。 上下文优化 1. 少样本示例优化 · 示例的排序会影响结果(Lu et al. 2022)。用探测集上的熵来选排序,可以接近穷举所有排序后的最优效果。 · 自举推理:STaR 用拒绝采样挖出正确的推理过程;DSPy 不需要微调,直接保留指标得分高的推理轨迹当示例,再搜索最佳组合。这种方式有时比人工写的推理或标准答案还好。 2. 反思式优化 · OPRO:把历史 prompt 和对应得分给 LLM 看,让它写出新的 prompt。“Take a deep breath”就是这样被找到的。 · MIPROv2 分三步:先自举出示例;再结合程序结构、数据特征、成功轨迹和写作技巧,生成多条候选指令;最后用贝叶斯代理模型在小批量数据上搜索“指令 + 示例”的最优组合。 · TextGrad:让 LLM 对输出提出改进意见,像梯度一样沿系统里的各个 prompt 反向传递。 · GEPA:基于反思做 prompt 进化,并保留帕累托前沿上的候选。讲义的结论是它在多个任务上优于基线,而且比 RL 省样本得多

    匹配字段正文

  9. Business Insider Tech

    Anthropic 发布个人智能体 Claude Duet,基于 Opus 5.5 模型

    Anthropic 发布名为 Claude Duet 的个人智能体应用,定位为可在后台运行、主动向用户推送任务的“主动型智能体”,目前处于研究预览阶段并设有等待名单。该工具基于 9 月底发布的旗舰模型 Opus 5.5 构建,会在每天早上推送所连接应用的简报,并在需要关注时通知用户,部分任务需用户批准。Anthropic Labs 团队联合负责人 Mike Krieger 称其能判断何时主动行动;负责 Duet 开发的 Karan Ahuja 此前在 Meta Superintelligence Labs 主管产品管理。

    Ahuja 还写道,Anthropic 正在“尽快”让等待名单上的人进入 Duet。 这一消息在 Meta 并未被忽视。负责 Meta Superintelligence Labs 的 Alexandr Wang 发布了一张梗图,调侃 Duet 与 Muse 的相似之处。 Business Insider 有游戏了! 在 Google 中添加 BI,这样当您搜索重要内容时,我们的报道就更容易被找到。 Anthropic 正快速接近一场规模巨大的首次公开募股,这可能使该公司估值高达 2 万亿美元。与其他 AI 参与者一样,该公司在赢得用户、确保算力、构建最先进模型和交付 AI 原生产品的激烈竞争中如履薄冰。 数据公司 Apptopia 估计,截至周三,Muse 的安装量已超过 1400 万次。该公司发现,安装了 Muse 应用的 Claude 用户使用 Claude 的频率比之前更高,但每天使用 Claude 的时长仍少于他们花在 Meta 产品上的时间。 有线索?请通过电子邮件 scouncil@businessinsider.com 联系本记者,或通过短信、Signal、Telegr

    匹配字段正文

  10. Claude Code:GitHub Releases

    Claude Code v2.1.307 发布

    Claude Code v2.1.307 新增 `/claude-api api-version` 命令,可将 Claude API 代码迁移到 API 版本 `2026-10-21`,并为每次被权限规则、自动模式、安全检查、hook 或沙箱拦截、提示或退回的工具调用新增 `claude_code.safety_event` OpenTelemetry 事件。该版本还修复了设置 `CLAUDE_CODE_DISABLE_1M_CONTEXT` 时 `opus[1m]` 等别名模型报 model-not-found 的问题,以及 macOS 钥匙串锁定时 `claude -p` 中 MCP 服务器误报“需要认证”等问题。

    改进了对无法解析的工具调用的恢复:Claude Code 现在最多重试该调用两次,然后以错误结束该轮次 - 改进了同时启动的 fork 子代理:现在每个子代理都会被告知哪次启动是它自己的, 因此 fork 尝试启动彼此工作的可能性大大降低 - 改进了浏览器登录:成功页面现在会在登录完成后立即显示,无需等待账户资料加载 - 改进了云和自托管运行器会话中的网络搜索错误:因 403 被拒绝并给出原因的搜索现在会显示该原因,而不是通用的“Authentication error” - 改进了当桌面应用的一个 MCP 服务器无法连接时云会话中首次回复的时间 - 改进了转录包含大型粘贴图像或 PDF 读取内容的会话的 Remote Control 连接时间 - 更改了 WebSearch 预算用尽时 Claude 收到的通知,现在还会告知它不要在浏览器中或通过计算机使用查询搜索引擎 - 更改了设置 env 块中的 axScreenReader 设置和 CLAUDE AX SCREEN READER ,使其仅从用户、托管或 --settings 设置中生效(自 2.1.305 起) - 自托管运行

    匹配字段正文

  11. 9to5Mac精选

    Anthropic 推出主动式智能体应用 Claude Duet

    Anthropic 开放 Claude Duet 研究预览,这是一款以主动式智能体方式工作的独立应用,可跨已连接的应用处理任务、跟踪邮件和日历,并在应用关闭后继续在云端运行。该功能不额外收费但计入现有套餐用量,后台工作可能让用户更快触及限额;目前仅限受邀用户,暂不支持 Team 和 Enterprise 套餐。Claude Duet 由 Claude Opus 5.5 驱动,提供 iOS、Android 和网页版,支持 Stripe 未付发票检查、Link 和 Shop Pay 经用户批准后付款,以及插件和云端浏览器。

    在其中作为主动式智能体工作。 它会主动向你呈现需要你关注的事项,完成你交给它的任务,在你离开时继续工作,并在代表你行动之前与你确认。pic.twitter.com/kt8gAbWuX8—— Claude (@claudeai) 2026年10月21日 Anthropic 表示,Claude Duet 使用与普通 Claude 相同的记忆、技能和连接器,甚至能搜索过去的对话,这样用户就不必重复自己说过的话。 Claude Duet 运行在它自己的云端计算机上,使其即使用户关闭应用也能继续工作。 此外,Claude Duet 提供与 Stripe 的集成,用于检查未付发票并起草付款提醒,还提供与 Link 和 Shop Pay 的集成,可在用户批准后进行购买。 以下是 Anthropic 描述的几种使用场景: 像给人发消息一样给它发消息。输入消息或录制语音消息。你的主线程始终在一个地方,因此 Claude Duet 能从你上次停下的地方继续。你也可以为不同主题开启单独的频道,它们共享相同的记忆。 以简报开启一天。每天早上,它会查看你的电子邮件和日历,挑选出最需要你关注的事项,并可以启动最初

    匹配字段正文

  12. Pragmatic Engineer

    Will Larson 谈工程管理的修订规则:AI 如何改变工程管理与工程师到 CTO 的路径

    Imprint CTO Will Larson 在播客中讨论 AI 与行业预期变化如何重塑工程管理、职业阶梯以及从工程师到 CTO 的成长路径,并建议中层管理者回归一线管理、重新学习技术技能。他结合在 Digg、Yahoo、Stripe、Uber、Carta 和 Calm 的经历,谈到 Digg v4 重写、Yahoo 服务器审批催生“黑市”等案例,以及 AI 正把技术决策权带回管理层。

    (周三),旧金山,SFJAZZ Center。活动免费参加,但名额有限,需要提前注册。 如果你在旧金山或附近,也许我们到时见?在此报名 在线收听最新一期节目 现在就在 YouTube、Apple 和 Spotify 上收听和观看。本页顶部有节目文字稿,底部有节目时间戳。 本期节目由以下赞助商支持 • turbopuffer – 构建于对象存储之上的向量与全文搜索:快速、成本降低 10 倍,且极具扩展性。在底层,团队正在重写 tpuf 存储引擎。关注进展,直到它投入生产:turbopuffer.com/v3 • 如果你只需要一个测试就能加固系统,会怎样?免费入门基于属性的测试:参加由 Hillel Wayne(近期播客嘉宾)主持的在线直播网络研讨会,他是《Logic for Programmers》的作者,也是 Antithesis 的开发者教育者。在此报名。 • Entire – 为智能体时代重建的 Git 托管。Entire 在区域内托管你的代码,速度比其他任何竞争对手快最多 89 倍。一键从 GitHub 镜像——我已经这么做了。 自 2010 年代以来,工程管理的“潜规则”发生了

    匹配字段正文

  13. Hugging Face

    VocabX 如何通过专精 SLM 词表将实际应用推理成本降低 77%

    VocabX 通过按成本而非频次选择 token、同时重建子词切分与多词合并,把领域专用小模型的词表压缩到更小规模,在实际应用中把推理成本降低 77%。以评分模型为例,生成一个 token 的成本是读取一个 token 的 7.4 倍,输出层词表从约 152,000 行减到约 65,000 行。该方法针对 Qwen3-4B 这类小模型在中等批量下的内存带宽瓶颈,而 FVT、MWT 和 in-place BPE 等方法只按频次选词、只处理单一层面。

    识到同样的十二件套每周都发货、把整套装进一个箱子来减少箱子。VocabX 两者都做。在子词层面,它重建领域词被切分成片段的方式。在多词层面,它寻找重复出现的完整片段,从短表达式到整行和 JSON 信封,并把每一个转换为单个 token,我们称之为宏 token。两个层面都在同一成本标准下选择,各自有自己的预算。 为了找到这些片段,我们使用了五个挖掘器,即自动搜索在语料库中重复出现的片段,每个都专注于一种重复类型:长词、整行、表达式、完整句子,以及带标点的结构,如 JSON 和标签。在八个语料库上平均来看,最后一个贡献最大,在代码上它单独就占了 17.5 个百分点。如果没有全部五个,评分器上的 token 缩减会下降 55.6 个百分点。 第三,我们估计样本看不到的东西。按成本选择 token 需要知道每个候选在已选中的 token 之后还能节省多少。精确测量这一点需要在每次选择后重新处理整个语料库,数万次。在大规模下做到这一点的常见方法是在文档样本上测量,然后样本中不存在的候选获得零增益。 一个在 50,000 份文档中出现 37 次的表达式,在 400 份文档的样本中只有约 26%

    匹配字段正文

星期三

  1. Sarvam AI Blog精选

    Sarvam AI 发布企业智能体知识织物架构与基准结果

    Sarvam AI 介绍了为企业智能体构建的知识织物,由知识树和领域本体两层组成,把文档一次性编译成智能体可导航、可查询、可引用的结构化层。在 Harvey LAB 基准上,使用 GLM 5.3 的答案满足 84.2% 的专家评分标准,高于 agentic RAG 的 55.1%,平均任务成本从 0.64 美元降至 0.28 美元;在 Sierra 的 tau-knowledge 银行基准上,以少 64% 的 token 达到与基线相当的准确率。知识树已用于 Sarvam cowork 产品,本体则按领域与企业客户逐个构建。

    How we built the knowledge fabric for enterprise agents

    ledge 银行基准上,该知识织物在token用量减少64%的情况下达到了与基线相当的准确率,两套设置均运行GLM 5.2。 在本文中,我们将深入探讨知识织物背后的架构、我们为何如此设计,以及我们在实践中构建和测试它时学到了什么。 为什么RAG在企业中一直失败 如今,大多数企业AI系统都建立在传统的检索增强生成(RAG)之上,即把文档切分成小块并建立索引以供搜索。当问题到来时,系统检索出最相关的片段,并将其作为上下文传给模型。更好的嵌入、分块策略和重排序器可以提升检索质量,但传统RAG仍然会失败,因为它把文档当作扁平、孤立的文本片段来处理,而不是理解连接这些片段的底层结构。这带来了两个根本性问题: 上下文丢失: 单个文档块往往缺少关键的父级信息,例如它所属的确切产品、部门或法律条件。由于标准RAG不会映射底层结构,这些孤立的片段单独看起来清晰明了,导致智能体做出错误假设,并自信地给出错误答案。 完整性: 如果你向智能体提出一个宽泛的问题,比如列出满足特定规则的 每一个 选项,向量搜索只会返回排名最靠前的几个结果。如果没有整个数据集的结构化映射,智能体就不得不在多个文件中一次又一次地执行

    匹配字段正文

  2. Mastra Blog

    Mastra 推出 Mastra Observability 托管平台

    Mastra 发布 Mastra Observability 托管平台,可直接连接 Mastra 框架项目,自动追踪智能体运行并查看模型与工具调用的耗时、token 和成本。平台支持在线 scorer 监控正确性、团队标注 trace 构建评测数据集,并可通过 Gates 和 Verdicts 在 CI 中运行评测拦截回归。每月免费提供 100k 可观测性事件、保留 15 天,超出部分每 100k 事件 10 美元。

    Alex Booker

    )], // Redact sensitive fields before exporting traces spanOutputProcessors: [new SensitiveDataFilter()], }, }, }), }); 注意:首先, 创建一个 Mastra 账户, 然后按照 入门指南 连接你的 Mastra 项目。 了解每一次智能体运行 搜索并筛选追踪记录,找到重要的运行,然后检查模型和工具调用,准确查看时间和 token 花在了哪里,以及它们的成本。 线程视图 (如上图所示)将每次运行置于完整对话的上下文中。你和你的非技术团队成员可以从消息入手,在发现异常时深入查看其背后的步骤——无需先解读原始的 span 树。 监控性能、成本和正确性 对一部分追踪记录运行在线评分器,自动跟踪正确性,然后在 仪表盘 上随时间观察趋势,同时查看你关心的性能和成本指标。 构建评测闭环 邀请你的团队审阅对话、标注追踪记录,并为你的 评测闭环. 整理数据集。针对数据集运行 实验 ,在质量、成本和延迟方面比较智能体的不同版本。 在这里,我正在比较结果,看看能否降级到 nano 以节省成本而

    匹配字段正文

  3. The Decoder

    Inception 发布扩散语言模型 Mercury 3,称速度达 GPT-6 Luna 四到八倍

    Inception 发布扩散语言模型 Mercury 3,称其在 12 项基准中赢下 8 项,运行速度为 GPT-6 Luna 和 Claude Haiku 5.5 的四到八倍。在 Inception 自测中,Mercury 3 在 IFBench 得 76.84 分,比 GPT-6 Luna 高 15 分;SWE-Bench Atlas 得 51.08 分,对手分别为 33.33 和 32.26。Claude Haiku 5.5 则在 DeepSWE 长代码测试和长文本检索上领先。该模型在 Nvidia GPU 上每秒生成 1,068 个 token,定价为每百万输入 token 0.20 美元、输出 0.70 美元,发布期五折,已上线 Inception 平台及 OpenRouter、Baseten、Vercel,目前尚无独立测试。

    的参数数量是 Mercury 1 的 40 多倍,但运行速度同样快。与小型 Mercury 1 mini 相比,性能也提升了两倍。Inception 认为这表明扩散模型能像标准语言模型一样随着规模扩大而可靠地提升。具体参数数量仍未披露。 Mercury 3 瞄准小延迟会累积的应用场景 Inception 主要将 Mercury 3 定位用于 AI 智能体、搜索、客户支持和辅导。AI 智能体通过许多独立步骤完成任务,并在每一步等待模型。这些小的延迟会迅速累积。 早期访问合作伙伴在公告中分享了他们的结果,其中大多数也关注速度。Octen AI 为智能眼镜构建搜索功能。“在智能眼镜上,一个需要五秒的答案会让人觉得坏了,”创始人邹宽说。他表示,搜索本身只花了约 80 毫秒,语言模型才是瓶颈。使用 Mercury 3 后,中位响应时间为 0.9 秒。整个过程耗时 2.2 秒。 教育公司 General Learning 表示,它现在能在约一秒内向学生提供提示和纠正。客户服务提供商 Lorikeet 报告响应时间更快,结果也更好。在 TinyFish AI,联合创始人张书豪表示,Mercury

    匹配字段正文

  4. heise online

    Nvidia 发布 Open Agent Safety Platform,用 BlueField-4 DPU 监控智能体

    Nvidia 在柏林 GTC 上发布 Open Agent Safety Platform,围绕开源运行时 OpenShell 增加硬件级管控,由 BlueField-4 DPU 配合 Sentry 软件独立监控智能体行为,并在其越界时于毫秒级隔离和停止。OpenShell 支持 Anthropic 的 Claude Code 和 OpenAI 的 Codex 等第三方智能体框架,Nvidia 称已有超过 100 家机构使用该平台技术。Nvidia 同时推出 Agent Knowledge Foundation 和 Auto-Ontology 库,用于在企业数据不出本地的前提下让智能体访问结构化与非结构化数据,并扩充 Nemotron 3.5 Super VL、Nemotron 3.5 Bolt 74B-A9B 及 Kumo 系列模型。

    ia 合作:其软件在 Nvidia 自身的供应链组织内分析业务数据并准备决策, 此外,Nvidia 还在扩展其免费可用的 AI 模型产品。Nemotron 3.5 Super VL 可处理文本和图像信息。同样已可用的还有 Nemotron 3.5 Bolt 74B-A9B,紧凑版 Bolt E4B 已宣布将于 10 月 23 日推出。此外还有用于在企业文档中搜索的新 Retriever 模型。借助 Cosmos、Alpamayo 和 BioNeMo,Nvidia 还提供面向机器人技术、自动驾驶和蛋白质研究的专用模型。 该集团强调,企业可以用自有数据调整这些模型,并在自主控制的基础设施上部署。至少 Kumo Tabular 以开放权重形式提供。因此,开发者可以使用已发布的模型权重,并在必要时对其进行修改。对于 Nemotron,Nvidia 部分还额外提供数据集和训练配方。 一个世界还不够:Nvidia 最终希望借助其 AI 开发整个地球的数字孪生。 (图片:heise) Nvidia 由此一方面在 AI 模型的使用和调整上提供了更多自由,另一方面也在建立自己的平台,用于模型的运行、数据

    匹配字段正文

  5. 36氪 · AI

    AI抢汉化组的饭碗,却发现人家根本不靠翻译吃饭

    DeepSeek、GPT、Qwen等模型已能承担漫画汉化的采集、超分、翻译和排版,但遇到露骨内容或版权内容会直接拒绝翻译,仍需「人类反馈」环节补全。汉化组的工作因此转向校对语气、处理双关和文化梗、调整中日文排版差异,甚至为暴露角色补画衣物以过审。

    6氪Auto数字时氪未来消费智能涌现未来城市启动Power on36氪出海36氪研究院潮生TIDE36氪企服点评36氪财经职场bonus36碳后浪研究所暗涌Waves硬氪氪睿研究院媒体品牌 企业号企服点评36Kr研究院36Kr创新咨询企业服务 核心服务城市之窗政府服务 创投发布LP源计划VClubVClub投资机构库投资机构职位推介投资人认证投资人服务 活动搜索项目推荐我要入驻城市合作AI抢饭碗抢到一半,发现人家根本不靠这个吃饭ACGx·2026年10月21日 18:05AI参与汉化,仍需人类补全处理,汉化组仍有存在意义。 AI抢饭碗的故事已经听得够多了,但是没有想到在汉化的领域,汉化组居然还能靠翻译18禁保住饭碗。 前不久有部汉化的漫画传到了网络上,在原本应该留有汉化组名字的地方,却变成了DeepSeek、GPT、Qwen等一系列的AI,更有趣的是,在工作名单的最下面还出现了一个叫做「人类反馈」的环节,也是让人不禁叫绝。 从源图获取到最终排版,DeepSeek、Qwen、GPT等模型分别承担了采集、超分、翻译及排版等关键任务,这意味着汉化组从此会被AI取代了。但是,事实上,事情并那么

    匹配字段正文