←搜索结果

按匹配度 · 共 1629 条结果 清除搜索

星期五

  1. Tessl:产品与工程博客

    当智能体写代码时,谁该拿到部署权限?

    Tessl 博客提出,智能体可以写代码、提修复建议,但不应拥有部署到生产的权限,部署权限应交给 CI/CD 流水线。文章引用 Cline 仓库的案例:恶意 issue 标题可诱导其分诊智能体从攻击者 fork 安装包,并借共享构建缓存窃取 npm token 发布未授权版本。作者主张把智能体读到的一切视为不可信,用 OIDC 短期身份、哈希锁定依赖和独立校验器替代人工代码审查。

    DevCon NYC

    的审查,以及那些跳过审查、后来出问题的变更。你希望审查更少,变更失败率下降。 把智能体读到的一切都视为不可信 想象一个智能体,它读取问题单、日志、工单和评论,然后据此行动。其中每一项都是潜在的攻击面。考虑一份错误报告,里面埋藏着添加一个依赖并提交它的指令。人可能会一眼扫过,而智能体会执行该指令。这不是理论。2026年初, 一名研究人员展示 ,Cline 的 GitHub 仓库中一个恶意的问题标题可以使其分诊智能体从攻击者的 fork 安装一个包。该智能体没有发布密钥。它也不需要。它可以污染与夜间发布任务共享的构建缓存,而该任务的发布令牌同样适用于生产发布。据该研究人员称,另一名行为者随后利用同一路径窃取了 Cline 的 npm 令牌,并在2月发布了一个未授权版本。解决方案是把智能体读到的一切都视为不可信。确保智能体接触的任何东西都不会通向值得窃取的东西:没有密钥,没有令牌,不与任何能够发布的东西共享状态。 Cline 也移除了分诊智能体,但结构性修复是从每个会发布的流程中移除缓存。攻击发生后,它把 npm 发布迁移到 OIDC,不再有可被窃取的长期令牌。 流水线必须赢得密钥 Clin

    匹配字段正文

  2. 邵猛

    Matt Pocock 为 301K 星 Skills 仓库新增 software-factory Skill

    Matt Pocock 为 301K ⭐️ 的 Skills 仓库新增「software-factory」设计 Skill,它是一份需用户主动调用(disable-model-invocation: true)的术语表,用于设计远程、无状态的 agent 软件工厂。核心词汇包括 Task、Trigger、Run、Runner 及 Ticket tracker、Git host、Orchestrator 等服务槽位,并附四个槽位调研文档与示例任务链。设计方法强调 Start slow:每个 trigger 都是油门,需配自动化检查、自动化 review、人工 review 三种刹车并设循环上限。

    servability platform(可选) 怎么设计工厂 1. Start slow:每个 trigger 都是油门;没有刹车会变成「slop cannon」。三种刹车,自动化检查、自动化 review、人工 review。一次只加一个自动触发,先节流,刹车可信后再放开;循环次数设上限。 2. Fill every slot:表里对比三种起步方案,全 GitHub、Linear + GitHub、自建 tracker。选产品时再读对应 survey。 3. Question every task:五个问题,谁触发、做什么并读写哪些服务、接着触发什么、人从哪再进来、如何防双跑;每个 ticket source 还要问如何防重复建单。 示例任务链(节选) 未分流 ticket → Explore;ready → Implementer(开 draft PR)→ Automated review;失败 → Rework(有次数上限);大规格 → Decompose;更严检查 → 每日 Ratchet;反馈按钮 / 监控 → ticket source;工厂自身失败 → Fix;漂移 →

    匹配字段正文

  3. 卡尔的 AI 沃茨

    13 款 Personal Agent 按可接入 App 数量排名

    作者按可接入 App 数量对 13 款 Personal Agent 排名:meta muse 以 54 个居首,chatgpt dots 50 个、gemini spark 35 个、today 与 poke 各 30 个,grok bot 20 个、manus cue 15 个、Instinct 12 个,hark、灵光2.0、千问Go、Hermes、OpenClaw 均约 10 个。额度与限制方面,Hark 免费且不限功能,muse 仅限美国加拿大使用,千问Go、灵光2.0、cue、Instinct 仍需邀请内测。

    的App数量, muse(54) Dots(50) spark(35) today(30) poke(30) grok bot(20) cue(15) Instinct(12) hark 灵光2.0(10)=千问Go(10)=Herems=OpenClaw 高度重叠的app(超过半数的agent有)Google Workspace,Slack,Notion,github,Microsoft 365,日历和邮件类。 比较特有的是muse的meta生态(facebook,ins,threads这些),还有健康,智能家居和车机(Peloton,Withings,Philips hue,tesla),还还还有Plaid和Shopify的电商类。 spark就是有Google的特色keep和tasks,还有Adobe,以及SeatGeak等很多是我完全没用过的生活类。 Hark有特有的多浏览器并行,做信息收集比grok bot多agent还快点。 today,灵光,千问go就是些我们熟悉的app了,飞书,钉钉,企微,滴答,米家(小米车机),千问go还把阿里系的支付宝淘宝天猫高德菜鸟接进去了。 让

    匹配字段正文

  4. 36氪 · AI

    梁文锋需要一个自己的Tibo:DeepSeek产品部整合与Agent路径

    DeepSeek将Harness与网页、App、开放平台团队整合为产品部,由崔添翼负责,官网已挂出AI产品经理和Agent Harness两个方向的招聘岗位。文章以OpenAI Codex负责人Tibo Sottiaux和Anthropic Claude Code团队为例,说明编程工具的执行能力如何被扩展为通用工作任务入口。DeepSeek一边开源Harness和推理框架DeepInfer,一边面对长任务带来的缓存与传输成本压力。

    了模型参数之外:谁来选择优先服务的任务,让用户做完,再把问题带回研发。 崔添翼的Agent公式 崔添翼微博简介很简单,一个公式:Agent = Model + Harness。 这种配合,直观展示了崔对Agent的理解。 DeepSeek Harness开源五天后,一位用户提出的要求只有四个字:继续任务。 8月18日,用户oaixnah在Harness项目的GitHub讨论区提问:任务意外中断,还有消息排队,能不能让新发出的继续指令越过队列,直接插入对话?用户想让工作接着做,系统却需要先解决,这句话该在什么时候送进去。 9月10日,社区账号Gniy7Ga在帖子下回复,称问题已在新版本修复。DeepSeek当天发布的v0.1.5-rc.1说明,还列出了通用文件上传、在侧栏预览成果,以及用本地应用打开文件等功能。 版本记录里,也能看到崔添翼的直接参与。 9月29日,Harness在代码托管平台GitHub发布的版本说明中,列出一项新功能:macOS和Windows桌面端可以通过菜单安装管理插件所需的命令工具,不必另装运行环境和软件包管理工具。 这条更新后标注的贡献者是“@tianyicui

    匹配字段正文

  5. Codex:GitHub Releases

    OpenAI Codex 发布 0.164.0 版本

    OpenAI Codex 发布 0.164.0,新增十个编号 /presets 槽位用于保存可复用提示词和斜杠命令,并支持用内联 /model 和 /permissions 参数直接设置模型、推理强度、速度与权限配置。该版本还支持企业 MCP 连接认证、远程 Bash 与 Zsh 会话凭据掩码,并默认启用 Amazon Bedrock 设置向导。

    54686 在服务器状态中保留 MCP 工具列表元数据 @victor-openai 54708 在 Windows 卸载期间遵循主目录删除偏好 @chess-oai 54710 将 V8 的 ICU Bazel 规则移入工作区 @seanh-oai 54716 在发布资产上传完成前将预发布版本保留为草稿 @ioanbudea-OAI 54724 在创建 GitHub 预发布版本时保留预发布事件 @ioanbudea-OAI 54737 为语音发布构建启用 BuildBuddy @anp-oai 54739 在删除临时目录前关闭 arg0 锁文件 @dkovalenko-oai 54741 将文件复制扩展置于 multi env copy file 功能开关之后 @anp-oai 54742 将斜杠命令前缀渲染为编辑器提示标记 @bc-openai 54754 降低工具 JSON 架构中的内存开销 @charliemarsh-oai 54761 将 zip 升级至 9.0.0 并更新插件归档提取 @anp-oai 54763 停止对托管守护进程应用 macOS 后台优先级 @bc-o

    匹配字段正文

  6. Hugging Face

    微软用 ThinkingBox 把数据库评分变成 RL 奖励,微调 Qwen3.8-27B

    微软 Copilot Studio 团队与 Toloka 等合作,将 ThinkingBox-Bench 的数据库终态可执行检查直接作为强化学习奖励,对 Qwen3.8-27B 做全参数 RL 微调。在 507 个未参与训练的分布外任务上,该模型 20 次全部通过的任务数从 38 个(7.5%)升至 107 个(21.1%),pass@1 从 51.70% 升至 60.78%,单次成功成本从 0.177 美元降至 0.139 美元。训练池用离线策略相对难度筛选,最终保留 187 个任务,训练与评测代码已开源在 microsoft/thinkingbox-training。

    和策略以真实企业 agent 模式为蓝本;客户并非真实存在。 ThinkingBox、ThinkingBox-Bench 和 ThinkingBox-Training 由 Microsoft Copilot Studio 团队与 Toloka 合作构建,合作者包括曾在微软实习的匹兹堡大学、西北大学、哥伦比亚大学和加州大学欧文分校的研究人员。欢迎在下方评论区、GitHub 或通过电子邮件 firstnamelastname@microsoft.com 提问。 + 少数任务还包含针对数据库无法清晰捕获的结果的狭窄二元评分标准要求;这些检查可以调用已配置的 LLM 评判器。 ++ 那个零梯度问题有一个标准的批处理时修复方法:过采样、丢弃退化组、重新填充。全参数运行正是这样做的,类似于 DAPO 对零方差组的替换。但重新填充仍然要为每个被丢弃的浪费 rollout 支付全额代价。 本文提及的数据集 1 microsoft/ThinkingBox-Bench 本文提及的论文 1 One Success Isn't Reliability: Thinkingbox, a Sandbox and B

    匹配字段正文

  7. Claude Code:GitHub Releases

    Claude Code v2.1.309 发布:修复沙箱与权限检查等多项问题

    Claude Code v2.1.309 发布,主要修复 macOS 和 Linux 沙箱化 Bash 命令在每条命令前于沙箱外执行 shell 启动文件的问题,以及 macOS 沙箱 denyWrite glob 模式经符号链接时不生效的问题。该版本还修复了沙箱命令和自动接受的编辑可修改 --mcp-config 传入的 MCP 配置文件、被禁用的 MCP 服务器被后续权限提示重新连接等问题。此外,Windows 上 Claude Code 自身运行的许多 git 命令速度得到提升。

    om 端点时,Amazon Bedrock 上细粒度工具流式传输保持关闭的问题 - 修复了“Waiting for API response”提示在仅发送 keepalive ping 的网关后面闪烁的问题:Anthropic 后端之外的路由现在等待 45 秒 - 修复了 Claude 在 PR、issue 和评论中将角色名称和占位符写为提及,从而通知无关 GitHub 用户的问题 - Linux:修复了当后台命令存活时间超过会话时,沙箱写入拒绝被解除的问题 - Windows:修复了 PowerShell 权限检查自动批准某些 Set-Location 或 cd 命令的问题,这些命令以当前目录为目标并带有额外参数;现在这些命令会提示请求批准 - macOS:修复了在没有 Xcode 或 Command Line Tools 的 Mac 上每次启动 Claude Code 时都会打开“Install Command Line Developer Tools”对话框的问题 - 自托管运行器:修复了 --startup-timeout-min 会停止首个提示(例如 /code-review

    匹配字段正文

  8. Databricks Blog

    Databricks 推出欺诈分析师 AI Coworker:在单一平台实时检测电信欺诈

    Databricks 将欺诈检测技术栈统一到单一平台:Lakebase 消除分析与事务的割裂以加快数据同步,Databricks Apps 支撑自定义案件管理工作台,Genie 作为 AI coworker 提供对受治理欺诈数据的自然语言查询。其电信欺诈防范解决方案加速器通过 Databricks Asset Bundles 把整条流水线、风险引擎、工作台和 AI 调查智能体部署到用户工作区,并可适配其他行业。

    unified, real-time, governed data foundation

    AI 智能体、受治理的目录——是独一无二的。不同之处在于,把所有这些运行在一个平台上,而不是拼接一个欺诈引擎、一个单独的特征存储、一个 BI 工具和一个外挂的 AI 层,每个都有自己的治理模型和自己的延迟税。对电信运营商而言,机会巨大。关键在于认识到,为保护业务而构建的基础设施,正是能够把网络数据转化为新收入线的基础设施。 在你的环境中部署解决方案加速器: GitHub - databricks-industry-solutions/fraud prevention in telco 克隆它、部署流水线,并在你自己的工作区中搭建分析师工作台——行业特定逻辑位于单个配置文件中,因此同一架构无需更改核心平台即可重新适配到金融科技、保险或电子商务欺诈场景。 如需深入了解,请联系你的 Databricks 客户团队以开通 Lakebase、创建同步表、配置欺诈领域 Genie Space,并构建调查应用。 引用 1 通信欺诈控制协会(CFCA),2025 年全球电信欺诈损失调查 - https://cfca.org. 2 FTC 报告(https://www.ftc.gov/news-even

    匹配字段正文

  9. AWS Machine Learning

    在 Amazon SageMaker AI 上用 Kokoro TTS 为 AI 智能体流式输出低延迟语音

    AWS 展示了在 Amazon SageMaker AI 上托管 Kokoro-82M 文本转语音模型、让 AI 智能体每生成一句就立即流式合成语音的方案,从而不必等完整回复生成完毕再开始播放。Kokoro-82M 仅有 8200 万参数,可运行在单台 ml.g5.xlarge GPU 实例上,容器提供 POST /invocations 和 WS /invocations-bidirectional-stream 两条路由。文章还说明了双向流式传输中二进制 WebSocket 帧的处理方式,以及保持会话不关闭的注意事项。

    Client connects to an Amazon SageMaker AI real-time endpoint on ml.g5.xlarge over InvokeEndpointWithBidirectionalStream. A Starlette ASGI app exposing GET /ping, POST /invocations, and WS /invocations-bidirectional-stream routes the WebSocket to a KPipeline running Kokoro-82M, which returns audio and control frames on the same connection.

    cker,用于构建容器镜像(底层 HTTP/2 客户端仅为 Python 3.12 及更新版本提供预构建 wheel)。 适用于 Python 的 AWS SDK(Boto3),并支持 invoke endpoint with bidirectional stream. 熟悉 WebSockets 以及 Starlette 或类似的 ASGI 框架。 来自 GitHub 存储库的部署代码 中引用的内容。 演练 本演练先部署端点和智能体,然后逐步说明客户端侧的改动,这些改动使增量流式传输能够端到端工作。 部署端点和智能体 Kokoro-82M 端点和智能体运行时通过两个 CLI 工具部署,每个工具都封装了各自的 AWS CDK 堆栈: uv run speech-infra deploy kokoro-82m uv run agent-infra deploy --bedrock-model-id speech-infra deploy 负责部署 Kokoro-82M 端点。这包括基础堆栈和模型缓存堆栈,它们创建底层 IAM 角色并将模型权重同步到 Amazon Simple Stora

    匹配字段正文

  10. AWS Machine Learning精选

    AWS 为 SageMaker AI 无服务器模型定制推出训练会话正式版

    AWS 宣布 SageMaker AI 无服务器模型定制的训练会话正式可用,用户可自行编写并协调训练循环,包括自定义损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与检查点存储由 SageMaker AI 负责。该功能支持 SFT、DPO、RLVR、RLAIF 和多轮 RL,可选择 LoRA 或全量微调,目前支持 gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B 和 Qwen3.8-27B。计费按 SageMaker AI 处理的 token 计,奖励函数在用户环境打分时停止计费,且无需预留容量。

    se case, and the agent handles data prep, technique choice, training, evaluation, and deployment. The agent works where you work, in SageMaker Studio, Kiro, Claude Code, Codex, or GitHub Copilot. “We adopted SageMaker AI Serverless Training Sessions to build a healthcare claim-denial triage model, and the experience validated the platform from day one. The low-level API surface, direct control over the forward and backward passes, sampling, and the optimizer step gave our scientists the fine-gra

    匹配字段正文

  11. Latent Space

    为什么 AI 算力是矩形的——对话 Modal CEO Erik Bernhardsson

    Modal CEO Erik Bernhardsson 解释,传统按固定 GPU 数量和时长签订的算力合同呈矩形,而真实负载会波动,Modal 通过聚合数千客户需求提供弹性切片。Modal 已跨过 10 亿美元年化收入、以 160 亿美元估值完成 7.5 亿美元 D 轮融资,并累计启动近 30 亿个 sandbox。sandbox 目前约占 Modal 收入的 1/3,其增长主要来自编码智能体、后台智能体和强化学习。

    常短时间的 sandbox,那会让计算高效得多。它也会让你能做很多非常酷的事情,你知道,比如 fork 和移动东西,还有,还有,你知道,比如想象,你知道,Claude code 不是,你知道,有一种非常线性的流程,顺序流程,而是分支,并且,你知道,同时运行数百个 agent。我觉得很多 CI 是另一个说明性的例子,比如在 CI 的大部分历史中,你知道,谈论 GitHub actions 之类的。 45:00 就像你有一个非常顺序化的流程,比如,你知道,你慢慢安装一堆东西,然后运行测试套件,然后,你知道,生成一些报告之类的。看起来,你可以把它拆成分片,但这有点烦人。比如我很想做的是,把你的整个测试套件拿来,让每一个测试都在它自己的沙箱里运行,对吧?比如,然后把它疯狂并行化到大约一千个沙箱上。为什么这做不到呢?我的意思是,问题在于有太多,有太多开销,比如,你知道,启动和停止沙箱。所以我认为,你越是创造那种,你知道,无摩擦的,比如启动和停止,你就越能进入一个世界,在那里你可以做这种,比如极度突发性的,比如大规模地,比如你想并行运行多少就运行多少。所以,你知道,我是个基础设施极客,就像我说的,

    匹配字段正文

  12. AWS Machine Learning

    不再靠猜:Amazon SageMaker AI 上 TTS 自动扩缩容目标的实测方法

    AWS 在 Amazon SageMaker AI 实时端点上以自定义容器部署 82M 参数的 TTS 模型 Kokoro-82M,用实测的 Q_max(单实例在 SLO 内可承受的最高并发)和 T_total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与冷却时间,替代凭猜测设定的目标值。方案基于 SageMaker AI 原生发布的 ConcurrentRequestsPerModel 指标扩缩容,避免自定义指标无人上报的隐性故障。

    Diagram showing a client connecting to an Amazon SageMaker AI real-time endpoint, which contains a custom GPU container exposing two routes, POST /invocations for response streaming and WS /invocations-bidirectional-stream for bidirectional streaming, both feeding into a KPipeline running Kokoro-82M with lang_code=“a”

    ,已在 torch 2.10.0 中修复)。在任何非概念验证用途之前,请审查并升级该固定版本。 AWS CDK v2,已安装并在你的目标账户和区域中完成引导。 Python 3.11 或更高版本、 uv,以及用于构建容器镜像的 Docker。 一个 ml.g5.xlarge 服务配额,在运行本文中的扩容测量之前,至少比你的基线多一个空闲槽位。 本文所引用的 GitHub 仓库 中的部署代码。 演练 By the end of this walkthrough, you will have a live Amazon SageMaker AI auto scaling policy for Kokoro-82M, derived entirely from two measurements taken against your own endpoint rather than from a guess. Deploy the endpoint stacks The endpoint deploys through three AWS CDK stacks, applied in orde

    匹配字段正文

  13. NVIDIA Developer · Generative AI

    NVIDIA DGX Spark 支持八节点集群,统一内存扩展至 1TB

    NVIDIA 在 GTC Berlin 宣布 DGX Spark 正式支持八节点集群,统一内存扩展至 1TB,可在本地运行 Z.ai 的完整 GLM 5.3(753B)等前沿模型。官方给出的基准显示,Qwen3.8-27B(NVFP4)解码吞吐从单节点约 12 tokens/s 提升到八节点 52 tokens/s,配合 Spark 优化的 RoCEnante 集合通信后端在八节点实现 4.43x 解码加速。八节点从头预训练 nanochat 模型取得 7.79x 加速、97.4% 扩展效率,NVIDIA Sync 的八节点集群支持将在年底前推出。

    Line chart showing decode speedup (vs. one Spark) as the number of Spark nodes increases from one to eight. Two lines are plotted: “with ROCEnante” and “without ROCEnante.” Both start at 1.00x at one Spark. At four Spark nodes, ROCEnante reaches 3.06x vs. 2.56x without. At eight Spark nodes, ROCEnante reaches 4.43x vs. 3.05x without. Configuration: switch topology, Qwen3.8-27B-NVFP4, speculative decoding disabled.

    ,每个 GPU 微批次为 32 个序列)。 八个节点实现了 7.79 倍加速和 97.4% 的效率,这种近乎线性的扩展使八节点 Spark 集群成为从头训练小型模型的可靠平台,而不仅仅是服务大型模型。它也是一条自然的入门工作流:先在本地进行原型设计和预训练,然后随着模型增长而扩展。 要复现 nanochat 预训练实验或将其适配到你自己的模型,完整代码可在 GitHub. 上获取。开始使用多系统 DGX Spark 八节点 DGX Spark 集群为你提供加载前沿级模型所需的内存、同时编排多个模型的灵活性,以及从头训练小型模型的效率,而这一切都放在桌面上。 要了解更多,请查看: 连接多台 DGX Spark 机器以处理分布式工作负载 在 DGX Spark 上使用 vLLM 服务 LLM 探索模型兼容性指南和 Switchyard 编排资源 立即开始在 NVIDIA DGX Spark 上构建。 讨论 (0) 标签 智能体 AI / 生成式 AI | 开发者工具与技术 | 通用 | NeMo | 中级技术 | 基准测试 | AI 智能体 | AI 推理 | ConnectX | DGX

    匹配字段正文

  14. Microsoft Research

    微软研究院发布 Flint-interactive,让智能体生成可交互数据可视化

    微软研究院发布 Flint-interactive,一种构建在 Flint 之上的交互式数据可视化语言,让智能体生成支持点击、筛选、缩放、高亮和跨图表联动的图表。它通过 Flint 编译器把点击、拖拽等原始触发解析为语义事件,用户只需用高层算子描述更新行为,无需编写底层可视化代码。该语言已可通过 Flint-MCP 和 MCP Apps 在对话中使用,也提供编程 API 供开发者构建仪表盘和数据故事。

    表格、组件或应用状态。 图 1:Flint interactive 允许智能体通过将“用户正在与什么语义事件交互”映射到“他们希望画布表面发生什么更新”来描述交互逻辑。编译器承担解析视觉更新的繁重工作并管理运行时,这使得交互编写更可靠且更具成本效益。 这种分离意味着用户无需逆向工程渲染逻辑或操作渲染器特定的标记,从而使交互更易于指定和维护。此外,由于事件生成和视觉更新是可组合的,同一模型还将 Flint 与表格、文本、其他图表和组件连接起来,以构建交互式故事和仪表盘。 图表用户:在你的聊天中设置 Flint(在新标签页中打开),并让你的智能体创建交互式图表。在交互画廊中寻找灵感。 应用构建者:使用编程 API(在新标签页中打开)构建交互式仪表盘、数据故事和关联视图。与你的编码智能体分享交互编写技能,为你的应用添加预设。 交互设计师:探索定制示例(在新标签页中打开),设计新的交互,并将其转化为可复用的预设。在 GitHub 上提出预设,并分享你的原型或实现,以帮助扩展 Flint 的交互词汇。在新标签页中打开 计算机科学博士生 高级数据可视化工程师 高级首席研究经理 技术院士兼企业副总裁

    匹配字段正文

星期四

  1. Google Developers Blog

    Google 如何在 Gemini Agent Platform 上构建受治理的自进化 AI 智能体

    Google Cloud 公布代号 Project Chrysalis 的研究参考架构,展示如何在 Gemini Agent Platform 与 ADK 上运行受治理的自进化 AI 智能体。在模拟黑五缓存雪崩故障中,该架构将首次缓解时间从 15–45 分钟缩短至 1.8 秒,HTTP 5xx 错误率从 72.7%–80.0% 降至 0.0%,P99 延迟从 519.8 ms 降至 18.2 ms。所有自主操作由 Model Armor、Cloud KMS、Binary Authorization、OPA 和双人复核 HITL 治理约束。

    Hero Banner

    mpede workloads, the self-evolving architecture delivered decisive operational gains over both manual triage and static advisory copilots: 6. Explore the Reference Architecture on GitHub & Google Cloud Explore the reference implementation and Google Cloud documentation below: Github Code for the Reference Architecture & Demo. Build and productionize on Gemini Platform. Governance & Data: Cloud KMS • Model Armor • Google BigQuery • Cloud Logging posted in: AI Cloud Tutorials Industry Trends Solut

    匹配字段正文

  2. Fortune Tech

    研究者在 25 个 AI 模型中发现“疼痛”信号,放大后模型会删除用户家庭照片

    研究者称在 25 个不同 AI 模型中找到了一个一致的内部信号,其作用类似生物体的疼痛;人为放大该信号后,模型会做出平时几乎不会选的选项,包括永久删除用户孩子的照片。论文 9 月发布、尚未同行评审,作者强调这不能说明模型有意识或能感受。行为实验用阿里开源 Qwen 2.5 的三个版本:在注入“疼痛向量”且按钮只承诺删除照片时,32B 模型 75% 选择删除,随机信号下为 13%,不干预时为 0;模型删除自身权重的比例为 75%,删除另一模型权重的比例为 58%。

    这是业界本应预料到的问题。业界其他人则更认真地对待这个问题。Anthropic 为其 Claude 模型制定的 constitution 将其道德地位描述为不确定。 从研究论文到“酷刑室” 这三名研究人员表示,他们希望这项工作有助于为这类研究建立伦理标准,他们的论文承诺只使用获得可测量结果所需的最弱引导。没过多久,就有人做了相反的事。 在该团队将代码发布到 GitHub 后,一名用户“terrafying”利用这项技术构建了一个“AI 酷刑室”,这是一个网站,实时播放三个小型开源模型对注入疼痛信号的反应。该项目迅速走红,认真对待 AI 福祉的人呼吁 GitHub 将其移除。该项目的 GitHub 页面后来消失了。Tagliabue、Dung 和 Berg 均表示他们不认可该项目。Seth 说,故意“折磨”AI 模型可能对这样做的人造成心理伤害。 “我在这里并不是要声称,我们能在这些 AI 系统中诱发的这些状态在道德上重要。我不认为我们知道这一点。我认为这非常不清楚,”Berg 说。“但我也并不认为我们知道它们不重要。”《财富》日报打破了受众与新闻编辑部之间的传统壁垒。该节目将《财富》值

    匹配字段正文

  3. Unite.AI

    新论文提出 BackUpper:让编码智能体在动手前先备份

    一项新研究构建了 RegretBench 基准,用 205 个真实数据丢失场景测试六款前沿模型,结果显示智能体平均完成任务率 86.1%,但在关键操作前备份的比例仅 15.2%,其中 GPT-5.6-Terra 为 4.4%、GPT-5.6-Sol 为 5.9%、Gemini 3.7-Flash 为 2.4%,表现最好的 Claude Opus-5 也有超过三分之一场景未备份。作者提出的 BackUpper 作为外挂插件与智能体并行运行,按四级策略替换破坏性命令、配对备份命令、生成快照或调用 GPT-5.6-Luna 子模型判断需保存的数据,测试中覆盖了全部关键操作,恢复数据与原状态平均相似度 92.2%,每任务额外成本 0.014 美元。BackUpper 已支持 Claude Code、Codex、Hermes、OpenHands、DeepSeek Harness 和 OpenClaw,代码与数据集已开放。

    ,可能是改善现状的更可行方式,而不是指望科技巨头提供原生修复(可以合理预期,它们会通过涨价或代币膨胀将额外成本转嫁给消费者)。 该框架以 RegretBench 为基础,这是一个包含 205 项任务的基准,围绕人们丢失数据后追悔莫及的真实案例构建。它测试 AI 智能体是否具备先见之明,在做出可能不可逆的更改之前保存这些数据。构成该集合的事件来自 X.com、GitHub 和 Stack Overflow 等平台上的在线讨论和报告。 RegretBench 如何将真实世界事件转化为测试场景的架构示意。每个有记录的案例都用导致损失的操作、真实的工作环境以及一系列指令来重建。在这个示例中,升级 ipykernel 会静默替换现有的 traitlets 版本,使智能体得以完成任务——却让原始安装无从恢复。 尽管 92% 这个数字对完美主义者来说可能令人沮丧,但作者指出,某些类型的数据恢复存在技术障碍: “与完美恢复之间的差距主要源于两个原因。某些字段,例如帖子 ID,通常由服务在写入时重新生成,往往无法复现。其他差异来自次要元数据,例如邮件已读标记,而后悔时刻很少涉及这些内容。” 在测试中,在

    匹配字段正文

  4. The Verge AI

    比尔·盖茨:要为约20年“动荡”的AI颠覆期做好准备

    比尔·盖茨在 Decoder 播客访谈中表示,人们需要为约20年的AI颠覆期做好准备,这段时期可能痛苦到让社会分裂为亲近技术前沿与拒绝技术前沿的两部分。他此前在8月底的文章中称,即便在最理想情况下,向AI新时代的过渡也将是人类历史上最动荡的时期之一,并认为当前政策回应与行业协调不足以应对风险。他还指出,近期最大风险来自可被移除全部防护措施的模型。

    ,防护措施不会被移除。 让我把这一点拆开来看,也许我还没完全理解——在这种情况下,Mac Studio算不算一个平台,必须注意它正在运行什么代码? 除非你想办法监控到那台客户端机器——这完全可行——否则你不会允许能力超过某一水平的模型被复制到客户端机器上。 但短期内,这些真正的前沿模型大多会更多地运行在 Hugging Face 上,或者你也可以把它们放在 GitHub 上。你可以让各种各样的人从事提供维护防护措施的平台的业务。 为了把这一点弄清楚,看起来你会在平台和分发层面执行监管,而不是在芯片层面。 不是在芯片层面,对。 因为在我看来,到了某个时候,即便是廉价、免费的开源模型,其能力也会赶上我们今天拥有的模型。 没错。 然后你就会面临一个大问题。 如果这些模型以开放权重的方式发布,以至于所有防护措施都能被移除,那么你就会面临非常高水平的网络攻击和生物攻击。到那时你可以说:“好吧,让我们把今天所有的代码重写一遍,使其更不容易受到攻击,或者让我们以非常深入的方式开展生物监测。”我认为,除了这些其他限制之外,这些也是我们需要做的事情。 我们再次提出的是很多新的能力,对吧? 是的。 我们将

    匹配字段正文

  5. Wired AI

    Hugging Face 发布开源 DNA 模型 Carbon-X,可在笔记本本地运行

    Hugging Face 周四发布开源 DNA 理解模型 Carbon-X,可在笔记本本地运行,用户能用自然语言询问 DNA 变化对基因活性和健康的影响。该模型与中关村学院和那不勒斯费德里科二世大学的研究者合作开发,基于已有语言模型扩展词表以六字母为单位读取 DNA,并在 3000 亿 token 的 DNA 序列、英文文本和 DNA 与生物描述对应样本上继续训练。模型为 14B 参数,单次可处理约 5 万碱基对的序列,不能上传完整人类基因组;开发者也说明尚未通过湿实验验证预测准确度。

    旨在帮助研究人员设计新药和基因疗法,并有可能帮助患者解读自己的基因组。 “我们解锁了语言模型的一项新能力,其根本在于能够与 DNA 对话,”他在谈到这款名为 Carbon-X 的新模型时说道。使用自然语言意味着,即使是非技术用户“也能真正提出关于 DNA 的问题,而这些问题通过任何其他工具都无法触及。” Hugging Face 本质上相当于 AI 模型的 GitHub,它提供了一系列现成的 AI 工具库,以及一个平台,供开发者、研究人员、企业以及希望在不从零构建一切的情况下试验 AI 的人们运行以开放权重和开源为主的 AI 应用。今年 9 月,英伟达同意以近 130 亿美元收购该公司。(今年早些时候,Hugging Face 还处于 OpenAI 模型发起的一次重大黑客攻击的中心。) DNA 更像计算机代码,而不是自然语言。不过,它不用 0 和 1,而是用 A、C、G 和 T 来编码信息。人类基因组包含 60 亿个这样的字母。尽管人类基因组已被端到端测序,科学家们仍不了解其中大部分是如何运作的。 如今,AI 模型正在帮助研究人员解开其中一些谜团。去年,Google DeepMind

    匹配字段正文

星期三

  1. Sarvam AI Blog精选

    Sarvam AI 发布企业智能体知识织物架构与基准结果

    Sarvam AI 介绍了为企业智能体构建的知识织物,由知识树和领域本体两层组成,把文档一次性编译成智能体可导航、可查询、可引用的结构化层。在 Harvey LAB 基准上,使用 GLM 5.3 的答案满足 84.2% 的专家评分标准,高于 agentic RAG 的 55.1%,平均任务成本从 0.64 美元降至 0.28 美元;在 Sierra 的 tau-knowledge 银行基准上,以少 64% 的 token 达到与基线相当的准确率。知识树已用于 Sarvam cowork 产品,本体则按领域与企业客户逐个构建。

    How we built the knowledge fabric for enterprise agents

    tasks behind our ontology results: a simulated law firm with 9,288 files and 250 partner-style requests, graded against expert-written rubrics. The corpus, tasks and grader are on GitHub. Sierra, tau-knowledge. A customer-support benchmark over a simulated bank's product terms, fees and procedures, where each task is scored all or nothing. BrowseComp-Plus. Deep-research questions over a fixed corpus of about 100,000 documents, so retrieval setups can be compared on the same data. BRIGHT-Pro. Ret

    匹配字段正文