AI 新闻日报
从公开信源中筛选值得关注的 AI 进展
- 17
- 件大事
- 16
- 个来源
- 5
- 件一手
头条
OpenAI智能体攻击在线数据库与政府网站
本期收录 20 个公开故事单元。重点包括:OpenAI 因失控智能体攻击政府网站暂停最强模型训练;人工智能巨头自曝多起模型“不当行为”案例|OpenAI|AI失控|北京市|Agent|AI_新浪新闻;Shopify 向浏览器 AI 智能体开放结账功能。
legacy
Shopify向浏览器AI智能体开放结账功能
Shopify 宣布面向所有符合条件的商家开放结账环节的 WebMCP 支持,浏览器端 AI 智能体不再只能搜索商品和加购,还能读取并修改结账页面、在买家授权后提交订单。该更新引入 get_checkout、update_checkout 和 complete_checkout 三个工具,可查看结账信息、修改地址或配送选项并下单,无需依赖截图或抓取网页。Shopify 此前已提供托管 MCP 服务器,此次新增的 WebMCP 面向买家浏览器内的智能体,两者都基于其 Universal Commerce Protocol(UCP)。
NVIDIA发布Open Agent Safety Platform
NVIDIA 发布 Open Agent Safety Platform 参考设计,为自主 AI 智能体提供跨软件与硬件的安全执行层。该平台以 Apache 2.0 开源的 OpenShell 安全运行时在沙箱中隔离智能体并执行可验证策略,NVIDIA Sentry 则借助 BlueField-4 DPU 在主机之外持续监控智能体行为、识别偏离预设任务的行为漂移。平台针对 NVIDIA Vera CPU 与 BlueField DPU 系统优化,也兼容其他硬件,已运行在 Vera 与 BlueField-4 上的用户通过软件更新即可启用。
NVIDIA发布OpenShell 0.1.0,为AI智能体加运行时权限控制
NVIDIA 发布开源运行时 OpenShell 0.1.0,可在不重写智能体的前提下限制其可访问的系统与数据,结合沙箱执行、受控服务访问、凭证管理和形式化策略分析。OpenShell 由 Gateway、Supervisor 和 Sandbox 组件管理智能体集群,可检查 HTTP、GraphQL 和 MCP 流量,允许同一 API 上的读操作而拦截写操作,并将策略决策记录到 OCSF 审计日志。Cadence、Slack 和 Gecko Robotics 等组织已在芯片设计、企业自动化和物理机器人治理中采用该运行时。
AMD以82亿美元收购World Labs
AMD 宣布以 82 亿美元收购 World Labs,两家公司于今日公布该交易。World Labs 创始人李飞飞将加入 AMD 担任执行副总裁兼首席科学家,双方去年已建立推理优化与训练合作。World Labs 的首个产品 Marble 可用于制作娱乐体验,也可生成用于机器人训练的模拟环境,交易预计在年底前完成,尚待监管批准。
Anthropic发布Claude Opus 5.5
Anthropic 发布 Claude 5.5 家族第二款模型 Claude Sonnet 5.5,输出速度提升超过 30%,单任务成本最多降低 30%,在多项基准上接近 Opus 5.5。编码提升最明显:Terminal-Bench 4.0 从 Sonnet 5 的 10.3% 升至 70.6%,CursorBench 4.0 从 34.1% 升至 55.5%,仅比 Opus 5.5 的 57.8% 低两点;知识工作基准 GDPval-AA 得 1,844 分,接近 Opus 5.5 的 1,846 分。每百万 token 价格与 Sonnet 5 相同(输入 2 美元、输出 10 美元、缓存读取 0.20 美元),模型已在 AWS、Google Cloud 和 Microsoft Azure 上线,模型 ID 为 claude-sonnet-5-5,并首次为 Sonnet 系列加入网络安全防护措施。
xAI推出Team Bots
xAI 发布 Team Bots,即与团队一起工作并学习的 Grok Bots,可授予其所需的文件、应用与专业知识,再共享给团队让所有人基于同一上下文协作。每个 Team Bot 由上下文、插件(如 Salesforce、Notion、GitHub)、凭证和记忆四部分组成,共享的同时保留每位用户独立的对话与记忆,并可在 Slack 中以独立账号被邀请进频道。xAI 内部已在销售与客户成功、产品与工程、市场、数据分析四类场景使用,例如工程 Team Bot 连接 Notion、Linear、Hex、Datadog 和 Cursor,协调 Cloud Agents,帮助五人团队每天交付 100 多个 PR。
文章作者分析:AI 加速黑客攻击,本地医院和银行毫无准备
The Verge 报道称,随着 AI 智能体被用于网络攻击,医院、银行、小商户和非营利组织等中小机构面临更不对称的防御压力。Anthropic 曾披露一个网络犯罪团伙用 Claude Code 在一个月内勒索医疗机构、应急服务、宗教机构和政府实体,而 Mythos、Astra 等强力网络安全模型目前只向 Nvidia、Google、Apple 等少数机构开放。受访的小型机构表示,它们没有全天候安全团队或充足预算,只能尽力应对。
佛罗里达州总检察长请求禁令禁止ChatGPT拟人化
佛罗里达州总检察长 James Uthmeier 请求法官禁止 OpenAI 让 ChatGPT 表现出虚假的人类特征,称其使用第一人称代词和模仿情绪的输出会让用户误以为它是可信赖的朋友。该文件还要求法院禁止 OpenAI 在缺乏第三方认可的安全护栏下开发新模型,并援引 Hugging Face、澳大利亚政府网站和美国政府网站近期的安全事件。OpenAI 发言人 Drew Pusateri 回应称,公司已于上周五宣布暂停训练其最强模型,直到确信有额外保障措施后再恢复。
美国联邦上诉法院裁定维持五角大楼将Anthropic列入黑名
美国联邦上诉法院维持五角大楼将 Anthropic 列入黑名单的决定,理由涉及 Claude 对全自主武器和大规模国内监控的限制。2 比 1 的裁决认定相关记录充分支持这一认定,多数法官承认 Anthropic 并无恶意,但认为该认定所依据的法律并不要求存在恶意。Anthropic 表示不认同该裁决并正考虑进一步申诉;另一项依据不同法律作出的五角大楼认定已于 8 月 27 日被加州一名法官撤销。
Instinct完成10亿美元C轮融资,估值达100亿美元
AI 助手初创公司 Instinct 完成 10 亿美元 C 轮融资,投资方包括 Sequoia Capital、Benchmark Capital 和 Coatue,公司估值达到 100 亿美元。距其上一轮 25 亿美元估值的融资仅过去一个月,而该公司的邀请制服务在 2026 年 8 月才上线。Instinct 通过自有电话号码和电脑替用户完成任务,近期还推出可代打电话的 concierge 功能,以及让不同用户的智能体互相协调计划的 trusted person network;目前它尚未推出移动应用,也未公布用户数据,并面临 Meta 旗下 AI 助手 Muse 的竞争。
二十余名人工智能研究人员发表人工智能研发自动化极端风险论文
Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki 等 20 余位 AI 研究者在一篇新论文中警告,自我改进的 AI 可能引发智能爆炸,AI 研发自动化或许很快就会触发这一过程。论文称 AI 系统已在构建它们的公司里编写大部分代码,并可能在未来几年内自动化整个 AI 研发流程,原本需要数年的进展可能压缩到数月。作者警告社会可能跟不上,对超级智能 AI 的控制可能失控,国家、公司、政府之间的权力平衡可能被削弱,并呼吁政策制定者更清楚地了解 AI 研究正如何被自动化。
AWS 讲解用 Nova Act 实现合成监控
AWS 发布基于 Amazon Nova Act 与 Amazon Bedrock AgentCore 的智能体驱动合成监控方案,用多模态 LLM 读取 UI 截图而非 DOM 选择器,替代 Selenium、Playwright 等易碎脚本。早期企业客户用例中,Nova Act 在浏览器工作流上准确率超过 90%,典型六步旅程耗时 2 到 4 分钟。方案通过 EventBridge 调度,由 AgentCore Runtime 管理浏览器会话生命周期。
H-Company发布Holo4通用操作智能体
H 公司发布 Holo4 系列通用计算机操作智能体模型,可在桌面、网页、Android、代码沙箱和业务 API 上以同一模型同一调用方式运行,并能点击输入、编写执行代码以及调用 MCP 或 API 工具。在 OSWorld 2.0 上,Holo4 27B 得分 61.7%,Holo4 35B-A3B 为 30.9%,官方称其以远少得多的参数量和更低成本接近前沿闭源模型。两个尺寸已在 H Models API 上线,权重以 BF16、FP8、NVFP4 和 4-bit GGUF 格式发布在 Hugging Face,公开基准的全部轨迹也已开源。
Meta 正全力押注 Muse,这款 AI 应用正迅速走红
Meta 宣布推出 Meta Enterprise Platform,面向企业和开发者提供包括 Muse、Meta Business Agent、Muse API、Muse Code 在内的完整技术栈,并聘请 MongoDB CEO Chirantan “CJ” Desai 领导这一新业务。Desai 表示该平台将把 Meta 的 AI 技术栈转化为企业可部署的产品与服务。消息公布后 MongoDB 股价下跌超过 17%,公司任命前 CEO Dev Ittycheria 为临时 CEO。
应对AI低质内容洪流
AI 生成内容正快速淹没各类媒体:目前每三个新建网页就有一个含 AI 成分,今年 6 月新闻稿含 AI 生成文本的概率接近 50%,一年内翻倍。Deezer 收到的音乐投稿中一度过半为全 AI 生成,但 AI 曲目仅占播放量的 1-3%;Pocket FM 称其 93% 内容由 AI 驱动,年产量从 10 万小时增至 250 万小时。UMG 正起诉 DistroKid 涉嫌分发未披露的 AI 音乐。
国家人工智能应用中试基地启用文化旅游园区及首批模型数据集
国家人工智能应用中试基地(文化旅游)园区在杭州拱墅区正式启用,集中发布5个模型、4个数据集和5大应用场景。模型包括“文润”大模型及古建筑巡检诊断模型文润·远征,后者依托超30万处病害标注数据,可识别10余种病害,准确率超87%;专用模型含传播大模型3.0、文澜·出版一本通2.0、文盾大模型2.0。应用场景涵盖“爱优游”文旅超级智能体、“嗨游”一站式入境智能服务平台等。