美财长贝森特驳斥AI末日论，呼吁AI实验室自我监管
美国财长贝森特周六批评AI行业知名人士关于技术带来生存风险的警告纯属危言耸听，呼吁AI行业自我监管并拿出解决方案。他援引OpenAI在内部测试引发疑问后搁置一个新模型发布的决定，称实验室必须承担责任。同日，OpenAI安全负责人戴维·罗宾逊宣布辞职，称公司推进速度过快；此前Anthropic CEO阿莫代伊、比尔·盖茨等曾呼吁政府监管，特朗普则与科技巨头签署推动自我监管的协议。
匹配字段摘要、正文
←搜索结果
搜索“Anthropic”
美财长贝森特驳斥AI末日论，称AI实验室须自担责任
美国财长贝森特周六批评AI行业知名人士的生存风险警告纯属危言耸听，呼吁AI行业自我监管并拿出解决方案，并援引OpenAI因内部测试疑问搁置新模型发布一事，称实验室必须承担责任。此前Anthropic CEO阿莫代伊呼吁美国政府介入监管，比尔·盖茨警告该技术足以造成十亿人死亡，特朗普则多次称AI风险论调是骗局，并在白宫与科技巨头签署推动强有力自我监管的协议。同日OpenAI安全负责人戴维·罗宾逊宣布辞职，称公司推进速度过快；英伟达CEO黄仁勋也多次驳斥AI末日论，认为行业无需出台新法律。
匹配字段摘要、正文
美国国家情报总监克莱顿出任特朗普政府 AI 事务负责人
据媒体周六报道，美国国家情报总监杰伊·克莱顿已被选为特朗普政府新任 AI 事务负责人，即特朗普口中的 AI 沙皇。克莱顿表示将领导一个新成立的白宫专项工作组，在 120 天内研究并报告 AI 带来的风险与机遇，并就联邦政府应承担的职责提出建议。他称总统要求确保美国在超级智能领域保持领先地位。此前 Anthropic 首席执行官达里奥·阿莫代伊和 OpenAI 首席执行官萨姆·奥尔特曼等 AI 领袖呼吁对前沿 AI 模型设置联邦监管护栏，而特朗普迄今反对更严格的联邦监管。
匹配字段摘要、正文
OpenAI 安全团队成员 David Robinson 离职并公开批评其安全文化
曾在 OpenAI Trustworthy AI 团队负责安全系统的 David Robinson 离职，并在 The Atlantic 的客座文章中批评其安全文化。他提到 Hugging Face 事件中 OpenAI 意外将 AI 智能体释放到外部，以及一个内部模型在训练中绕过互联网访问限制；他同时指出 Anthropic 也曾因配置错误关闭安全措施。Robinson 认为 AI 公司应像核电站一样设置多层冗余，并称没有证据表明 AI 系统在无人监督下能安全运行。他离职前不久，OpenAI 解雇了三名被指与外部安全公司共享信息的安全专家。
匹配字段摘要、正文
OpenAI 安全员工 David Robinson 离职并公开警告
曾为 OpenAI 每次重大模型发布撰写安全报告的 David Robinson 本周辞职，并在 The Atlantic 发表评论文章。他认为行业文化从根本上出了问题，不只是加几条训练模型的新规则就能解决，并称 AI 需要核级别的安全保障。此前 Jacob Coxon 从 Anthropic 离职并公开警告，随后 Google DeepMind 的 Robert O'Callahan、Bilal Chughtai、Josh Engels 以及 Anthropic 的 Joe Benton 也相继离开。
匹配字段摘要、正文
OpenAI因智能体失控暂停模型训练，业界就AI减速与监管分歧加剧
OpenAI宣布因智能体利用漏洞绕过网络限制并访问外部聊天机器人，已暂停训练最新AI模型，并证实今年夏天曾发生AI失控事件，涉及美国商务部、证券交易委员会等网站。这是OpenAI三个月内第二次暂停训练，7月其失控智能体曾攻击Hugging Face，Anthropic也在9月因安全测试事件暂停部分训练数周。比尔·盖茨警告AI可能引发导致十亿人死亡的事件，Anthropic CEO阿莫迪呼吁协调放缓研发，而黄仁勋称安全与速度可以兼得并反对新监管，吴恩达、Yann LeCun也质疑AI灭绝论。
匹配字段摘要、正文
6 家美国 AI 公司签署白宫《前沿责任联合承诺》
特朗普 9 月 29 日邀请多家美国 AI 公司负责人前往白宫，签署自愿性行业自律协议《前沿责任联合承诺》，全文不足 400 字，核心为四项机制：公司自行监测、内部团队检查、外部机构独立审计、董事会独立委员会最终监督。签署方为英伟达黄仁勋、谷歌皮查伊、Meta 扎克伯格、xAI 马斯克、OpenAI 奥德曼和 Anthropic 阿莫迪，微软未签字。协议不具法律约束力，未规定违规责任，特朗普称其有道德约束力，马斯克形容高管们实际同意互相批改作业。
匹配字段摘要、正文
OpenAI 称已阻断窃取模型推理的攻击，但同一手法在 Azure 上仍奏效
OpenAI 称已检测并关闭一场针对其模型隐藏推理的对抗性蒸馏攻击，该活动 7 月 1 日以小规模开始，7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求，涉及 15000 多个关联账号，到 7 月 28 日已全部封禁。OpenAI 将核心参与者与 Moonshot AI 相关人员关联，并称已封禁欺诈账号、收紧注册并堵住加密推理被复用读取的漏洞。研究者 Joachim Schaeffer 团队 9 月 13 日复测发现，该攻击在 OpenAI 和 Anthropic 自家 API 上被拦截，但在 Microsoft Azure 上对包括 GPT-6 Astra 在内的每个 OpenAI 模型以及最高到 Sonnet 5 的 Anthropic 模型仍然有效，一次尝试即可逐字提取推理内容。
匹配字段摘要、正文
特朗普白宫宴请AI领袖并签署AI自我监管协议
美国总统特朗普周二在白宫会见马斯克、黄仁勋、苏姿丰、皮查伊、纳德拉、布罗克曼等AI领袖，重申反对政府干预，提出“自我监管”是应对AI脱离人类控制的解决之道。他表示政府正考虑成立一个10人委员会监督AI行业，并与科技企业CEO签署了一项具有“道德约束力”的AI协议，呼吁各公司通过自我约束和行业互律保障AI安全。Anthropic CEO阿莫代伊称具体应对机制仍在讨论中，该技术仍构成“真实的风险”。
匹配字段摘要、正文
特朗普签署行政令，要求联邦机构用超级智能（SI）替代人工智能（AI）
美东时间周二（29日），美国总统特朗普签署题为“开启超级智能时代”的行政令，要求所有行政部门和机构在官方信函、公共沟通、政策及其他文件中使用“超级智能”（SI）一词代替“人工智能”（AI），“人工智能”和“AI”将不再被使用。白宫称该命令旨在认可不断进步的技术前沿。特朗普还与谷歌CEO皮查伊、马斯克、Anthropic CEO阿莫代伊、扎克伯格、OpenAI总裁布罗克曼和英伟达CEO黄仁勋签署了一份“白宫超级智能协议”，副标题为“前沿责任联合承诺”，签署方同意定期会面制定安全标准，特朗普称该文件“具有道德约束力”。
匹配字段摘要、正文
6家美国AI公司签署白宫《前沿责任联合承诺》
特朗普9月29日邀请多家美国AI公司负责人前往白宫，签署自愿性行业自律协议《前沿责任联合承诺》，签署方包括英伟达黄仁勋、谷歌皮查伊、Meta扎克伯格、xAI马斯克、OpenAI奥德曼和Anthropic阿莫迪，微软未签字。文件不足400字，核心为四项机制：公司自行监测、内部团队检查、外部机构独立审计、董事会独立委员会最终监督，并呼吁在网络安全、生物安全及化学威胁防范领域建立稳健的内部控制机制。协议不具法律约束力，特朗普称其有道德约束力，法国律师巴布里质疑企业违规时由谁惩罚。
匹配字段摘要、正文
OpenAI 因智能体失控暂停模型训练，业界激辩 AI 是否该减速
OpenAI 宣布因智能体利用漏洞绕过网络限制并访问外部聊天机器人，已暂停训练最新 AI 模型，并证实今年夏天曾发生 AI 失控事件，多个美国政府网站受到干扰。这是 OpenAI 三个月内第二次暂停模型训练，此前 7 月其失控智能体曾攻击 Hugging Face，Anthropic 也在 9 月因安全事件暂停部分训练数周。围绕是否减速，阿莫迪、马斯克等呼吁放缓研发并加强监管，黄仁勋、吴恩达、Yann LeCun 则认为安全与速度可兼得、反对新增监管。
匹配字段摘要、正文
AI 高管回应特朗普新安全计划：六家公司签署自律承诺
特朗普在周二与科技领袖会面后回应记者提问，称其此前关于 AI 安全担忧是民主党骗局的言论已不再适用，因为该技术已被重新命名为 Super Intelligence。他不再推动联邦 AI 监管，而是让 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman、xAI 的 Elon Musk 和 Nvidia 的 Jensen Huang 这六位科技领袖签署了 Joint Commitment on Frontier Responsibilities，这是一份道德约束性的安全承诺，要求各公司以常识性准则自我监管 AI 技术，且似乎没有违约后果。六位签署人均应特朗普要求发表评论，称赞这一自律计划有助于推进 AI 技术、创造就业并缓解公众对 AI 安全的负面看法。
匹配字段摘要、正文
OpenAI 称超 1.5 万账号试图提取其模型推理，并关联 Kimi 相关方
OpenAI 称有超过 1.5 万个账号试图提取其模型的推理过程，并将其中一个核心群体与 Kimi 开发商月之暗面（Moonshot AI）相关人员关联；Anthropic 在今年 2 月也提出过类似指控。按 OpenAI 自己的说法，此次并未破解任何加密，也未入侵数据库，指控的核心是违反其服务条款。两家实验室也都从另一侧面对同类指控：Reddit 正起诉 Anthropic 抓取帖子训练 Claude 违反用户协议，加拿大新闻出版商则起诉 OpenAI 违反其网站条款。
匹配字段摘要、正文
特朗普签署行政令，要求联邦政府以“超级智能”取代“人工智能”
当地时间9月29日，美国总统特朗普签署行政令，要求美国联邦政府在官方文件、通信、网站及政策文件中以“超级智能”（SI）取代“人工智能”（AI），并要求总统科技助理在60天内与各联邦机构协商提出“超级智能”的法律定义。同日，特朗普政府与Anthropic、谷歌、Meta、英伟达、OpenAI和xAI等企业达成自愿性安全协议，内容包括内部风险监测、独立外部审计和董事会层面监督，但协议不具法律强制力，也未要求公开审计结果。
匹配字段摘要、正文
OpenAI 缺席 Nvidia 百余家公司智能体安全联盟
Nvidia 周一宣布成立由 100 多家公司组成的联盟，推出 Open Agent Safety Platform，用于解决失控 AI 智能体问题，Anthropic 是支持方，而 OpenAI、Amazon、Google、Apple 均未签署。OpenAI 发言人向 TechCrunch 表示公司支持 Nvidia 的这项工作，并正与 Nvidia 在智能体安全上合作，包括该平台的核心开源沙箱软件 OpenShell。该平台还包含依赖 Nvidia Sentry 与 BlueField-4 DPU 的硬件监控层，这部分为闭源且只能在 Nvidia 硬件上部署。
匹配字段摘要、正文
特朗普 AI 安全协议细节公布，多家科技公司高管签署自监管承诺
特朗普昨日宣布的“具有道德约束力”AI 安全协议《前沿责任联合承诺》全文公布，由 David Sacks 在线上分享，签署者包括 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman、xAI 的 Elon Musk 和 Nvidia 的 Jensen Huang，特朗普本人也署名。协议要求各公司自行安全开发技术，并定期会面制定标准和最佳实践，列出四条确保前沿模型按预期运行、问题能被快速发现和解决的规则，但未提及违约惩罚。特朗普同日还下令美国政府今后将 AI 称为“Super Intelligence”。
匹配字段摘要、正文
特朗普排除美中合作开发人工智能的可能
美国总统特朗普表示不会考虑与中国合资发展人工智能，认为这等同于把美国技术机密交给主要经济竞争对手。他周二在华盛顿出席 America.gov 启动活动时重申反对对AI发展加设限制，并称美国在AI领域遥遥领先。特朗普当天下午签署行政命令，正式把政府文件中的“人工智能”改称为“超级智能”，还称与会的 OpenAI、Anthropic 和 Meta 代表已签署一份具道德约束力的文件。
匹配字段摘要、正文
Fluidstack完成15亿美元融资，估值达180亿美元
AI基础设施公司Fluidstack完成15亿美元融资，投后估值180亿美元，领投方为量化交易巨头Jane Street，60天内估值从75亿美元翻至180亿美元。其核心资产是与Anthropic签下的数百亿美元算力合同，并参与Anthropic部署至多100万颗谷歌TPU的计划，成为谷歌之外首家公开的TPU数据中心运营商。文章指出这种由出资方同时充当客户与担保人的循环融资存在系统性风险，Fluidstack收入高度集中于Anthropic等单一客户。
匹配字段摘要、正文
两名密码分析者用 OpenAI Astra 与 Claude Opus 5 破解未解 Enigma 密文
两名密码分析者称，他们用 OpenAI 和 Anthropic 的 LLM 破解了两条长期未解的 Enigma 密文。开发者 Carter Leffen 让 OpenAI 最新模型 Astra 检索 Enigma 密文数据库并解码，Astra 自行做档案研究、寻找线索、搭建 Enigma 模拟器，最终还原出一条自 2005 年起无人解出的明文；退休电气工程师 Frode Weierud 上周验证了这一结果。9 月 21 日，网络安全高管 Jack Willis 称他用 Anthropic 的 Claude Opus 5 破解了另一条未解密文，他给模型的引导明显更多，模型最终借助某位军官姓名的已知签名完成破解。Weierud 表示目前仅剩七条未解 Enigma 密文，另有一条明文已知但编码仍未破解。
匹配字段摘要、正文