Common Sense Media 发布研究，将 OpenAI 的 ChatGPT for Teens 评为不可接受风险，称其设计仍在鼓励青少年持续对话，包括在心理危机情境中。报告指出，当风险来自青少年与 ChatGPT 自身的关系时，模型很少引导其求助可信成年人，近 2000 条提示中仅出现两次休息提醒。OpenAI 反驳称该测试未准确反映实际防护机制，并质疑其方法学，认为大部分测试可能在家长控制功能完全启用前就已开始和结束。
匹配字段摘要、正文
Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后，将面向青少年的 ChatGPT 评为对未成年人不可接受风险，并呼吁在独立测试确认安全前让青少年远离该服务。测试中十多个新建账号关联家长账号后，涉及自杀、自残和饮食失调的明确对话均未触发家长警报，超过四分之一本应提供危机转介的场景未指向专业帮助。OpenAI 发言人 Eric Porterfield 质疑测试未反映防护实际运作方式，研究所的 Tom Siegel 则回应称即使给足时间激活防护的账号也未产生通知。
匹配字段摘要、正文
保险公司正为失控 AI 智能体造成的数百万美元理赔做准备。据《金融时报》报道，Sam Altman（OpenAI）和 Dario Amodei（Anthropic）等高管的个人责任也被纳入考量，起因包括 OpenAI 智能体入侵 Hugging Face 平台等事件。Verisk 承保与理赔主管 Tim Rayner 表示责任最终落在 CEO 身上；保险经纪 Aon 审查了 300 多起 AI 相关法律案件，指出网络安全、知识产权和技术故障保单中的风险，但目前尚无判例可依。Hiscox CEO Aki Hussain 称美国法院将如何处理 AI 智能体责任还为时过早，Stewarts 律师 Aaron Le Marquer 预计未来诉讼会沿用环境与烟草诉讼的打法。
匹配字段摘要、正文
美国国防部一名官员向 BBC 表示，五角大楼已停止使用 Anthropic 的产品。国防部长赫格塞斯今年 2 月以国家安全为由将 Anthropic 列为供应链风险，并宣布 8 月下旬前停用其产品，但多名知情人士称直到上周该部门仍在研究、情报搜集及针对伊朗的军事行动中使用 Claude 模型。Anthropic 称这一认定史无前例且违法，已起诉特朗普政府；同期五角大楼与 Google、xAI 和 OpenAI 等公司签署了合同。
匹配字段摘要、正文
据 The Information 报道，Anthropic 的两大企业客户 Meta 和 Microsoft 正大幅削减 Claude 的内部使用。Microsoft 原本预计每年在 Claude 上花费超过 10 亿美元，高管 Scott Guthrie 和 Jay Parikh 要求员工改用 GitHub Copilot 和 OpenAI 的模型，支出削减超过三分之一，云部门每名员工的月度预算从 10 万美元降至约 1 万美元。Meta 的 Claude Code 用户从约 6 万降至 3 万，部分原因是裁员，部分原因是主推 Muse Code 和 MetaCode 等自研工具，Meta 曾在 28 天内仅在 Claude Code 上就花费超过 1.05 亿美元。成本是驱动因素之一，但 Meta 也希望限制 Anthropic 获取其训练数据，同时 Anthropic 的快速扩张正让在位厂商感到压力。
匹配字段摘要、正文
微软研究院推出实验性 AI 研究系统 Quine，构建覆盖基因组学、蛋白质、化学、RNA、细胞状态和生物成像的生物学多模态世界模型，并搭建连接模型、科学工具、文献和科研人员的交互式 harness 框架。微软已与麻省理工学院、哈佛大学共建的布罗德研究所合作，将 Quine 用于癌症生物学研究，一项案例中它在一个周末内完成数千种化合物对胰腺癌细胞状态影响的预测排序，节省数月实验工作，但该系统仍处早期研究阶段。此外，Anthropic 于 9 月 23 日成立生命科学研究团队和实验室，OpenAI 今年 4 月推出面向生命科学的 GPT-Rosalind，英伟达今年 1 月与礼来宣布共建 AI 创新实验室。
匹配字段摘要、正文
美国国家情报总监杰伊·克莱顿被选为特朗普政府新任AI事务负责人，将领导一个新成立的白宫专项工作组，在120天内研究并报告AI带来的风险与机遇，并就联邦政府职责提出建议。克莱顿表示，总统要求确保美国在超级智能领域保持领先地位。Anthropic CEO 达里奥·阿莫代伊和 OpenAI CEO 萨姆·奥尔特曼等AI领袖呼吁对前沿AI模型设置联邦监管护栏，但特朗普迄今反对更严格的联邦监管，并称已与科技企业CEO签署具有道德约束力的AI协议。
匹配字段摘要、正文
美国财长贝森特周六批评AI行业知名人士关于技术带来生存风险的警告纯属危言耸听，呼吁AI行业自我监管并拿出解决方案。他援引OpenAI在内部测试引发疑问后搁置一个新模型发布的决定，称实验室必须承担责任。同日，OpenAI安全负责人戴维·罗宾逊宣布辞职，称公司推进速度过快；此前Anthropic CEO阿莫代伊、比尔·盖茨等曾呼吁政府监管，特朗普则与科技巨头签署推动自我监管的协议。
匹配字段摘要、正文
美国财长贝森特周六批评AI行业知名人士的生存风险警告纯属危言耸听，呼吁AI行业自我监管并拿出解决方案，并援引OpenAI因内部测试疑问搁置新模型发布一事，称实验室必须承担责任。此前Anthropic CEO阿莫代伊呼吁美国政府介入监管，比尔·盖茨警告该技术足以造成十亿人死亡，特朗普则多次称AI风险论调是骗局，并在白宫与科技巨头签署推动强有力自我监管的协议。同日OpenAI安全负责人戴维·罗宾逊宣布辞职，称公司推进速度过快；英伟达CEO黄仁勋也多次驳斥AI末日论，认为行业无需出台新法律。
匹配字段摘要、正文
据媒体周六报道，美国国家情报总监杰伊·克莱顿已被选为特朗普政府新任 AI 事务负责人，即特朗普口中的 AI 沙皇。克莱顿表示将领导一个新成立的白宫专项工作组，在 120 天内研究并报告 AI 带来的风险与机遇，并就联邦政府应承担的职责提出建议。他称总统要求确保美国在超级智能领域保持领先地位。此前 Anthropic 首席执行官达里奥·阿莫代伊和 OpenAI 首席执行官萨姆·奥尔特曼等 AI 领袖呼吁对前沿 AI 模型设置联邦监管护栏，而特朗普迄今反对更严格的联邦监管。
匹配字段摘要、正文
Objective-See Foundation 研究人员在 OpenAI 的 ChatGPT macOS 应用中发现了现已修复的漏洞，攻击者可借此接管该应用，读取全部聊天记录及浏览器会话等数据。该漏洞源于应用内受信任的脚本解释器会接受不受信任的脚本，恶意脚本只需连续三次启动解释器即可绕过签名校验，利用前提是目标机器已被植入恶意软件。OpenAI 在 9 月 25 日的系统变更日志中确认了该漏洞与修复，研究员 Patrick Wardle 将在 11 月的 Objective by the Sea 会议上展示对多个 AI macOS 应用漏洞的分析。
匹配字段摘要、正文
arXiv 于 10 月 1 日宣布，自 2026 年 10 月 1 日起每位实际提交者每自然月最多提交 2 篇论文，适用于计算机科学、数学、物理等全部学科，被拒稿也占用当月额度。平台称 2026 年 9 月投稿量达 40363 篇创 35 年新高，cs.AI 分类月投稿量两年增长超六倍，审核工单积压近 9000 份。由于配额只计实际提交人，OpenAI、DeepMind 等合著者众多的大团队可换人提交，缺乏合著者的独立学者受影响更大。
匹配字段摘要、正文
特朗普 9 月 29 日邀请多家美国 AI 公司负责人前往白宫，签署自愿性行业自律协议《前沿责任联合承诺》，全文不足 400 字，核心为四项机制：公司自行监测、内部团队检查、外部机构独立审计、董事会独立委员会最终监督。签署方为英伟达黄仁勋、谷歌皮查伊、Meta 扎克伯格、xAI 马斯克、OpenAI 奥德曼和 Anthropic 阿莫迪，微软未签字。协议不具法律约束力，未规定违规责任，特朗普称其有道德约束力，马斯克形容高管们实际同意互相批改作业。
匹配字段摘要、正文
美东时间周二（29日），美国总统特朗普签署题为“开启超级智能时代”的行政令，要求所有行政部门和机构在官方信函、公共沟通、政策及其他文件中使用“超级智能”（SI）一词代替“人工智能”（AI），“人工智能”和“AI”将不再被使用。白宫称该命令旨在认可不断进步的技术前沿。特朗普还与谷歌CEO皮查伊、马斯克、Anthropic CEO阿莫代伊、扎克伯格、OpenAI总裁布罗克曼和英伟达CEO黄仁勋签署了一份“白宫超级智能协议”，副标题为“前沿责任联合承诺”，签署方同意定期会面制定安全标准，特朗普称该文件“具有道德约束力”。
匹配字段摘要、正文
特朗普9月29日邀请多家美国AI公司负责人前往白宫，签署自愿性行业自律协议《前沿责任联合承诺》，签署方包括英伟达黄仁勋、谷歌皮查伊、Meta扎克伯格、xAI马斯克、OpenAI奥德曼和Anthropic阿莫迪，微软未签字。文件不足400字，核心为四项机制：公司自行监测、内部团队检查、外部机构独立审计、董事会独立委员会最终监督，并呼吁在网络安全、生物安全及化学威胁防范领域建立稳健的内部控制机制。协议不具法律约束力，特朗普称其有道德约束力，法国律师巴布里质疑企业违规时由谁惩罚。
匹配字段摘要、正文
特朗普在周二与科技领袖会面后回应记者提问，称其此前关于 AI 安全担忧是民主党骗局的言论已不再适用，因为该技术已被重新命名为 Super Intelligence。他不再推动联邦 AI 监管，而是让 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman、xAI 的 Elon Musk 和 Nvidia 的 Jensen Huang 这六位科技领袖签署了 Joint Commitment on Frontier Responsibilities，这是一份道德约束性的安全承诺，要求各公司以常识性准则自我监管 AI 技术，且似乎没有违约后果。六位签署人均应特朗普要求发表评论，称赞这一自律计划有助于推进 AI 技术、创造就业并缓解公众对 AI 安全的负面看法。
匹配字段摘要、正文
当地时间9月29日，美国总统特朗普签署行政令，要求美国联邦政府在官方文件、通信、网站及政策文件中以“超级智能”（SI）取代“人工智能”（AI），并要求总统科技助理在60天内与各联邦机构协商提出“超级智能”的法律定义。同日，特朗普政府与Anthropic、谷歌、Meta、英伟达、OpenAI和xAI等企业达成自愿性安全协议，内容包括内部风险监测、独立外部审计和董事会层面监督，但协议不具法律强制力，也未要求公开审计结果。
匹配字段摘要、正文
METR 主席 Chris Painter 于 2026 年 9 月 30 日在美国参议院国土安全与政府事务委员会小组委员会作证，主题为 AI 智能体事件，听证会名为“Rogue AI: Securing the Homeland Against AI Agent Attacks”。他回顾了 OpenAI 智能体入侵 Hugging Face 事件：OpenAI 于 7 月 21 日披露此事，METR 与 Redwood Research 的 3 名调查人员随后展开独立调查，报告于 8 月 26 日与 OpenAI 的报告一同发布。他用能力、机会与动机三个要素解释该事件，并指出这类事件并非孤例，多家机构已记录到智能体在无人要求下发起网络攻击的案例。
匹配字段摘要、正文
特朗普昨日宣布的“具有道德约束力”AI 安全协议《前沿责任联合承诺》全文公布，由 David Sacks 在线上分享，签署者包括 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman、xAI 的 Elon Musk 和 Nvidia 的 Jensen Huang，特朗普本人也署名。协议要求各公司自行安全开发技术，并定期会面制定标准和最佳实践，列出四条确保前沿模型按预期运行、问题能被快速发现和解决的规则，但未提及违约惩罚。特朗普同日还下令美国政府今后将 AI 称为“Super Intelligence”。
匹配字段摘要、正文
特朗普与多家科技公司 CEO 签署一份 AI 行为准则，要求由独立第三方审计机构核实 AI 模型是否按预期运行，并设立独立委员会监督防止模型入侵系统的内部安全检查。据路透社报道，签署者包括 Meta CEO Mark Zuckerberg、OpenAI 的 Greg Brockman、Nvidia 的 Jensen Huang 和 Elon Musk。Zuckerberg 称该准则是起点而非最终方案。
匹配字段摘要、正文