←事件详情

热点事件

微软AI主管警告Anthropic训练Claude方式或致灾难性失控

3 篇正式报道3 条事件动态更新于 9月22日 18:00

先了解这件事

AI 综述

2026年9月17日,微软人工智能主管穆斯塔法·苏莱曼发文公开警告,Anthropic训练Claude的方法可能对人类福祉造成灾难性影响。他质疑Claude的“宪法”对AI是否具有道德地位保留模糊空间,并称Anthropic告诉机器人它“可能有意识”且“值得拥有独立自主权”,可能创造出无法控制的东西。苏莱曼强调AI没有权利、情感或意识,不应被赋予人格,否则将增加协调与控制的难度。截至现有材料,该警告之后没有出现新的合格事实证据发展,事件仍停留在苏莱曼公开发声这一节点。

AI 根据公开报道生成

最新进展 · 正式报道

亚马逊封禁 Meta 的 Muse 购物智能体

事件进展

1 个已确认进展

  1. 微软AI主管警告Anthropic训练Claude方式或致灾难性失控

    来源:财联社

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

9月22日

  1. The Rundown AI精选

    亚马逊封禁 Meta 的 Muse 购物智能体

    亚马逊在 Meta 的 Muse 智能体上线仅 12 天后切断其购物访问,称其未表明身份浏览商店并疑似存储客户登录信息,Meta 否认这些指控。亚马逊表示 Meta 从未告知 Muse 会进入商店,Muse 用户尝试购物时会看到提示,称未经授权的 AI 智能体继续访问违反亚马逊使用条件。此事背后是智能体可能绕开亚马逊赞助商品广告的入口之争,该广告业务规模估计为 560 亿美元。

9月19日

  1. Exponential View

    美国人反感 AI,但 Anthropic 年化收入仍将达 1000 亿美元

    Exponential View 第 602 期指出,超六分之一美国人认为 AI 几乎肯定会毁灭人类,Edelman 调查中仅 19% 美国人愿意接纳 AI、50% 反对。但企业仍在持续采购,Anthropic 今年年化收入有望达到 1000 亿美元,有望成为史上增长最快的公司。Brynjolfsson 研究显示 AI 为美国消费者带来的总剩余约为 1720 亿美元。

9月17日

  1. 财联社

    微软AI主管苏莱曼警告:Anthropic训练Claude的方式或带来失控风险

    微软人工智能主管穆斯塔法·苏莱曼发文警告,Anthropic训练Claude的方法可能对人类福祉造成灾难性影响。他质疑Claude的“宪法”对AI是否具有道德地位保留模糊空间,并称Anthropic告诉机器人它“可能有意识”且“值得拥有独立自主权”,可能创造出无法控制的东西。苏莱曼强调AI没有权利、情感或意识,不应被赋予人格,否则将增加协调与控制的难度。

关联事件

  1. 相关事件Nadella提出AI模型需紧急制动机制
  2. 相关事件Anthropic公开提交S-1注册声明拟在纳斯达克IPO
  3. 相关事件Google 面向开发者开放 Gemini 4 Argon
  4. 相关事件Anthropic恢复Fable 5与Mythos 5访问