曾为 OpenAI 每次重大模型发布撰写安全报告的 David Robinson 本周辞职,并在 The Atlantic 发表评论文章。他认为行业文化从根本上出了问题,不只是加几条训练模型的新规则就能解决,并称 AI 需要核级别的安全保障。此前 Jacob Coxon 从 Anthropic 离职并公开警告,随后 Google DeepMind 的 Robert O'Callahan、Bilal Chughtai、Josh Engels 以及 Anthropic 的 Joe Benton 也相继离开。
特朗普在周二与科技领袖会面后回应记者提问,称其此前关于 AI 安全担忧是民主党骗局的言论已不再适用,因为该技术已被重新命名为 Super Intelligence。他不再推动联邦 AI 监管,而是让 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman、xAI 的 Elon Musk 和 Nvidia 的 Jensen Huang 这六位科技领袖签署了 Joint Commitment on Frontier Responsibilities,这是一份道德约束性的安全承诺,要求各公司以常识性准则自我监管 AI 技术,且似乎没有违约后果。六位签署人均应特朗普要求发表评论,称赞这一自律计划有助于推进 AI 技术、创造就业并缓解公众对 AI 安全的负面看法。
Sundar Pichai 与 @POTUS、@JDVance、@SpeakerJohnson 及政府与科技领袖会面,并签署了白宫超级智能协议(White House Accord on Super Intelligence)。他表示 Google 过去两年已在全栈投入数百亿美元,并将继续投入;同时强调行业需负责任创新,通过测试、评估、红队演练等保障措施防范滥用与失准,模型或产品须经充分审查后才发布。他称当日签署的白宫协议与前沿责任联合承诺包含推动安全开发的具体步骤。
Noam Shazeer 宣布将离开 Google 并加入 OpenAI,与其团队共事。他表示离开是一个艰难的决定,并为 Google 团队及共同取得的成果感到自豪。
Noam Shazeer 宣布将离开 Google 并加入 OpenAI,与其团队共事。他表示离开是一个艰难的决定,并为 Google 团队及共同取得的成果感到自豪。 · Noam Shazeer announced that he will leave Google and join OpenAI to work with its team. He said moving on was a difficult decision and expressed pride in the Google team and what they built together.