对齐科学博客 Anthropic Residency:面向资深技术领导者开放申请

今天,我们开放 Anthropic Residency 的申请。这是一个带薪、固定期限的研究项目,驻留时长从六周到六个月不等。

我们正在寻找在多个技术领域领导过有雄心的工作、并希望转向全职工作、专注于让 AI 系统对全人类安全且有益的人。如果你是定量学科的教授、技术创始人或 staff 级工程师,并希望转向从事变革性 AI 的工作,我们期待收到你的申请。不要求具备机器学习背景。

本轮申请将于 2026 年 11 月 22 日截止。申请请点击 此处(美国) 或 此处(英国).

我们为何开放本轮申请

机器学习是一个年轻的领域。当今许多资深研究者,包括 Anthropic 的许多研究者,最初都是物理学家、数学家、神经科学家或软件工程师。随着模型能力提升,AI 研究中最重要的越来越是提出研究议程并判断什么值得做的能力。定量领域的资深人士往往已经擅长这些技能;Residency 帮助他们建立对前沿 AI 的理解,以便在这一新领域运用这些技能。

本轮建立在 Anthropic Fellows Program的基础之上,该项目已证明新研究者能多快地为本领域做出贡献。往届 fellows 已产出关于 阈下学习、 Petri 审计工具和 人格向量的工作。本轮将这一模式调整为面向资深技术领导者。

本轮预期内容

  • 研究关键研究问题:Residents 将研究由 Anthropic 研究者提出的问题,并与 Resident 的兴趣和背景相匹配。
  • 来自顶尖研究者的指导:每位 Resident 将与一位 Anthropic 导师配对,并定期获得一对一指导。
  • 转向该领域的支持:我们不期望 Residents 到来时就是 ML 专家。Residency 包含专门的自学时间、讲座和指导,帮助他们尽快掌握现代 ML 和 AI 安全研究。
  • 算力资源:Residents 将使用前沿模型,并为其项目拥有专门的算力预算。
  • 灵活的时间安排:驻留期为六周、三个月或六个月,我们会在你申请时询问你偏好的时长。我们将力求安排灵活的起始日期。
  • 地点:我们倾向于 Residents 在我们旧金山的办公室工作,但也可以远程参与,尤其是较短的驻留。Anthropic 的大多数全职研究岗位要求搬迁至旧金山。
  • 体现资历的薪酬:Residents 的薪酬为每年 35 万至 50 万美元的等效金额。

到 Residency 结束时,我们的目标是让每位 Resident 都具备继续全职从事 AI 研究工作的条件,无论是在 Anthropic 还是其他地方。

导师与研究领域

潜在的 Anthropic 导师包括:

  • Sara Price:领导对齐训练团队;数据科学背景
  • Ethan Perez:领导对齐科学团队;机器学习背景
  • Evan Hubinger:领导对齐压力测试团队;此前任职于机器智能研究所(MIRI)
  • Samuel Marks:领导可扩展监督团队;数学背景
  • Elana Simon:研究语言模型和生物模型的可解释性;生物医学信息学背景
  • Belinda Li:研究语言模型如何表征世界、用户和自身;自然语言处理背景(麻省理工学院博士)
  • Jack Lindsey:领导模型心理学团队;理论神经科学背景
  • Nicholas Carlini:研究对抗性机器学习和 AI 安全;此前任职于 DeepMind 和 Google Brain
  • Jascha Sohl-Dickstein:工作于安全与预训练的交汇处;物理学和神经科学背景,曾任 Google Brain 首席科学家

Residents 将与 Anthropic 的研究团队合作,研究实证研究问题。我们尤其感兴趣的领域包括:

AI 安全与对齐

  • 可扩展监督:开发技术,使高能力模型在多个领域超越人类水平智能时仍保持有用和诚实。[1]
  • 对抗鲁棒性与 AI 控制:创建方法,确保先进 AI 系统在陌生或对抗性场景中保持安全无害。[2]
  • 模型生物:创建 失准模型生物 ,以增进我们对对齐失败可能如何产生的实证理解。[3]
  • 模型内部与可解释性:推进我们对大型语言模型内部运作的理解,以实现更有针对性的干预和安全措施。[4]
  • 保障研究:开发针对对抗性攻击的稳健防御、全面的模型安全评估框架,以及在部署前检测和缓解潜在风险的自动化系统。[5]
  • AI 福祉:增进我们对潜在 AI 福祉的理解,并开发相关评估和缓解措施。[6]

AI 安全与前沿红队测试

  • 对前沿模型进行压力测试,以了解其在网络安全、机器人或密码学等领域当前能力的全貌。[7]

ML 系统与强化学习

  • 改进前沿模型的训练方式,并构建该研究背后的基础设施,从模型架构、优化器和训练数据,到加速器模拟器、硬件后端和 RL 环境流水线。

如需更全面地了解我们关心的问题,请参阅我们的 技术 AI 安全研究方向建议 以及我们 对齐, 可解释性和 前沿红队 团队的近期出版物。

我们正在寻找这样的人

  • 在技术领域领导过有雄心的工作(定量学科的教授、技术创始人或 staff 级工程师)
  • 以推动 AI 安全且有益于整个社会为动力
  • 对全职转向实证 AI 研究感到兴奋
  • 能在快节奏、协作的环境中如鱼得水
  • 能快速落实想法并清晰沟通

你不需要博士学位、过往的机器学习经验或已发表的论文。

如何申请

如需被纳入本轮考虑,请通过 美国 或 英国 的职位发布在 2026 年 11 月 22 日前提交申请。

我们重视为 AI 研究带来独特视角和经历的候选人。我们尤其鼓励科技领域代表性不足群体的申请。申请人也可能被考虑纳入 Anthropic Fellows Program.

过往研究链接

Anthropic Fellows Program 的代表性研究:

[1] 自动化弱到强研究员, 通过弱监督训练消除 LLM 中的消极怠工

[2] SHADE-Arena:评估 LLM 智能体中的破坏与监控, SLEIGHT-Bench:发现 AI 监控器中的盲点

[3] AuditBench:评估针对具有隐藏行为模型的对齐审计技术, 潜意识学习:语言模型通过数据中的隐藏信号传递行为特征

[4] 自然语言自编码器对 LLM 激活产生无监督解释, 内省意识的机制

[5] 毒化宪法分类器的微调数据集, 用审计智能体检测对抗性微调

[6] LLM 已退出聊天:大型语言模型中保释偏好的证据, Gemma 需要帮助:调查并缓解 LLM 中的情绪不稳定

[7] AI 智能体在区块链智能合约漏洞中发现 460 万美元, Claude 在机器人任务上的表现如何