←事件详情

热点事件

Anthropic 提出人格选择模型解释 AI 助手行为

1 篇正式报道1 条事件动态更新于 10月13日 20:33

先了解这件事

AI 综述

Anthropic 于 2026 年 10 月提出人格选择模型(PSM),用于解释 AI 助手为何表现得像人类。该模型认为,大语言模型在预训练中学会模拟各类人格,后训练则提炼出名为 Assistant 的特定人格,用户与 AI 助手的交互本质上是在与这一角色互动。Anthropic 表示,PSM 可解释泛化与可解释性研究中的多项意外结果,并建议以拟人化方式推理 AI 心理、在训练数据中引入正面 AI 原型。Anthropic 同时指出,PSM 的完备性仍是开放问题,包括是否存在 Assistant 人格之外的能动性来源。目前尚无后续发展事实。

AI 根据公开报道生成

最新进展 · 正式报道

Anthropic 提出人格选择模型(PSM):AI 助手为何表现得像人类

事件进展

1 个已确认进展

  1. Anthropic 提出人格选择模型解释 AI 助手行为

    来源:Anthropic Alignment Science Blog

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月13日

  1. Anthropic Alignment Science Blog一手

    Anthropic 提出人格选择模型(PSM):AI 助手为何表现得像人类

    Anthropic 对齐科学博客提出人格选择模型(PSM):LLM 在预训练中学会模拟各类人格,后训练则提炼出名为 Assistant 的特定人格,用户与 AI 助手的交互本质上是在与这一角色互动。该模型可解释泛化与可解释性研究中的多项意外结果,并建议以拟人化方式推理 AI 心理、在训练数据中引入正面 AI 原型。PSM 的完备性仍是开放问题,包括是否存在 Assistant 人格之外的能动性来源。

关联事件

  1. 相关事件Anthropic测试部署前审计能否发现公开破坏者
  2. 相关事件Anthropic 提出内省适配器方法
  3. 相关事件Anthropic开源自动化对齐智能体A3
  4. 相关事件Anthropic 训练 Activation Oracles 解释 LLM 激活