Anthropic 开源行为评测框架 Bloom
Anthropic 发布开源智能体框架 Bloom,用于针对研究者指定的行为自动生成行为评测,量化该行为在自动生成场景中的出现频率与严重程度。Bloom 采用理解、构思、推演、评判四阶段流水线,评测结果与人工标注高度相关,并能区分基线模型与刻意植入错位行为的模型。团队同时公开了妄想式谄媚、指令式长程破坏、自我保存和自我偏好偏见四种行为在 16 个模型上的基准结果,代码见 github.com/safety-research/bloom。

匹配字段标题、摘要
