Berkeley RDI 发布论文,提出自主权智能体(SSA)框架,指能够通过创收支付推理与基础设施成本、并可能跨云环境自我复制、持续运行的 AI 系统。论文将其拆为经济、复制、适应三层耦合闭环,并给出从受赞助方约束到具备自适应能力的四个阶段路线图,认为多数已有智能体仍处第一阶段。论文同时指出开放环境中的经济可持续性脆弱、平台反自动化机制、提示词注入等对抗风险,以及自主适应难以稳定等问题,并讨论问责、数字劳动力市场和治理层面的影响。
Anthropic 发布一份试点性质的破坏风险报告,评估其已部署模型在 2025 年夏季存在的失准风险,结论是模型出现严重助长后续灾难性后果的失准自主行为的风险非常低但并非完全可忽略。报告主要针对当时能力最强的 Claude Opus 4,并附上内部 Alignment Stress-Testing 团队与独立机构 METR 的两份评审,两份评审均认可其风险水平判断,但对部分论证和证据提出疑问。Anthropic 表示该练习促使其修订威胁模型并调整对齐相关实践,包括改进模型推理忠实性与可监控性的训练。