先了解这件事
AI 综述
2025年12月5日,Johann Rehberger 提出 AI 领域的“偏差正常化”概念,指行业逐渐系统性过度依赖 LLM 输出,尤其在智能体系统中。他指出 LLM 是不可靠、不可信的参与者,安全控制必须施加在 LLM 输出下游;厂商却将概率性、非确定性甚至对抗性输出当作可靠安全的结果,把“上次没出事”误认为“安全”。他列举 Microsoft 智能体操作系统、OpenAI ChatGPT Atlas 和 Anthropic Claude 的官方警告作为例证。目前该概念由 Rehberger 在其文章《AI 中的偏差正常化:Johann Rehberger 谈 LLM 输出不可信与智能体安全风险》中提出,尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：Johann Rehberger / Embrace The Red
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
12月5日
Johann Rehberger / Embrace The Red
AI 中的偏差正常化：Johann Rehberger 谈 LLM 输出不可信与智能体安全风险
Johann Rehberger 提出“AI 中的偏差正常化”概念，指行业逐渐系统性过度依赖 LLM 输出，尤其在智能体系统中。他指出 LLM 是不可靠、不可信的参与者，安全控制必须施加在 LLM 输出下游；厂商却将概率性、非确定性甚至对抗性输出当作可靠安全的结果，把“上次没出事”误认为“安全”。他列举 Microsoft 智能体操作系统、OpenAI ChatGPT Atlas 和 Anthropic Claude 的官方警告作为例证。