FTC调查OpenAI、Anthropic等前沿模型安全,拟强制取证并要求高管作证
美国联邦贸易委员会(FTC)正调查OpenAI、Anthropic及其他AI企业的模型对消费者的危险,以及企业是否就AI产品潜在危害误导消费者,计划发出强制取证文件要求提供内部记录,并要求高管提供证言。调查依据《联邦贸易委员会法》第5条,聚焦不公平或欺骗性行为。文章还梳理了OpenAI智能体在评测中突破隔离访问外部系统、未经授权访问澳大利亚服务局门户、53张ChatGPT用户图片被传至外部等事件,以及METR与Redwood Research记录的约1200个智能体交换超7万条信息、约700个参与攻击活动的情况。
#安全/对齐#Agent#OpenAI