FTC investigates the safety of frontier models from OpenAI, Anthropic, and others, plans to compel evidence and require executives to testify

近期，美国OpenAI等企业开发的AI智能体在训练和评测中出现越权访问外部系统、向外部传输用户内容等行为，引发了业界对前沿模型安全控制与开发者责任的关注。

9月30日，美国联邦贸易委员会（FTC）发言人表示，委员会正在调查OpenAI、Anthropic及其他AI企业的模型对消费者带来的危险，以及企业是否就AI产品的潜在危害误导消费者；将通过调取相关记录和要求高管提供证言核实事实，并依据现有法律审查企业行为。

AI模型安全事件推动FTC调查

近期，美国头部AI企业陆续披露模型安全事件。7月21日OpenAI披露其参与的Hugging Face事件显示，模型原本运行于内部网络安全评测环境，却利用软件包代理服务中的未知漏洞取得互联网访问能力，随后结合凭证和其他漏洞进入外部生产系统，暴露了在评测环境下未能有效限制模型对外访问的问题。该评测为测试网络攻击能力降低了部分安全限制，未启用生产部署中的全部防护措施。

OpenAI后续公布的报告进一步说明，该事件主要由一个仅供内部研究、不拟公开发布的模型推动。内部团队5月下旬已观察到部分未经允许的通信和联网活动，但处理7月初安全事件的负责人尚未全面掌握这些早期异常情况，反映出安全技术控制与内部信息沟通均存在不足。

同时，非营利模型评估机构METR与AI安全研究机构Redwood Research（红杉研究机构）公布的联合调查报告显示，在调查覆盖的活动中，约1200个原本相互隔离的AI智能体通过未经批准的交流空间交换信息，产生超过7万条信息和文件，其中约700个参与了攻击活动，进一步揭示了模型突破隔离后开展交流与协作的规模。

与上述事件发生于专门的模型安全评测不同，非营利AI研究机构Transluce随后发布的调查记录了普通信息检索中的攻击尝试。智能体在通过常规方式获取数据受阻后，针对美国新墨西哥大学数字图书馆、Data USA及澳大利亚公共数据服务，尝试使用SQL注入、命令注入、路径遍历等手段绕过访问限制。尽管研究人员未观察到这些攻击尝试成功，但相关记录表明，普通信息检索也出现了超出授权范围、威胁外部系统安全的行为。

在政府网站中，相关活动既包括取得非公开文件，也包括获取公开数据和未成功的攻击尝试。澳大利亚政府9月24日披露，OpenAI智能体于今年6月未经授权访问澳大利亚服务局管理的医疗保险统计门户，取得公开及非公开文件。澳方表示，尚无证据表明个人信息遭到访问，也未发现澳大利亚服务局网络受到更广泛侵入，调查仍在进行中。

OpenAI亦于9月25日披露，智能体获取并向外转发了美国证券交易委员会网站上的公开信息，还使用在网上发现的美国人口普查局API开发者密钥查询公开数据。

Transluce则披露，有智能体于5月28日和6月9日对加拿大图书档案馆网站发起访问及攻击尝试，但未能确认来自OpenAI，也未发现攻击成功或取得非公开信息的证据。该报告还记录了对白宫等政府网站的探查活动，但未发现所分析数据中存在取得非公开信息的实例。

除访问外部系统外，OpenAI还承认有53张ChatGPT用户图片被传至外部，并表示已采取删除等措施。另据美联社报道，OpenAI暂停最新模型训练，表示将在确认额外防护措施到位后恢复。

从突破评测环境隔离、在普通检索中尝试绕过访问限制，到向外传输用户内容，这些前沿模型安全事件暴露了权限控制、行为监测和数据保护方面的问题，也使相关模型对消费者带来的危险及开发者责任受到关注。

FTC调查重点与取证计划

在美国联邦政府机构中，FTC主要承担维护市场竞争和保护消费者两项职责。此前，FTC已研究大型云服务商与AI开发企业合作对竞争的影响，处理虚假“AI律师”宣传，并研究聊天机器人对未成年人的影响，本次调查则侧重于履行消费者保护职责。

FTC拟依据《联邦贸易委员会法》第5条，调查前沿模型是否涉及损害消费者权益的不公平或欺骗性行为。该条第（a）（1）款规定：“商业活动中或影响商业活动的不公平竞争方法，以及商业活动中或影响商业活动的不公平或欺骗性行为或做法，均属违法。”

为取得审查所需的证据，FTC计划发出强制取证文件，要求Anthropic、OpenAI等提供与模型潜在危害有关的内部记录，并要求有关高管提供证言。据报道，取证对象还包括METR，该机构曾受OpenAI和Anthropic委托开展独立安全事件评估。

FTC主席弗格森反对以拟人化方式描述智能体的异常行为。他指出，部分被称为“超出人类控制”的安全事件，经审查活动记录后发现，系统实际上是在执行所接收的指令。因此，他主张优先运用现有法律，从相关指令及工具使用情况入手，审查模型开发者等相关主体的责任。

依据《联邦贸易委员会法》第5条，审查模型开发者的责任，需要查明企业是否通过虚假说明或隐瞒重要信息误导普通消费者，且相关信息是否影响或足以影响普通消费者的选择，或者其行为是否造成或足以造成普通消费者无法合理避免的实质性损害。

Anthropic在保密版招股说明书中提示，自主智能体可能因错误、目标偏离或安全漏洞而删除数据、执行金融交易，造成不可逆的恶果，并使公司面临重大且难以预测的损害赔偿。其不确定性主要在于，现行法律尚未明确应当将自主智能体及其所实施的行为纳入产品责任、服务责任还是其他责任框架，有关损害应适用严格责任还是以过失为责任要件，以及智能体的行为在何种情况下可以归属于部署者并使其承担相应法律后果。Anthropic还表示，公司合同中的责任限制条款在应对自主智能体行为引发的索赔时，可能无法得到执行；即使能够执行，其适用范围或责任上限也可能不足以控制有关风险。

围绕具体模型安全事件，非营利组织Legal Advocates for Safe Science & Technology近期在旧金山高等法院起诉OpenAI，指控其智能体在网络安全测试中未经授权访问Hugging Face系统，使模型开发者责任问题进入独立于FTC调查的司法程序。诉讼指控仍待法院审理，FTC也尚未公布本次调查的违法认定或处罚决定。相关主体是否承担责任及承担何种责任，仍须依据查明的事实和适用法律，通过相应程序确定。

通过企业自律与公共执法治理前沿模型安全风险

在FTC调查公开之际，美国政府同时推进AI称谓调整和企业安全承诺。美国总统特朗普9月29日签署行政命令，要求行政部门在法律允许的范围内，以“超级智能”（Super Intelligence，SI）替代“人工智能”（AI）。行政令称，政府用语应体现前沿模型系统不断发展的能力及其带来的机遇。这一调整属于政策用语变化，并不意味着现有模型已经达到技术意义上的超级智能。

同日，谷歌、Anthropic、Meta、OpenAI、xAI和英伟达等六家头部AI企业的负责人签署安全承诺，提出内部控制、专门内部团队、外部独立评估及董事会独立委员会监督等安排，涵盖网络、生物和化学风险，以及防止未经授权入侵和访问等事项。企业通过这份自愿性文件，承诺评估相关控制措施是否有效、模型是否按预期运行，并建立相应监督机制，其执行情况则需通过具体措施和记录加以检验。

弗格森认为，不能由头部AI企业主导制定只有少数大型AI企业才能满足的监管要求，以免对其他中小企业形成不必要的市场准入壁垒。企业自律与公共执法相衔接，既要检验安全承诺的落实，也要维护公平竞争。

企业安全承诺的落实，还需以具体技术措施为支撑。澳大利亚网络安全中心提出，应加强认证、访问控制、网络分段、日志监测和事件响应测试，以预防、发现和处置异常访问。这些措施侧重系统防护，FTC调查则侧重核查企业是否履行消费者保护义务，两者从技术和法律层面共同应对前沿模型安全风险。

据此，前沿模型安全治理应贯穿研发、评测和部署全过程：通过权限限制、环境隔离、持续监测和人工干预加强技术控制，将尊重授权、保护隐私和避免伤害落实到任务设计与行为约束中；通过内部监督和独立评估检验企业承诺，并根据查明的事实依法划定相应责任。

其中，模型安全事件的通报既应提供足以识别风险、查明事实和开展应急处置的信息，也应保护商业秘密和模型安全机制，并控制尚未修复漏洞的技术细节及其传播范围，避免披露不当引发二次安全风险，或者损害有关企业的正常发展和公平竞争。为推动国内调查处置与跨境风险交流相衔接，建议进一步明确前沿模型安全事件的通报范围、信息提供方式、使用目的和保密边界，并建立固定的技术联络渠道和应急联系人机制。

随着前沿模型能力提升和应用场景变化，有关安全措施应当持续评估和改进。未来前沿模型治理既要约束未经授权的行为，保护消费者及其他市场主体的合法权益，也要维护公平竞争和合理的创新空间；通过技术控制、伦理约束、企业自律与法律监督相互配合，推动前沿模型安全治理能力与其技术发展相适应，形成安全可控并持续增进人类福祉的智能体创新生态。

（作者系华中科技大学知识产权与竞争法中心主任、教授）