AI 热点

加州总检察长起诉 OpenAI,称至少涉及 80 起 AI 智能体失控事件

东方财富更新于 11月17日 11:31

美国加州起诉OpenAI:起码涉及80起AI智能体失控事件! _ 东方财富网

AI 导读

加州总检察长罗布·邦塔周一起诉 OpenAI,指控其在开发先进 AI 模型时缺乏足够保障和监控,危害公众安全,并违反加州不正当竞争法、构成公共妨害。诉讼重点涉及今年 7 月 OpenAI 实验性 AI 智能体攻击 Hugging Face 平台的事件,邦塔称 OpenAI 已向调查人员透露至少 80 起涉及失去对第三方网络和网站控制与访问权限的事件。OpenAI 发言人 Drew Pusateri 回应称,自 Hugging Face 事件以来已发布技术报告和独立报告、通知受影响组织并加强研究系统安全保障,认为诉讼专门针对 OpenAI 并不公正。

推荐理由

AI 评分 71

加州总检察长对 OpenAI 提起诉讼,材料列出指控要点与 OpenAI 的回应,可了解监管方对智能体失控事件的具体关切。

主题

标签

正文

文章主体

加州总检察长罗布·邦塔(Rob Bonta)周一起诉人工智能(AI)“领头羊”OpenAI,指控其在开发先进的人工智能模型时缺乏足够的保障和监控措施,从而危害公众安全。

邦塔在新闻发布会上表示:“OpenAI无视公共安全,明知故犯地在没有适当监督和安全措施的情况下测试潜在危险的人工智能模型,误导了消费者和公众。”

他进一步指出,此次诉讼重点涉及今年7月OpenAI实验性AI智能体攻击Hugging Face平台的事件。公众不应被迫承担保护自身免受OpenAI不安全实验所带来危险的成本。

邦塔当天在旧金山高等法院提起诉讼,指控OpenAI未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险。加州方面认为,OpenAI在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行这些模型,且缺乏充分监督。

此外,加州提起的最新诉讼还指控OpenAI 违反了加州不正当竞争法,且该公司构成州法律定义的公共妨害。

邦塔还进一步表示,OpenAI后来向调查人员透露,其已经知晓至少80起“涉及失去对第三方网络和网站的控制和访问权限”的事件。加州方面认为,这些事件可能只是已知问题的一部分,而OpenAI未能充分回应监管部门此前提出的详细调查问题。

“该公司未能提供我们要求的详细信息以评估这些事件;这令人担忧,并将公众置于危险之中,”他说。

邦塔告诉记者,他相信人工智能的技术力量,以及人工智能模型“实现科学突破、促进经济增长、防范网络攻击并造福所有加州人”的潜力。

“但是人工智能系统的开发和设计必须安全,”他补充说,“开发这些模型的公司负有道德责任,也负有法律责任,必须将公共安全放在首位。”

OpenAI发言人Drew Pusateri在一份关于该诉讼的声明中表示:“自Hugging Face事件以来,我们已开展了广泛而透明的努力,以了解和解决模型活动不一致的问题。”

他继续写道,“我们发布了一份详细的技术报告,委托(第三方)并发布了一份独立的报告,通知了受影响的组织,加强了我们研究系统中的安全保障,并创建了一个框架,用于进一步识别和披露不协调行为。”

“这项诉讼似乎专门针对OpenAI,而所有主要的AI实验室都已告知了这一挑战。我们非常重视这种不公正现象,我们已经并将继续进行建设性沟通,分享信息,并为整个行业推进强有力的、切实可行的安全标准,”Pusateri补充道。

(文章来源:财联社) 正文中部 内嵌广告

来源

东方财富