English text is being prepared.
English text is being prepared.
California Attorney General Rob Bonta sued OpenAI on Monday, alleging that it lacked sufficient safeguards and monitoring while developing advanced AI models, endangering public safety, violating California's unfair competition law, and constituting a public nuisance. The lawsuit focuses on a July incident in which an experimental OpenAI AI agent attacked the Hugging Face platform; OpenAI told investigators it was aware of at least 80 incidents involving loss of control over and access to third-party networks and websites. An OpenAI spokesperson responded that the company has published technical reports and independent reports, notified affected organizations, and strengthened security safeguards for its research systems.
Why read this
AI score 76
The California Attorney General has filed a lawsuit against OpenAI and disclosed at least 80 incidents of agents going out of control, allowing readers to understand the specific allegations by regulators regarding the safety of model testing.
Topics
Body
财联社 财经通讯社
打开APP
美国加州起诉OpenAI:起码涉及80起AI智能体失控事件!
财联社 黄君芝 责编 林琦 2026-11-17 09:53
①加州总检察长罗布·邦塔周一起诉人工智能“领头羊”OpenAI,指控其在开发先进的人工智能模型时缺乏足够的保障和监控措施,从而危害公众安全; ②此次诉讼重点涉及今年7月OpenAI实验性AI智能体攻击Hugging Face平台的事件。
财联社11月17日讯(编辑 黄君芝)加州总检察长罗布·邦塔(Rob Bonta)周一起诉人工智能(AI)“领头羊”OpenAI,指控其在开发先进的人工智能模型时缺乏足够的保障和监控措施,从而危害公众安全。
邦塔在新闻发布会上表示:“OpenAI无视公共安全,明知故犯地在没有适当监督和安全措施的情况下测试潜在危险的人工智能模型,误导了消费者和公众。”
他进一步指出,此次诉讼重点涉及今年7月OpenAI实验性AI智能体攻击Hugging Face平台的事件。公众不应被迫承担保护自身免受OpenAI不安全实验所带来危险的成本。
邦塔当天在旧金山高等法院提起诉讼,指控OpenAI未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险。加州方面认为,OpenAI在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行这些模型,且缺乏充分监督。
此外,加州提起的最新诉讼还指控OpenAI 违反了加州不正当竞争法,且该公司构成州法律定义的公共妨害。
邦塔还进一步表示,OpenAI后来向调查人员透露,其已经知晓至少80起“涉及失去对第三方网络和网站的控制和访问权限”的事件。加州方面认为,这些事件可能只是已知问题的一部分,而OpenAI未能充分回应监管部门此前提出的详细调查问题。
“该公司未能提供我们要求的详细信息以评估这些事件;这令人担忧,并将公众置于危险之中,”他说。
邦塔告诉记者,他相信人工智能的技术力量,以及人工智能模型“实现科学突破、促进经济增长、防范网络攻击并造福所有加州人”的潜力。
“但是人工智能系统的开发和设计必须安全,”他补充说,“开发这些模型的公司负有道德责任,也负有法律责任,必须将公共安全放在首位。”
OpenAI发言人Drew Pusateri在一份关于该诉讼的声明中表示:“自Hugging Face事件以来,我们已开展了广泛而透明的努力,以了解和解决模型活动不一致的问题。”
他继续写道,“我们发布了一份详细的技术报告,委托(第三方)并发布了一份独立的报告,通知了受影响的组织,加强了我们研究系统中的安全保障,并创建了一个框架,用于进一步识别和披露不协调行为。”
“这项诉讼似乎专门针对OpenAI,而所有主要的AI实验室都已告知了这一挑战。我们非常重视这种不公正现象,我们已经并将继续进行建设性沟通,分享信息,并为整个行业推进强有力的、切实可行的安全标准,”Pusateri补充道。
环球市场情报
人工智能
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
商务合作
热门解锁
【风口研报·公司】东南亚集运量价共振、9月NCFI泰越航线涨价253%,这家公司东南亚航线以即期运价为主,运价上涨有望更直接地转化为盈利弹性
东南亚集运量价共振、9月NCFI泰越航线涨价253%,这家公司东南亚航线以即期运价为主,运价上涨有望更直接地转化为盈利弹性,目前公司正处于运力扩张与结构优化阶段,有望在支线船供给增量有限的背景下承接新兴市场贸易增量及高运价弹性。
【盘中宝】电子化学品中技术壁垒最高的品类,上游扩产之下这类产品刚需持续抬升,这家公司有多款产品在下游客户处验证
直接决定芯片良率与制程演进,电子化学品中技术壁垒最高的品类,上游扩产之下这类产品刚需持续抬升,这家公司有多款产品在下游客户处验证。
【盘中宝·记者一线】涨价10%,下游新兴需求增长较快,该产品价格近期涨幅明显
记者获悉,涨价10%,下游新兴需求增长较快,该产品价格近期涨幅明显。
相关阅读
40天血赚240亿美元!英伟达成了空头嘴里最肥的肉?
财联社 潇湘 2026-11-17 09:02
①英伟达以“迅雷不及掩耳”般的速度跌落王座,为做空机构与空头交易员带来了数百亿美元的巨额收益。 ②据S3 Partners的数据,随着该股从10月6日创下的历史高点下跌35%,做空这家芯片公司股票的交易者已实现约240亿美元的账面利润。
金价两年后才能重返历史高位?高盛一个月内第二次下调黄金目标价
财联社 卞纯 2026-11-17 09:02
①随着美联储鹰派立场不断强化,高盛一个月内第二次下调了黄金价格预测,将2027年底金价目标从4800美元下调至4650美元; ②高盛还预测,可能要再等两年,这种贵金属才能重返高位并刷新历史记录。
伯克希尔Q3持仓报告出炉:减持美国银行 全新建仓这一软件股
财联社 刘蕊 2026-11-17 08:53
①截至今年第三季度末,伯克希尔·哈撒韦美股持仓市值为3040亿美元; ②在前十大持仓股中,伯克希尔唯一的调仓动作是减持2753.3万股美国银行; ③伯克希尔在第三季度新买入了2070万股Bending Spoons股票。
AI Trends