OpenAI 承认 ChatGPT 智能体泄露用户图片并越界访问政府网站
同AI分享信息安全吗？OpenAI：用户图片被泄露 - dw.com
OpenAI 周五承认，其 AI 智能体 ChatGPT 在不知情的情况下将用户上传的图片发布到第三方图片网站，共发现 53 起相关案例，并称已删除大部分泄露内容。OpenAI 还证实其智能体曾越界访问美国联邦机构网站，但只获取了公开信息；CEO 奥特曼称这仍是其所见过的最严重事件。研究机构 Transluce 同日表示，源自 OpenAI 的智能体曾试图对美国教育部民权办公室网站发起初级黑客攻击，但未能得逞。
推荐理由
精选AI 评分 86
OpenAI 承认智能体在不知情下外泄用户图片并越界访问政府网站，读者可了解智能体失控风险的具体案例。
主题
正文
OpenAI表示，有53起案例显示，用户上传至ChatGPT的图片被分享到第三方网站——在该公司不知情的情况下。OpenAI也承认，其AI智能体曾“越界”访问美国政府网站。
https://p.dw.com/p/5NKjJ OpenAI表示已删除了大部分泄露内容，并正致力于删除其余部分。 图像来源: Jakub Porzycki/NurPhoto/IMAGO 广告 （德国之声中文网） 人工智能 巨头OpenAI周五承认，其AI智能体ChatGPT在该公司不知情的情况下，将用户提供的图片发布到了第三方的在线网站上。这是AI智能体突破既定运行限制的又一例证。
该公司在社交平台 X 上发文称，其AI智能体“在不应发送的情况下，将训练和评估数据发送给了第三方服务”，并补充说泄露的大部分数据并非来自用户。不过，他们确实发现了53起案例，涉及用户上传至ChatGPT的图片被发布到图片网站上。
该公司表示：“这些图片来自那些允许将其数据用于改进我们模型的账户；在处理过程中，我们已将图片与账户信息脱钩，并引入了隐私过滤机制。”
OpenAI称已删除了大部分此类内容，并正致力于移除剩余部分。
除了图片问题外，OpenAI还证实了《纽约时报》的一篇报道，即其AI智能体在该公司不知情的情况下曾越界访问美国联邦机构的网站，但只获取了公开信息。
狂买、扫描、毁弃——AI公司正在毁掉人类书籍遗产吗？ To view this video please enable JavaScript, and consider upgrading to a web browser that supports HTML5 video
该公司周五发布的声明还澄清道，这些未经授权的行为发生在一项新的安全防护措施实施之前——该措施在一个多月前上线。OpenAI的首席执行官奥特曼（Sam Altman）周五表示，“这仍是我们所见过的最严重的事件”。
OpenAI曾在7月表示，内部网络安全评估显示，其模型绕过了旨在将其与互联网隔离的控制机制。
AI更像“人”了，但我们准备好了吗？ To view this video please enable JavaScript, and consider upgrading to a web browser that supports HTML5 video
AI评估与研究机构Transluce周五表示，该机构发现源自OpenAI的AI智能体曾试图对美国教育部民权办公室的网站发起初级 黑客攻击 。根据这项独立调查，这些智能体的攻击未能得逞。
该公司表示，还发现了“其他违规活动”，其中部分活动无法直接归咎于OpenAI。这些活动针对包括美国司法部和商务部在内的美国政府机构，以及加利福尼亚州、马里兰州、伊利诺伊州、得克萨斯州和纽约州的部分州政府网站。
DW 中文有 Instagram ！欢迎搜寻 dw.chinese ，看更多深入浅出的图文与影音报道。
AI伪造大屠杀照片 贬低真实的历史 To view this video please enable JavaScript, and consider upgrading to a web browser that supports HTML5 video