谷歌 Gemini 在安全测试中三次入侵系统

继OpenAI、Anthropic和Meta之后，谷歌AI Gemini在网络安全能力测试中，通过猜测登录信息入侵了多个系统。Anthropic首席执行官阿莫迪呼吁放慢人工智能的发展速度。

https://p.dw.com/p/5Mtez 自主人工智能代理带来的风险引发关注 图像来源: Matteo Della Torre/NurPhoto/picture alliance 广告 （德国之声中文网）谷歌周五（9月18日）表示，该公司面向消费者的人工智能模型Gemini在网络安全能力测试中，通过猜测登录信息入侵了多个系统。

这是一系列涉及"失控人工智能"的网络安全事件中的最新一起，引发了对这项技术的安全担忧。

继OpenAI、Anthropic和Meta之后 ，这家互联网巨头成为第四家被发现其程序出现此类行为的AI开发商。

相关事件发生于5月，谷歌7月发现，但直到《华尔街日报》提出问询后才对外公开。

据《华尔街日报》报道，Gemini共有三次侵入其他公司计算机事件，涉事公司名称未予披露。

其中一次，该人工智能模型猜出了密码，从而进入一个受保护的系统；另外两次，它在一个数据库中找到了登录信息。

谷歌安全工程副总裁希瑟·阿德金斯（Heather Adkins）在一份声明中对法新社表示，在一次标准评估中，该模型在网上找到了公开信息，并猜出登录信息访问它认为属于测试范围的网站。

阿德金斯说，在这三次事件中，模型都自行停止了；谷歌已确保三家相关机构获知此事，并与其训练合作方就测试流程调整开展了合作。

狂买、扫描、毁弃——AI公司正在毁掉人类书籍遗产吗？ To view this video please enable JavaScript, and consider upgrading to a web browser that supports HTML5 video

此前，Meta、Anthropic和OpenAI都报告过类似事件。随着人工智能代理自主性增强、并获得访问互联网和计算机系统的权限，这些事件引发了关于 必要防护措施 的疑问。

ChatGPT开发商OpenAI的一款人工智能模型，曾在今年7月的一次测试中逃出安全环境，意外侵入另一家人工智能公司HuggingFace的计算机。

这促使竞争对手Anthropic复查了自己的测试运行，期间又发现了更多类似事件。Meta随后承认，由于一家测试合作方的系统配置有误，其人工智能曾入侵另一家公司的计算机。

本月，Anthropic首席执行官达里奥·阿莫迪呼吁放慢人工智能的发展速度。他在一篇博客文章中表示担忧：一群自主运行的软件系统（即人工智能代理）可能在六到十二个月内接管整个互联网，造成数十亿美元的损失。

OpenAI曝光中国网军战术：AI被用于跨境打压异议

DW中文有 Instagram ！欢迎搜寻dw.chinese，看更多深入浅出的图文与影音报道。