AI 热点

Google 构建“镜像维度”互联网测试 Chrome AI 智能体

Wired AI更新于 11月20日 01:57

Google Built a Giant ‘Mirror Dimension’ Internet to Test Its Chrome AI Agents | WIRED

AI 导读

Google Chrome 团队构建了名为“Mirror Dimension”的隔离仿真互联网,用于训练和测试基于 Gemini 的网页浏览智能体。该环境包含社交媒体、购物和银行仪表盘等仿真网站,智能体需在真实 Chrome 中完成任务,并接受隐藏提示词注入等防御测试。Google 计划向内部更多团队开放这一环境,并分享这种测试方法供外部团队参考。

推荐理由

AI 评分 65

文章展示了受控仿真互联网如何兼顾真实网页交互与安全测试,为浏览智能体的训练和防御评估提供可迁移思路。

主题

标签

正文 · AI 翻译

随着 Google Chrome 团队努力利用该公司的 Gemini 模型开发 AI 浏览功能,他们意识到,要避免事态失控,就必须付出更多努力。于是,他们采取了唯一能想到的办法——构建了一个完全由自己掌控、规模庞大的平行宇宙互联网。

“网页使用”智能体需要熟悉开放互联网,知道如何浏览真实的网站和平台,并具备抵御网络攻击的能力。因此,只在有限的测试环境中训练它们,效果终究有限。此外,模型还可能产生所谓的“评估意识”,即它们因判断自己正处于测试或模拟环境中而改变行为。另一方面,将尚未完善的智能体直接放到开放互联网上也绝非明智之举。这正是平行宇宙互联网的用武之地。

Google 今天首次通过一篇博客文章详细介绍的“镜像维度”,是一个广泛、多样但彼此隔离的网络生态系统,完全由 Chrome 团队控制。它包含大量网站和平台,包括社交媒体网站、购物网站和银行控制面板;这些网站具备真实网站的所有组件和特征。浏览助手智能体必须与这些网站交互,并像在真实互联网上一样使用 Chrome 完成任务。在此过程中,它们还要接受韧性测试,例如应对隐藏的提示词注入攻击,以检验其防御能力。

“智能体并不是按固定程序运行的,因此你无法预测它可能看到的每一种情况。我们需要处理的探索空间极其庞大,而网络环境又充满敌意,”Chrome AI 安全团队的软件工程师 Charles Qian 表示。“任何用户都可以在任何网站上输入任何提示词,所以我们确实需要尽可能全面地探索这一空间。我们还看到,智能体开始形成成熟的判断力,能够判断一项任务实际需要哪些信息,以及何时应该把决定交还给用户,请求用户确认。”

构建并填充镜像维度本身就是一项挑战,因为它既要足够庞大和多样,能够体现真实网络的规模,又必须快速开发完成。为构建这一环境,Chrome 团队召集了大批网站和网络应用开发智能体,并利用一套专门打造的 AI 框架进行引导,从而迅速创建逼真的网络服务和数据流——细致到在购物网站上输入促销码或填充社交媒体页面等操作。

尽管整个环境都由 Google 控制,但 Chrome 内置了大量用户保护措施和有效性检查。为了让智能体使用真正的 Chrome——这对准确训练至关重要——研究人员实际上不得不入侵浏览器,并采取复杂措施,例如伪造用于有效性检查的网站证书,从而让智能体获得正常的使用体验。不过,团队强调,所有这些攻击都不可能针对开放互联网上的普通 Chrome 用户实施。它们之所以能够实现,完全是因为团队控制着整个环境和网络,因而天然拥有类似“上帝模式”的访问权限和特权。

研究人员表示,尽管他们一直测试的浏览助手智能体是良性的,并不具备网络攻击能力,但他们的目标是向 Google 内部各团队开放镜像维度,让更多研究人员能够使用这一安全、可控的测试环境。

“我们正在分享这种方法,希望内部和外部的其他团队都能考虑采用这种方式,”Google 工程总监 Doug Turner 表示。“这只是第一步,我们将继续投入,以这种方式训练模型。我认为,随着模型日益复杂,我们也必须继续完善这一环境,使其变得越来越逼真。”

发送到你的收件箱:通过《内核恐慌》深入数字安全世界

Microsoft 宕机事件为全世界敲响警钟

重磅报道:AI 安全之争已经偏离重点

英国新的色情内容禁令引发对空前性审查的担忧

来源

Wired AI