Google DeepMind 发布 Genie 4 世界模型,可实时生成带声音的交互场景
Google Deepmind's Genie 4 puts a modern spin on agent designs that predate LLMs
Google DeepMind 推出 Genie 3 的继任者 Genie 4,这是其首个能直接生成声音的实时世界模型,逐帧计算场景并响应用户的键盘操作和文本提示。Gemini 模型在后台负责规划,例如 Gemini 3.8 Flash 持续观察画面、把目标拆成步骤并检查每步结果;DeepMind 还在测试用 Gemini 4 Argon 将 Genie 与机器人研究 Gemini Robotics 结合,演示中模拟了 Apptronik 人形机器人 Apollo 下棋。DeepMind 称该模型仍属早期实验版本,长时间模拟中视觉细节会漂移、物体不一定持续存在,目前仅限部分测试者使用,所有视频和音轨都会带有 SynthID 水印。
推荐理由
AI 评分 72
Genie 4 把实时音画生成与 Gemini 的分步规划结合,读者可了解世界模型如何被用作智能体与机器人的模拟训练环境。
主题
正文 · AI 翻译
要点
Genie 4 旨在实时模拟交互式世界,包括声音和会说话的角色。Gemini 模型在后台规划模拟中接下来会发生什么。目前只有部分测试者可以试用该世界模型。
Google Deepmind 发布了 Genie 4,这是 Genie 3 的继任者,该公司曾在 2025 年 8 月展示过 Genie 3。该世界模型并不生成成品视频,而是逐帧计算场景,并在过程中对输入做出反应。用户通过键盘在场景中移动,并用文本提示引导事件发展。
据 Deepmind 称,Genie 4 是该公司首个直接生成声音的实时世界模型。该公司表示,每个世界都有自己的背景音频,例如树林中的风声。Genie 4 还能处理对话,角色应当能够相互交谈,并实时对用户输入或事件做出反应。
Deepmind 认为,真实感方面最大的提升在于模型渲染人物的方式。角色应当自然移动并对周围环境做出反应,用户应当能够直接控制它们。
Gemini 模型提前规划以保持世界连贯
据 Deepmind 称,Genie 4 建立在视频模型 Gemini Omni 的能力之上,使世界看起来和行为起来都更真实。其他 Gemini 模型帮助规划模拟,以保持其一致性。
如果用户通过文本提示改变天气,Gemini 应当将指令适配到正在运行的场景中。Deepmind 表示,Gemini 还会在输入之间引导事件,使世界以合理的方式持续发展。
Deepmind 用多步骤任务来解释这一过程。Gemini 3.8 Flash 持续观察场景,将目标分解为步骤,并利用新帧检查每一步是否成功。如果世界发生变化或用户介入,模型会调整其计划。
Deepmind 还在测试 Gemini 4 Argon,以将其 Genie 工作与机器人研究 Gemini Robotics 联系起来。在一个演示中,Argon 将下跳棋的任务分解为多个步骤。Genie 4 将这些作为文本指令接收,并用它们模拟 Apptronik 的人形机器人 Apollo 下棋,全程不涉及真实机器人。
更长的会话仍会让模型出错
Deepmind 称 Genie 4 是一个早期的实验性模型。据该公司称,世界在短会话中能保持连贯,但在更长的模拟中或经过多次复杂的提示更改后,视觉细节可能发生偏移,物体也不一定持续存在。
Deepmind 表示,它仍在研究复杂的物理交互、准确的实时声音和可读文本。
Google 表示,所有视频和音轨都将带有其 SynthID 水印,该水印会以不可见的方式标记 AI 生成的内容。
一旦成熟,世界模型可以作为训练环境,让机器人和 AI 智能体从模拟经验中学习,而不仅仅是从数据中学习。Deepmind 认为,将 Gemini 与 Genie 配对是迈向混合世界模型的早期一步,这种模型将语言和代码模型的推理能力与像素级模拟结合起来。
Deepmind 还在测试 Gemini 4 Argon,以将其 Genie 工作与机器人研究 Gemini Robotics 联系起来。在一个演示中,Argon 将下跳棋的任务分解为多个步骤。Genie 4 将这些作为文本指令接收,并用它们模拟 Apptronik 的人形机器人 Apollo 下棋,全程不涉及真实机器人。
更长的会话仍会让模型出错
Deepmind 称 Genie 4 是一个早期的实验性模型。据该公司称,世界在短会话中能保持连贯,但在更长的模拟中或经过多次复杂的提示更改后,视觉细节可能发生偏移,物体也不一定持续存在。
Deepmind 表示,它仍在研究复杂的物理交互、准确的实时声音和可读文本。
Google 表示,所有视频和音轨都将带有其 SynthID 水印,该水印会以不可见的方式标记 AI 生成的内容。
一旦成熟,世界模型可以作为训练环境,让机器人和 AI 智能体从模拟经验中学习,而不仅仅是从数据中学习。Deepmind 认为,将 Gemini 与 Genie 配对是迈向混合世界模型的早期一步,这种模型将语言和代码模型的推理能力与像素级模拟结合起来。