Google DeepMind 于周二以研究预览版的形式发布了其最新的世界模型 Genie 4。这个最新模型生成了迄今最逼真、最具互动性的世界,允许用户在模拟过程中输入提示词来改变场景。该模型还能生成与模拟世界相匹配的实时音频,包括音乐、环境音和互动对话。
在 Genie 4 发布的几个月前,AI 视频初创公司 Runway 发布了其第二个世界模型, GWM Worlds 2,这是一个能动态响应用户输入并包含音频生成的可玩模型。与此同时,世界模型行业也开始整合。李飞飞的 World Labs 正在被 AMD 收购,亚马逊正在洽谈 收购 Decart,而 Rivian 刚刚收购了 Third Dimension 以便将模拟功能引入内部用于自动驾驶测试。
Genie 4 是 Google 在这个竞争激烈的领域中保持领先的最新举措。
Google 在一年多前以研究预览版的形式发布了其前代产品 Genie 3。除了更加逼真和具备音频功能外,Genie 4 还支持自由编辑,例如实时改变天气或摄像机角度,或添加新的人物或物体。它可以将一个场景保持一致长达两分钟,是前代产品上限的两倍,并提供更好的物理效果和更拟人化的角色。
Google 的 AI 模型 Gemini 也与 Genie 4 更紧密地集成,充当导演角色,在 Genie 生成视觉内容的同时规划步骤并检查帧。在与 Gemini Robotics 相关的一项研究实验中,一个 Gemini 4 Argon 模型将任务分解为步骤,由 Genie 4 实时模拟。该实验展示了在真实世界发生之前在模拟中测试机器人场景的一种可能方式。
“未来我们将越来越多地看到这些混合世界模型,即 Gemini 编写代码和文本,而 Genie 实时摄取这些内容并以不同抽象层次模拟现实,”Google 研究总监 Tejas Kulkarni 在一次简报会上说。
与其他世界模型一样,其宣称的商业用例包括游戏、互动学习和机器人技术。互动学习的一个推测性例子是走进一幅描绘历史场景的画作,并与画中人物就所描绘的事件进行交谈。
但“受信任的测试者”——即最先获得 Google 前沿产品的人群——指出了一个可能的新用途:电影原型制作。
“实时这一特性在那些保持创造力心流状态极其有用的领域最有价值,”Google DeepMind 工程师 Diego Rivas 在一次新闻简报会上说。“例如,在构思阶段、在分镜阶段——任何时候你都需要快速构思。”
Google 还提供 Veo,这是其 AI 视频生成模型,可根据文本、图像或视频提示生成带有内置同步音频的高清片段——这一工具在 电影制作人.
中越来越受欢迎。Rivas 补充说,用户最终可以依靠 Gemini Omni,这是一种多模态大型语言模型,可以从图像、音频和文本生成视频,将这些原型转化为创意资产。不过他说,这些能力仍有一段路要走。
在整个简报会过程中,Rivas 强调 Genie 4 仍处于早期阶段,目前尚不清楚端到端的产品体验会是什么样子。团队还承认,Genie 4 仍然存在不足:模拟运行时间越长,细节和物体可能会出现漂移,而且他们还没有完全弄清如何确保音频准确以及任何世界内文本清晰可读。
Genie 4 现已作为研究预览版向受信任的测试者开放。未来几周,该模型将面向 Google AI Ultra 订阅者推出,作为 Project Genie(Google 用于从文本或图像提示生成互动世界的 AI 工具)的一部分,并向 Gemini API 和 Google AI Studio 的早期访问合作伙伴开放。