如果说 OpenAI-Hugging Face 事件 给了我们一个教训，那就是 AI 智能体可能是不可预测的。
“想象一下，如果类似的事情发生在物理世界中，”Howie Sun， Laplace Intelligence的 CEO 兼联合创始人，告诉 TechCrunch。“AI 智能体正在从计算机走向现实世界，而我们并不希望物理 AI 在现实世界中失败。”
总部位于安娜堡的 Laplace 正在为机器人和物理 AI 构建自动化红队测试——本质上，就是通过故意尝试让系统失败来对其进行压力测试。该公司坚信，确保物理 AI 安全的唯一方法就是让 AI 来测试它。
“我们的目标是帮助公司在部署之前发现并修复问题——并且随着时间的推移，建立一个客户、保险公司和监管机构都可以信任的共享证据基础，”Sun 说。
Laplace 是参加 Startup Battlefield 200 的 20 家初创公司之一，这是本周 10 月 13 日至 15 日在旧金山举行的 TechCrunch Disrupt 本周于10月13日至15日在旧金山举行。它将 10 月 13 日星期二下午在 Disrupt Stage 上进行演示,10月13日。
Sun 与他的联合创始人兼首席科学家 Henry Liu 在一年前从密歇根大学创立了 Laplace。Sun 在过去的八年里一直在学术界研究如何在仿真中挑战自动驾驶 AI。2023 年，他和当时他的博士导师 Liu 发表了一篇关于该主题的 论文 ，登上了顶级科学期刊《Nature》的封面。从那时起，有兴趣实施他们想法的自动驾驶汽车公司开始不断来电。
“我意识到我想把它构建出来，把它从纯粹的学术研究变成一个在现实世界中有用的产品，”Sun 说。
以他们的学术研究为基础，Sun 和 Liu 构建了 Laplace，这个名字来源于“拉普拉斯妖”，这是法国学者 Pierre-Simon Laplace 在 1814 年提出的一个思想实验，他设想如果你知道宇宙中一切事物的确切状态，你就可以完全精确地预测未来。
“我们本质上是在使用仿真来预测现实世界的未来，”Sun 说。
这家初创公司的核心是一个从现实世界重建的高保真 仿真 ，再配上一个不断探测弱点和故障点的 AI 智能体。目标是确保任何物理 AI——无论是机器人、自动驾驶汽车还是智慧城市解决方案——在部署到现实世界之前都在仿真中是安全的。
该仿真环境是 Nvidia 的 Cosmos（一个 AI 世界仿真平台）的后训练版本，它以现实世界为基础，使 Laplace 能够重建从亚利桑那州的高速公路到巴黎的人行横道的任何场景。仿真通过融合多种不同的现实世界信息来生成。一张 Google Street View 图像可以作为生成整条街道的参考。但模拟器并不是随机生成内容，而是结合现实世界的地图数据来重建一个比例真实的环境。
开发人员随后可以使用语言提示实时更改场景，比如加入下午的交通。Sun 说，Laplace 从 TomTom 等导航提供商处获取实时交通和拥堵信息。
在 Laplace 的仿真中，不仅环境是仿真的，其他参与者的行为也是仿真的。例如，在一次演示中，Sun 指示测试智能体车辆转向迎面而来的车流。它本会撞上的那辆车——或者直接穿过去，这在一些生成式世界模型中很常见——闪避开以避免碰撞。
“这是一个真正的交互式仿真环境，”Sun 说。“每个人都在对一切做出反应……这更像是一个带有交互参与者的世界模型。”
虽然仿真环境是 Laplace 产品的重要组成部分，但真正独特的卖点是这家初创公司正在开发的 AI 智能体，它能自动设计 corner case（可能让 AI 系统出错的棘手、罕见场景），从而让人类进一步退出这一环节。
Sun 表示：“它们可以根据新闻、警方的事故报告来设计——利用各种信息来主动挑战自动驾驶车辆和其他物理 AI 智能体。”
如今，自动驾驶汽车开发者大多通过录制 footage 并将其转化为模拟场景来训练 AI 处理边缘案例，或者依赖人类想出新点子并进行设计。虽然许多自动驾驶公司已经做了 Laplace 所推介的事情，并开始拥抱 AI 来创建用于训练的边缘案例—— 自动驾驶卡车公司 Waabi 就是其中之一——但当我们开始在真实世界中部署通用机器人时，对这类技术的需求才会真正显现出来。
“关于通用机器人的数据比较少，”Sun 说。“没有人知道真实世界中的边缘案例会是什么。”
尽管 Sun 和 Liu 来自学术界，没有光鲜的硅谷科技公司背景，两人还是设法开始产生收入，甚至实现了小幅盈利。大部分收入来自自动驾驶应用场景，客户包括总部位于德克萨斯州的自动驾驶卡车公司 Bot Auto 和一家大型日本汽车制造商。
Laplace 还与 Nvidia 和 T-Mobile 合作，为加利福尼亚州圣何塞开展一项免费智慧城市试点，以提供高层次的交通运营服务。Laplace 还处于与合作伙伴共同开发仓库人形机器人的早期阶段。
目前 Laplace 的大部分客户合同都是基于项目的，公司正努力将其转变为经常性收入。这家初创公司的近期目标——它希望通过在 Disrupt 上参赛来助力这一目标——是筹集资金并扩大规模，以便与竞争对手抗衡。
其主要竞争对手是 Applied Intuition，这是一家备受关注的后期初创公司，迄今已融资12亿美元，投后估值为150亿美元。
Sun 并不太担心。他认为 Laplace 用 AI 测试 AI 的核心方法论是一种“彻底改变物理 AI 测试方式的新范式”，将其转变为一个“动态交互式测试过程”。
“那将是最大的护城河，”他说。
本文已更新，以澄清 Laplace 与 Nvidia 的关系。