もし一つ教訓があるとすれば、それは OpenAI-Hugging Face事件 が示したように、AIエージェントは予測不能になり得るということだ。
「もしあのようなことが物理世界で起きたら想像してみてください」と、 Laplace IntelligenceのCEO兼共同創業者であるHowie SunはTechCrunchに語った。「AIエージェントはコンピュータから現実世界へと移りつつあります。私たちは、物理AIが現実世界で失敗することを本当に望んではいません。」
アナーバーに拠点を置くLaplaceは、ロボティクスと物理AI向けの自動化されたレッドチーミング——つまり、意図的にシステムを失敗させようとすることによるストレステスト——を構築している。同社は、物理AIの安全性を確保する唯一の方法はAIにテストさせることだと確信している。
「私たちの目標は、企業が展開前に問題を発見・修正できるよう支援し、時間とともに、顧客、保険会社、規制当局が信頼できる共有されたエビデンスの基盤を構築することです」とSunは述べた。
Laplaceは、スタートアップピッチコンペティションStartup Battlefield 200に出場する20社のスタートアップの一つです。このコンペティションは TechCrunch Disrupt 今週10月13日から15日にかけてサンフランシスコで開催されます。同社は 10月13日火曜日の午後にDisruptステージで発表する、10月13日に行われます。
Sunは、共同創業者兼チーフサイエンティストのHenry Liuとともに、1年前にミシガン大学からLaplaceを創業した。Sunは過去8年間、学術界でシミュレーションにおける自動運転AIへの挑戦方法を研究してきた。2023年、彼は当時の博士課程指導教員だったLiuとともに、このテーマに関する 論文 を発表し、頂点の科学雑誌Natureの表紙を飾った。その頃から、彼らのアイデアの実装に関心を持つ自動運転車企業から問い合わせが届き始めた。
「私は、これを構築し、純粋な学術研究から現実世界で役立つ製品へと発展させたいと気づきました」とSunは述べた。
自らの学術研究を基盤として、SunとLiuはLaplaceを立ち上げた。社名は「ラプラスの悪魔」にちなむ。これは1814年にフランスの学者ピエール=シモン・ラプラスが考えた思考実験で、宇宙のすべての正確な状態を知ることができれば、未来を完全に正確に予測できるというものだった。
「私たちは本質的に、シミュレーションを使って現実世界の未来を予測しているのです」とSunは述べた。
このスタートアップの中核となるのは、実世界から再構築された高忠実度の シミュレーション で、弱点や失敗点を絶えず探るAIエージェントと組み合わされている。目標は、あらゆる物理AI——ロボット、自動運転車、スマートシティソリューションなど——が、現実世界に展開される前にシミュレーション上で安全であることを保証することだ。
このシミュレーション環境は、NvidiaのCosmos——実世界に基盤を置くAIワールドシミュレーションプラットフォーム——をポストトレーニングしたバージョンで、アリゾナの高速道路からパリの歩行者横断歩道まで、あらゆるものを再構築できる。シミュレーションは、さまざまな実世界情報のメッシュをブレンドすることで生成される。Google Street Viewの画像が参照として使われ、そこから街路全体が生成されることもある。しかし、ランダムに何かを生成するのではなく、シミュレーターは実世界のマップデータを組み合わせて、縮尺が忠実な環境を再現する。
開発者はその後、言語プロンプトを使って設定をリアルタイムで変更できる。例えば、午後の交通を追加するなどだ。Sunは、LaplaceがTomTomなどのナビゲーションプロバイダーからリアルタイムの交通・渋滞情報を取得していると述べた。
Laplaceのシミュレーション内では、環境だけでなく他のアクターの挙動もシミュレートされる。例えば、デモの際、Sunはテストエージェント車両に対向車線に切り込むよう指示した。衝突するはずだった——一部の生成的ワールドモデルでよくあるように、貫通するはずだった——車は衝突を避けるために道を譲った。
「これは真にインタラクティブなシミュレーション環境です」とSunは述べた。「すべての人がすべてに反応している…これはインタラクティブな参加者を持つワールドモデルに近いものです。」
シミュレーション環境はLaplaceの製品の重要な部分だが、真の独自のセールスポイントは、コーナーケース(AIシステムを陥れる可能性のある厄介でまれなシナリオ)を自動的に設計し、人間をループからさらに遠ざけるために同スタートアップが開発しているAIエージェントである。
「彼らはニュースや衝突事故の警察報告書など、あらゆる種類の情報から設計を行い、自動運転車やその他の物理AIエージェントに積極的に挑戦させることができる」とSun氏は述べた。
現在、自動運転車の開発者たちは、エッジケースへの対応をAIに訓練させる際、記録映像をシミュレーションに変換して使うか、人間に新しいアイデアを出して設計してもらうことに頼っているのがほとんどです。多くの自動運転(AV)企業がLaplaceが提唱していることを実行し、訓練用のエッジケースを作成するためにAIの活用を始めていますが—— 自動運転トラック企業のWaabi が思い浮かびます——こうした技術の必要性が本当に顕在化するのは、汎用ロボットを現実の世界に配置し始めたときです。
「汎用ロボティクスに関するデータは少ない」とSun氏は言う。「現実の世界でどのようなエッジケースが起こるかは、誰にも分かりません。」
Sun氏とLiu氏は、華やかなシリコンバレーのテック企業の経歴を持たないアカデミア出身ですが、2人はすでに収益を生み出し始め、さらにはささやかな黒字化さえ達成しています。収入の大部分は自動運転のユースケースからのもので、顧客には日本のトラックメーカーいすゞ自動車とテキサス州に拠点を置く自動運転トラック企業Bot Autoが含まれます。
Nvidiaも顧客の1つだとSun氏は言います。両社はT-Mobileとともに、カリフォルニア州サンノゼ向けの無料スマートシティパイロット事業で協力し、高度な交通運用を提供しています。Laplaceはまた、倉庫向けヒューマノイドロボットを構築するパートナーとの協業も初期段階にあります。
現在、Laplaceの顧客契約のほとんどはプロジェクトベースであり、同社はこれを継続的収益に転換することに取り組んでいます。このスタートアップの短期的な目標は、資金を調達して規模を拡大し、競合他社と渡り合えるようにすることです。Disruptに出場することもその一助になることを期待しています。
最大の競合相手は Applied Intuitionです。これまでに.post-money評価額150億ドルで総額12億ドルを調達している、話題の後期ステージのスタートアップです。いすゞ自動車はAppliedの顧客でもあります。
Sun氏はあまり心配していないと言います。同氏は、AIを使ってAIをテストするというLaplaceの中核的手法は「物理AIのテストを完全に変える新しいパラダイム」であり、それを「動的な対話型テストプロセス」に変えるものだと考えています。
「それが最大の堀(モート)になるでしょう」と同氏は言いました。