ロボット業界の大きなトレンドは、制御を生成AIモデルに委ねることだが、それには問題が伴う。そのアーキテクチャは、従来のアルゴリズムとは違って予測可能ではないのだ。真っ新しいヒューマノイドが安全だとどうやって確信できるのか？
カーネギーメロン大学でSafe AI labを率いるDing Zhao博士は、この問題にキャリアのほぼ全期間を費やして取り組んできた。現在、ベテラン起業家経営者のKyle Wongと機械学習エンジニアのSimo Rachidiとともに、この問題を解決することを目的とした企業Safeworldを設立した。
「私たちが話している安全性の課題は、第一に、非常に高度な生成AIの確率的評価の組み合わせだ。確率的システムのリスクをどう引き受けるのか？第二の本当に難しい部分は信頼の部分であり、ロボットを展開するにはその両方が必要だ」とZhaoは語る。
Safeworld は本日、ステルスモードから姿を現し、Shine Capitalとa16z Speedrunが主導し、Box Group、カーネギーメロン大学基金、Innovation Endeavors、SV Angelから追加出資を受ける、1,200万ドル超のシードラウンドを発表する。
「ロボットが設計・展開されている今こそ、業界の安全基準を構築すべき時だ」とa16z SpeedrunのパートナーJonathan LaiはTechCurnchに語った。「家庭内のロボットが子どもと衝突して安全インシデントを起こす頃には、手遅れすぎる」
Safeworldの専門は、リアルな人間モデルが配置されたシミュレーション内でロボットの制御システムを評価することだ。これは、TeslaやWayveのような企業が直面する課題、すなわち道路上で遭遇しうるさまざまな予期しない事態に車両が適切に応答することを保証するという課題に似ている。しかしZhaoは、ロボットの場合はより難しくなるだろうと主張する。ロボットは非構造化環境で作業し、さらに置かれる施設ごとに安全基準が異なるからだ。
「最も一般的なケースの一つは、特定の工場に死角がある場合だ」とWongは語る。「このロボットが特定の人間と衝突しないことを保証するには、どの速度、どの制動距離が必要か？例えば、人間が段ボール箱を運んでいたら、ロボットはその人間を検知できるかできないか？」
この問いに答えるために、SafeworldはGenesisやMuJoCoのようなモデル内でその死角のデジタル版を構築し、評価対象のロボットのシミュレーションを挿入して実際のソフトウェアで駆動させ、人間モデルがロボットに遭遇する数千のシナリオを実行する。Zhaoによれば、これは見た目より難しい。人は予測不可能だからだ。
「つまずいて転倒するのも、シミュレーションで多くのテストを行っている良い例だ」とWongは語る。「そうでなければ、ロボットの前で実際につまずいて転ばなければならず、それをずっとやり続けるのは大変なことだ」
Safeworldが構築しているプラットフォームと、ロボットメーカーが社内で使用しているツールには確かに類似点がある。しかし創業者たちは、自らの特定の専門知識に加えて、ロボットメーカーは第三者に成果を検証してもらいたがるだろう、少なくとも競合他社間で安全事例に関する情報を共有するためにも、と考えている。
「多くの人は、こうしたエッジケースのいくつかがどれほど解決困難かを過小評価している」とZhaoは語る。「私たちが心配しているのは、デモでの、真空中のロボットではない。大規模に展開され、これまでロボットを操作したことのない可能性のある人々と共に使われるロボットなのだ」
Gritt RoboticsのCTOである Vishal Dugarは、現在産業規模の太陽光発電所で作業員が太陽光パネルを設置するのを支援し、より複雑な建設作業にも挑戦することを目指すロボット向けのAIブレインを開発している。彼の会社は、安全シミュレーションの開発にあたりSafeworldと提携している。
「私たちのシステムのほとんどにおける難しさは、数式を書いて『システムは安全であると検証済みです』と言うような数学による形式的証明が非常に難しいことだ」とDugarは語る。「必然的に経験的に行うしかない」
彼のロボットは人間の作業員と並んで稼働するため、ロボットアームが人に当たらないことを保証することがもちろん最優先事項だ。これを実際に検証するには、あらゆる種類の潜在的シナリオを考慮する必要がある。
「人間には多種多様な外見がある」とDugarは指摘する。「体はさまざまな姿勢をとりうる。膝をついていることも、立っていることもある。つまずいて転倒する可能性もある。しゃがんでいることも、走っていることもある。人間がこれらの場所で取りうる可能性のあるあらゆる振る舞いに対応しなければならず、さらに服、サイズ、体型、身長、肌の色など、人間の外見のさまざまなばらつきにも対応しなければならない」
Safeworldにとっても、ロボットにおける生成AIにとってもまだ初期段階であり、同社は自社製品の最適なモデル、外部ユーザー向けのプラットフォームにするか、サービスベースのアプローチにするか、をまだ模索しているが、チームは正しい問題に取り組んでいると確信している。
「私たちはおそらく、この分野で最初に収益を上げる企業になるだろう」とZhaoは語る。「展開したいと思う者がいれば、この状況に対処するために私たちに支払う必要があるからだ」