Der große Trend bei Robotern besteht darin, die Kontrolle an ein generatives KI-Modell zu übergeben, aber das bringt ein Problem mit sich: Diese Architektur ist nicht so vorhersehbar wie traditionelle Algorithmen. Wie können Sie sicher sein, dass Ihr brandneuer Humanoid sicher ist?
Dr. Ding Zhao, der das Safe AI Lab an der Carnegie Mellon University leitet, arbeitet seit fast seiner gesamten Karriere an diesem Problem. Nun hat er zusammen mit dem erfahrenen Startup-Manager Kyle Wong und dem Machine-Learning-Ingenieur Simo Rachidi ein Unternehmen namens Safeworld gegründet, das es lösen soll.
„Die Sicherheitsfrage, über die wir sprechen, ist eine Kombination aus erstens wirklich fortschrittlichen probabilistischen Evaluierungen mit generativer KI – wie unterlegen Sie das Risiko eines probabilistischen Systems?“, sagt Zhao. „Der zweite Teil, der wirklich schwierig ist, ist das Vertrauen, und man braucht beides, um einen Roboter einzusetzen.“
Safeworld tritt heute aus dem Stealth-Modus hervor mit einer Seed-Runde von mehr als $12 Millionen, angeführt von Shine Capital und a16z Speedrun, mit weiteren Investitionen von Box Group, Carnegie Mellon University Endowment, Innovation Endeavors und SV Angel.
„Jetzt ist die Zeit, einen branchenweiten Sicherheitsstandard zu schaffen, während Roboter entworfen und eingesetzt werden“, sagte a16z-Speedrun-Partner Jonathan Lai gegenüber TechCurnch. „Wenn Roboter erst einmal in Haushalten mit Kindern kollidieren und Sicherheitsvorfälle verursachen, ist es viel zu spät.“
Safeworlds Spezialität ist die Bewertung eines Robotik-Steuerungssystems in Simulationen, die mit realistischen Menschenmodellen bevölkert sind. Das ähnelt der Herausforderung, der sich Unternehmen wie Tesla oder Wayve stellen müssen, die sicherstellen müssen, dass ihre Fahrzeuge angemessen auf eine Vielzahl überraschender Zwischenfälle reagieren, denen sie auf der Straße begegnen können. Aber das wird bei Robotern schwieriger sein, argumentiert Zhao, weil sie in unstrukturierten Umgebungen arbeiten und weil jede Einrichtung, in der sie sich befinden, unterschiedliche Sicherheitsstandards hat.
„Einer der häufigsten Bereiche ist, wenn es in dieser bestimmten Fabrik eine blinde Ecke gibt“, sagte Wong. „Welche Geschwindigkeit oder welcher Anhalteweg ist erforderlich, um sicherzustellen, dass dieser Roboter nicht mit einem bestimmten Menschen kollidiert? Wenn ein Mensch zum Beispiel Kartons trägt – erkennt der Roboter den Menschen oder nicht?“
Um diese Frage zu beantworten, wird Safeworld eine digitale Version dieser Ecke in einem Modell wie Genesis oder MuJoCo nachbauen, eine Simulation des zu bewertenden Roboters einfügen, angetrieben von seiner realen Software, und dann Tausende von Szenarien durchlaufen lassen, in denen Menschenmodelle auf den Roboter treffen. Das sei schwieriger, als es scheint, so Zhao, weil Menschen unberechenbar sind.
„Straucheln und Fallen ist ebenfalls ein gutes Beispiel für etwas, wofür wir viele Tests mit der Simulation durchführen“, sagte Wong. „Andernfalls müssten Sie vor dem Roboter straucheln und fallen, was eine ziemlich anstrengende Sache wäre, das ständig zu tun.“
Es gibt durchaus Ähnlichkeiten zwischen der Plattform, die Safeworld aufbaut, und den Tools, die Roboterhersteller intern verwenden. Die Gründer sind jedoch überzeugt, dass Roboterhersteller über ihre spezifische Expertise hinaus einen Drittanbieter wollen werden, der ihre Arbeit validiert, schon allein um Informationen über Sicherheitsfälle zwischen Wettbewerbern auszutauschen.
„Viele Menschen unterschätzen, erstens wie schwierig es sein wird, einige dieser Grenzfälle zu lösen“, sagte Zhao. „Es ist nicht der Roboter im Vakuum, in der Demo, der uns Sorgen macht. Es ist der Roboter, der im großen Maßstab eingesetzt wird, bei Menschen, die möglicherweise noch nie zuvor einen Roboter bedient haben.“
Vishal Dugar, der CTO von Gritt Robotics, entwickelt das KI-Gehirn für Roboter, die derzeit Arbeitern helfen, Photovoltaikpaneele auf Solarfarmen im Industriemaßstab zu installieren, und sich zum Ziel setzen, komplexere Bauaufgaben zu übernehmen. Sein Unternehmen arbeitet mit Safeworld zusammen, während sie ihre Sicherheitssimulationen entwickeln.
„Die Schwierigkeit bei den meisten unserer Systeme ist, dass es sehr schwierig ist, sie formal zu beweisen, indem man etwas Mathematik betreibt, einige Gleichungen aufschreibt und sagt: Ja, das System ist als sicher verifiziert“, sagt Dugar. „Es muss zwangsläufig empirisch geschehen.“
Seine Roboter arbeiten Seite an Seite mit menschlichen Arbeitern, und sicherzustellen, dass ihr Roboterarm sie nicht trifft, steht natürlich ganz oben auf der Liste. Um das in der Praxis zu verifizieren, müssen alle möglichen Szenarien berücksichtigt werden.
„Menschen haben viele Arten von Erscheinungsbildern“, weist Dugar darauf hin. „Ihre Körper können sich in unterschiedlichen Konfigurationen befinden. Sie können knien, stehen. Sie können möglicherweise straucheln und fallen. Sie können hocken. Sie können rennen. Man muss auf all diese Verhaltensweisen reagieren, die Menschen an diesen Standorten möglicherweise zeigen könnten, zusammen mit der Vielzahl von Variationen im menschlichen Erscheinungsbild, wissen Sie, Kleidung, Größe, Form, Körpergröße, Hautfarbe, allem anderen.“
Es ist noch früh für Safeworld und generative KI in der Robotik, und das Unternehmen überlegt noch, welches das beste Modell für sein Produkt ist – eine Plattform für externe Nutzer oder ein dienstleistungsbasierter Ansatz? – aber das Team ist zuversichtlich, dass es sich dem richtigen Problem widmet.
„Wir werden wahrscheinlich das erste profitable Unternehmen in diesem Bereich sein“, sagt Zaho. „Denn wenn jemand einsetzen will, muss er uns bezahlen, um die Situation zu bewältigen.“