La grande tendance dans la robotique consiste à confier les commandes à un modèle d'IA générative, mais cela soulève un problème : cette architecture n'est pas prévisible comme le sont les algorithmes traditionnels. Comment être certain que votre tout nouveau humanoïde sera sûr ?
Le Dr Ding Zhao, qui dirige le Safe AI lab de l'Université Carnegie Mellon, travaille sur ce problème depuis presque toute sa carrière. Désormais, avec le vétéran des startups Kyle Wong et l'ingénieur en apprentissage automatique Simo Rachidi, il a fondé une entreprise, Safeworld, destinée à le résoudre.
« Le défi de la sécurité dont nous parlons combine, premièrement, des évaluations probabilistes d'IA générative très avancées — comment souscrire au risque d'un système probabiliste ? » explique Zhao. « La deuxième partie qui est vraiment difficile est celle de la confiance, et il vous faut les deux pour déployer un robot. »
Safeworld sort aujourd'hui de la furtivité avec un tour d'amorçage de plus de 12 millions de dollars, mené par Shine Capital et a16z Speedrun, avec des investissements supplémentaires de Box Group, Carnegie Mellon University Endowment, Innovation Endeavors et SV Angel.
« Le moment d'établir une norme industrielle de sécurité, c'est maintenant, pendant que les robots sont conçus et déployés », a déclaré à TechCurnch Jonathan Lai, associé chez a16z Speedrun. « Quand vous aurez des robots dans les foyers qui entrent en collision avec des enfants et provoquent des incidents de sécurité, il sera bien trop tard. »
La spécialité de Safeworld consiste à évaluer un système de contrôle robotique dans des simulations peuplées de modèles humains réalistes. C'est comparable au défi auquel sont confrontées des entreprises comme Tesla ou Wayve, qui doivent s'assurer que leurs véhicules réagissent de manière appropriée à une variété d'incidents surprenants qu'elles peuvent rencontrer sur la route. Mais ce sera plus difficile pour les robots, plaide Zhao, parce qu'ils travaillent dans des environnements non structurés, et parce que chaque installation dans laquelle ils se trouvent aura des normes de sécurité différentes.
« L'un des cas les plus courants, c'est s'il y a un angle mort dans cette usine en particulier », a déclaré Wong. « Quelle est la vitesse ou quelle est la distance d'arrêt nécessaire pour s'assurer que ce robot n'entrera pas en collision avec un humain en particulier ? Si un humain porte des cartons, par exemple, le robot détectera-t-il l'humain ou non ? »
Pour répondre à cette question, Safeworld construira une version numérique de ce coin dans un modèle comme Genesis ou MuJoCo, insérera une simulation du robot qu'elle évalue, pilotée par son logiciel réel, puis exécutera des milliers de scénarios où des modèles humains rencontrent le robot. C'est plus difficile qu'il n'y paraît, selon Zhao, parce que les gens sont imprévisibles.
« Trébucher et tomber est aussi un bon exemple de ce pour quoi nous faisons beaucoup de tests avec la simulation », a déclaré Wong. « Sinon, il faudrait aller trébucher et tomber devant le robot, ce qui est une chose difficile à faire tout le temps. »
Il existe de nettes similitudes entre la plateforme que Safeworld construit et les outils utilisés en interne par les fabricants de robots. Les fondateurs estiment toutefois qu'au-delà de leur expertise spécifique, les fabricants de robots voudront qu'un tiers valide leur travail, ne serait-ce que pour partager des informations sur les cas de sécurité entre concurrents.
« Beaucoup de gens sous-estiment premièrement à quel point certains de ces cas limites seront difficiles à résoudre », a déclaré Zhao. « Ce n'est pas le robot en vase clos, dans la démo, qui nous inquiète. C'est le robot déployé à grande échelle, avec des gens qui n'ont potentiellement jamais opéré de robot auparavant. »
Vishal Dugar, le CTO de Gritt Robotics, développe le cerveau IA de robots qui aident actuellement des travailleurs à installer des panneaux photovoltaïques dans des fermes solaires à l'échelle industrielle, et aspirent à s'attaquer à des tâches de construction plus complexes. Son entreprise s'associe à Safeworld pendant qu'ils développent leurs simulations de sécurité.
« La difficulté avec la plupart de nos systèmes, c'est qu'il est très difficile de prouver formellement, en faisant des calculs, en écrivant des équations, et en disant oui, le système est vérifié comme sûr », explique Dugar. « Cela doit nécessairement être fait de manière empirique. »
Ses robots opèrent aux côtés de travailleurs humains, et s'assurer que son bras robotisé ne les frappe pas est évidemment une priorité. Le vérifier en pratique nécessitera de prendre en compte toutes sortes de scénarios potentiels.
« Les humains ont de nombreuses apparences », souligne Dugar. « Leurs corps peuvent être dans différentes configurations. Ils peuvent être à genoux, debout. Ils pourraient potentiellement trébucher et tomber. Ils pourraient être accroupis. Ils pourraient courir. Vous devez répondre à tous ces comportements que les humains pourraient potentiellement manifester sur ces sites, ainsi qu'à la variété des variations de l'apparence humaine, vous savez, les vêtements, la taille, la forme, la hauteur, la couleur de peau, tout le reste. »
Il est encore tôt pour Safeworld comme pour l'IA générative dans la robotique, et l'entreprise détermine encore le meilleur modèle pour son produit — une plateforme pour des utilisateurs externes, ou une approche basée sur des services ? — mais l'équipe est convaincue qu'elle s'attaque au bon problème.
« Nous serons probablement la première entreprise rentable dans ce domaine », dit Zaho. « Parce que si quiconque veut déployer, il doit nous payer pour gérer la situation. »