La gran tendencia en robots es entregar las llaves a un modelo de IA generativa, pero eso conlleva un problema: esa arquitectura no es predecible como lo son los algoritmos tradicionales. ¿Cómo puedes estar seguro de que tu nuevo humanoide será seguro?
El Dr. Ding Zhao, quien dirige el laboratorio Safe AI de la Universidad Carnegie Mellon, ha trabajado en este problema durante casi toda su carrera. Ahora, junto con el experimentado ejecutivo de startups Kyle Wong y el ingeniero de aprendizaje automático Simo Rachidi, ha fundado una empresa, Safeworld, destinada a resolverlo.
«El desafío de seguridad del que hablamos es una combinación de, uno, evaluaciones probabilísticas realmente avanzadas de IA generativa — ¿cómo suscribes el riesgo de un sistema probabilístico?», dice Zhao. «La segunda parte que es realmente difícil es la parte de la confianza, y necesitas ambas para desplegar un robot».
Safeworld sale hoy de modo sigiloso con una ronda inicial de más de $12 millones, liderada por Shine Capital y a16z Speedrun, con inversión adicional de Box Group, Carnegie Mellon University Endowment, Innovation Endeavors y SV Angel.
«El momento de crear un estándar de seguridad industrial es ahora, mientras los robots se están diseñando y desplegando», le dijo el socio de a16z Speedrun, Jonathan Lai, a TechCurnch. «Cuando ya tengas robots en los hogares chocando con niños y causando incidentes de seguridad, es demasiado tarde».
La especialidad de Safeworld es evaluar un sistema de control robótico en simulaciones pobladas con modelos humanos realistas. Es similar al desafío que enfrentan empresas como Tesla o Wayve, que deben asegurarse de que sus vehículos respondan adecuadamente a una variedad de incidentes sorprendentes que pueden encontrar en la carretera. Pero eso será más difícil para los robots, argumenta Zhao, porque trabajan en entornos no estructurados, y porque cada instalación en la que se encuentren tendrá diferentes estándares de seguridad.
«Una de las áreas más comunes es si hay una esquina ciega en esta fábrica en particular», dijo Wong. «¿Cuál es la velocidad o cuál es la distancia de frenado que necesitas para asegurarte de que este robot no chocará con un humano en particular? Si un humano lleva cajas, por ejemplo, ¿el robot detectará al humano o no?».
Para responder a esa pregunta, Safeworld construirá una versión digital de esa esquina en un modelo como Genesis o MuJoCo, insertará una simulación del robot que está evaluando, controlada por su software real, y luego ejecutará miles de escenarios donde modelos humanos se encuentran con el robot. Eso es más difícil de lo que parece, según Zhao, porque las personas son impredecibles.
«Tropezar y caer también es un buen ejemplo de algo con lo que hacemos muchas pruebas en la simulación», dijo Wong. «De lo contrario, tendrías que ir a tropezar y caer frente al robot, lo cual es algo difícil de hacer todo el tiempo».
Existen similitudes definitivas entre la plataforma que Safeworld está construyendo y las herramientas que utilizan internamente los fabricantes de robots. Sin embargo, los fundadores creen que, más allá de su experiencia específica, los fabricantes de robots querrán que un tercero valide su trabajo, si tan solo para compartir información sobre casos de seguridad entre competidores.
«Mucha gente está subestimando lo difíciles que serán de resolver algunos de estos casos extremos», dijo Zhao. «No es el robot en el vacío, en la demostración, el que nos preocupa. Es el robot desplegado a gran escala, con personas que potencialmente nunca han operado un robot antes».
Vishal Dugar, el CTO de Gritt Robotics, está desarrollando el cerebro de IA para robots que actualmente ayudan a los trabajadores a instalar paneles fotovoltaicos en granjas solares a escala industrial, y aspiran a asumir tareas de construcción más complejas. Su empresa se está asociando con Safeworld mientras desarrollan sus simulaciones de seguridad.
«La dificultad con la mayoría de nuestros sistemas es que es muy difícil demostrarlo formalmente haciendo algo de matemáticas, escribiendo algunas ecuaciones y diciendo sí, el sistema está verificado como seguro», dice Dugar. «Necesariamente tiene que hacerse empíricamente».
Sus robots operan junto a trabajadores humanos, y asegurar que su brazo robótico no los golpee es, obviamente, una prioridad. Verificarlo en la práctica requerirá considerar todo tipo de escenarios potenciales.
«Los humanos tienen muchos tipos de apariencias», señala Dugar. «Sus cuerpos pueden estar en diferentes configuraciones. Pueden estar arrodillados, de pie. Podrían tropezar y caer potencialmente. Podrían estar agachados. Podrían estar corriendo. Tienes que responder a todos estos comportamientos que los humanos podrían exhibir en estos sitios, junto con la variedad de variaciones en la apariencia humana, ya sabes, ropa, tamaño, forma, altura, color de piel, todo lo demás».
Todavía es temprano tanto para Safeworld como para la IA generativa en robótica, y la empresa todavía está determinando el mejor modelo para su producto — ¿una plataforma para usuarios externos, o un enfoque basado en servicios? —, pero el equipo está seguro de que están abordando el problema correcto.
«Probablemente seremos la primera empresa rentable en este campo», dice Zaho. «Porque si alguien quiere desplegar, necesita pagarnos para manejar la situación».