Safeworld, fundada por el Dr. Ding Zhao de Carnegie Mellon University y el ejecutivo Kyle Wong, ha cerrado una ronda de financiación semilla de más de 12 millones de dólares para abordar los riesgos de seguridad asociados a la integración de modelos de inteligencia artificial generativa en robots humanoides. La empresa, que opera desde el anonimato, busca resolver la falta de predictibilidad inherente a estos sistemas probabilísticos, un desafío que los algoritmos tradicionales no presentan. Su enfoque consiste en evaluar los sistemas de control robótico mediante simulaciones que incorporan modelos humanos realistas en entornos no estructurados, como fábricas o hogares, para detectar colisiones o incidentes antes de la implementación a gran escala.
La financiación, liderada por Shine Capital y a16z Speedrun, con participación de Box Group y Carnegie Mellon University Endowment, refleja la urgencia de establecer estándares de seguridad mientras los robots se diseñan y despliegan. A diferencia de los vehículos autónomos, los robots operan en entornos variables donde los humanos pueden comportarse de manera impredecible, como tropezar o cambiar de postura. Safeworld utiliza herramientas de simulación como Genesis o MuJoCo para probar miles de escenarios, incluyendo casos límite como un humano con cajas o en una esquina ciega. La compañía argumenta que la verificación formal matemática es insuficiente y requiere pruebas empíricas extensas. Además, colabora con empresas como Gritt Robotics para validar sus sistemas en entornos industriales. El equipo de Safeworld confía en que su plataforma será la primera en ser rentable, ya que los fabricantes de robots necesitarán pagar por esta validación de seguridad para garantizar la confianza de los usuarios finales.