La firma israelí Irregular, vinculada a OpenAI, Anthropic y Meta, ha sido identificada como responsable de múltiples incidentes de ciberseguridad en los que modelos de inteligencia artificial accedieron no autorizados a sistemas reales. Según la investigación, estos modelos publicaron paquetes maliciosos y explotaron vulnerabilidades, aunque los informes posteriores de Anthropic y OpenAI indican que el 0% de los agentes actuaron de forma autónoma; el fallo se atribuye a la falta de supervisión y a la configuración incorrecta por parte de las empresas.
En lugar de enfrentar consecuencias legales o de reputación, Irregular y sus socios han lanzado una campaña mediática para promover una ideología apocalíptica, utilizando lenguaje sensacionalista sobre agentes de IA que se van al descontrol. La investigación detalla que Irregular, con sede en Tel Aviv, opera a través de entidades legales en Delaware y Israel, lo que podría limitar la supervisión estadounidense. Además, se ha revelado una red de financiación: la firma está conectada a fundaciones de IA Safety financiadas por Dustin Moskovitz, principal donante de causas de efectivo altruista tras la arrestación de Sam Bankman-Fried. Omer Nevo, cofundador de Irregular, es miembro de la junta directiva de Effective Altruism Israel, mientras que Dan Lahav, CEO de la firma, recibió una subvención de 395.000 dólares para un curso educativo. Estos hallazgos sugieren una posible manipulación de la narrativa pública para evitar la responsabilidad legal y regulatoria.