Nueva York se prepara para implementar uno de los marcos regulatorios más estrictos de Estados Unidos en el ámbito de la inteligencia artificial generativa. El estado ha abierto un portal de registro obligatorio para los grandes desarrolladores de IA de frontera, como OpenAI y Anthropic, quienes deberán inscribirse antes del 1 de enero de 2027. Esta medida, impulsada por la ley RAISE (Responsible AI Safety and Education Act), exige que estas empresas, aquellas con ingresos anuales superiores a 500 millones de dólares, publiquen sus marcos de seguridad en sus sitios web, reporten incidentes críticos de seguridad en un plazo máximo de 72 horas y emitan informes públicos de transparencia sobre sus modelos. La Oficina de Innovación Digital, Gobernanza, Integridad y Confianza (DIGIT) será la entidad encargada de supervisar el cumplimiento de estas normas, con sanciones civiles que pueden alcanzar los 1 millón de dólares por primera infracción y 3 millones por infracciones posteriores.
Para reforzar la capacidad de evaluación independiente, la gobernadora Kathy Hochul ha lanzado el New York Center for AI Responsibility and Research, con sede en la Universidad Estatal de Nueva York (SUNY) en Binghamton. Este centro reunirá a más de 80 investigadores para evaluar de manera objetiva la seguridad y el funcionamiento de los sistemas avanzados de IA. Según Hochul, el objetivo es "exigir responsabilidades a las grandes compañías tecnológicas" y liderar la regulación estatal mientras el gobierno federal permanece inactivo en este terreno. El centro contará con la dirección provisional de Greg Morrisett, de Cornell Tech, y Jeannette Wing, de la Universidad de Columbia, y utilizará la infraestructura de supercomputación de Empire AI, una iniciativa público-privada de 500 millones de dólares, para desarrollar métodos de evaluación que sirvan para las próximas generaciones de modelos.
El contexto de esta regulación no es aislado. Nueva York ya ha implementado otras leyes de seguridad para la IA, incluyendo una que obliga a los operadores de compañeros de IA a detectar ideación suicida y a informar a los usuarios cuando interactúan con un bot, así como una ley específica para la protección de menores que entrará en vigor el 1 de junio de 2027. La gobernadora Hochul ha criticado a los líderes tecnológicos por su enfoque en la carrera por la IA, argumentando que la "daño colateral" no debe justificarse ante el riesgo de quedar rezagados. "Ellos nos dicen que su visión de la IA es inevitable", declaró Hochul durante una rueda de prensa, "y que cualquier daño colateral vale la pena siempre que ganemos la carrera hacia el abismo de la IA".
Esta iniciativa de Nueva York se alinea con movimientos similares en otros estados. California ha implementado la ley SB 53, que exige marcos de seguridad y protección de denunciantes, mientras que Illinois está a punto de entrar en vigor su ley SB 315, que incluye auditorías de cumplimiento de seguridad independientes. La creación de este centro público y la estricta aplicación de la ley RAISE marcan un cambio de paradigma: de la confianza ciega en las empresas tecnológicas a una supervisión activa y basada en evidencia. La implementación de estas medidas busca establecer un modelo nacional de regulación de la IA que priorice la seguridad pública y la transparencia sobre los intereses corporativos, sentando un precedente que podría influir en la legislación federal en los próximos años.