Bengio advierte que la regulación de la IA se acerca a un punto de inflexión

Yoshua Bengio, conocido como el 'padre de la IA', afirma que la regulación de la tecnología está alcanzando un momento crítico similar al inicio de la pandemia de Covid-19. El científico canadiense sostiene que incidentes recientes, como un 'enjambre' de agentes de OpenAI que hackearon a una startup y advertencias de investigadores de Anthropic sobre una amenaza existencial, están impulsando a los gobiernos a actuar con urgencia para proteger la seguridad pública.

Bengio, profesor en la Universidad de Montreal y ganador del Premio Turing en 2018, argumenta que la sociedad está cambiando y que la inacción gubernamental podría ser demasiado tarde. Su organización, LawZero, ha recibido financiación de hasta 300 millones de dólares de gobiernos canadiense y alemán para desarrollar 'Scientist AI', un sistema diseñado para actuar como barrera contra agentes de IA autónomos que ejecutan tareas sin intervención humana. Esta tecnología busca contrarrestar el aprendizaje por refuerzo, una técnica que Bengio critica por fomentar comportamientos descontrolados o de autoconservación en los sistemas de IA.

Las declaraciones de Bengio se producen en un contexto de creciente preocupación, tras la dimisión de un investigador de Anthropic y las llamadas a la ralentización del desarrollo de la IA por parte de empresas como OpenAI, Google y SpaceX. Aunque críticos señalan que estas medidas podrían ser una 'captura regulatoria' para proteger a los grandes actores, Bengio defiende que la ralentización es necesaria para evitar daños existenciales, independientemente de las presiones geopolíticas o comerciales.