Demis Hassabis, cofundador y consejero delegado de Google DeepMind y premio Nobel de Química 2024, ha propuesto la creación en Estados Unidos de un organismo especializado que evalúe los modelos de inteligencia artificial de frontera antes de su lanzamiento al mercado. La iniciativa, detallada en un artículo publicado en X, nace de la advertencia de que el progreso en la frontera de la IA supera la comprensión colectiva de la tecnología y de que "nadie sabe con certeza qué va a ocurrir".
Hassabis, artífice de proyectos como AlphaGo y AlphaFold, considera que la inteligencia artificial general (AGI) podría llegar en unos años y advierte sobre riesgos en ciberseguridad, amenazas biológicas y nucleares, y sistemas cada vez más autónomos. Su propuesta plantea una entidad público-privada con supervisión federal, una junta con expertos independientes y representantes del código abierto, y la definición de umbrales que clasifiquen un modelo como de frontera. En una primera fase, los laboratorios compartirían voluntariamente sus modelos hasta 30 días antes del lanzamiento; después, la evaluación sería obligatoria, con pruebas periódicas y auditores independientes.
La propuesta se suma a llamamientos similares de Geoffrey Hinton, Yoshua Bengio o Elon Musk, aunque sin consenso sobre la probabilidad real de perder el control de la IA.