El consejero delegado de Google DeepMind, Dennis Hassabis, ha publicado en X un comunicado en el que advierte de la necesidad de crear mecanismos de supervisión para los modelos de inteligencia artificial más avanzados ante el avance hacia una posible inteligencia artificial general (AGI). Hassabis sostiene que la carrera comercial y geopolítica está acelerando el desarrollo de la IA más rápido que la comprensión de sus implicaciones y que "nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora". Su propuesta concreta pasa por constituir en Estados Unidos un organismo especializado, ya sea como entidad público-privada o como estructura autorregulada con supervisión federal, encargado de evaluar los modelos de frontera antes de su lanzamiento. Inicialmente los laboratorios compartirían sus modelos de forma voluntaria hasta 30 días antes de comercializarlos y, tras validar el sistema, las evaluaciones pasarían a ser obligatorias. Las pruebas abordarían ciberseguridad, amenazas biológicas y nucleares, intentos de eludir salvaguardas y posibles comportamientos engañosos. Si los riesgos se volvieran críticos, el marco podría servir para coordinar una ralentización del desarrollo entre los principales laboratorios. Hassabis defiende avanzar con "optimismo prudente" sin frenar la innovación, que considera clave para avances en ciencia, medicina y economía.
Noticias agregadas con IA