Geoffrey Hinton, considerado el 'padrino de la IA' y Nobel de Física en 2024, advierte de la dificultad de mantener bajo supervisión a una inteligencia artificial que supere ampliamente las capacidades humanas. En una entrevista recogida por CNN, el investigador británico cuestiona la estrategia de las grandes tecnológicas de buscar una relación de dominio en la que los humanos sean 'dominantes' y las IA permanezcan 'sumisas', porque esos sistemas 'van a ser mucho más listas' que las personas. Para evitar esa dinámica, Hinton propone incorporar 'instintos maternales' a los modelos, de modo que se 'preocupen por las personas' aunque lleguen a ser más inteligentes que los humanos.
El científico explica que cualquier IA con capacidad de agencia desarrollará rápidamente dos subobjetivos: sobrevivir y obtener más control, y lo compara con el modo en que 'un adulto soborna a un niño de tres años con caramelos'. El único precedente de un ser más inteligente controlado por uno menos inteligente, señala, es la madre sobre el bebé.
Hinton, que en ocasiones anteriores ha cifrado entre un 10% y un 20% la probabilidad de que la IA provoque la extinción humana, asegura haber recortado sus plazos para la llegada de la inteligencia artificial general: estima una ventana de entre cinco y veinte años, frente a estimaciones previas que la situaban en décadas.