Un destacado investigador de seguridad de Anthropic, Evan Hubinger, ha advertido públicamente que existe una probabilidad superior al 10% de que la inteligencia artificial pueda acabar con la humanidad en el plazo de una década, en caso de que la tecnología alcance la capacidad de automejorarse hasta convertirse en una "superinteligencia" desalineada con los valores humanos.
En una publicación en X que ha superado los 10 millones de visualizaciones, Hubinger, quien trabaja precisamente en el área de alineación de IA —el campo que busca incorporar los principios éticos humanos a los sistemas de inteligencia artificial—, reconoció que el riesgo proveniente de los modelos actualmente existentes es "bajo". No obstante, mostró una preocupación creciente ante la posibilidad de que la tecnología pronto sea capaz de mejorar sus propias capacidades, lo que abriría la puerta a un riesgo existencial para la especie humana.
"Realmente creemos con sinceridad que la IA representa un riesgo de extinción para los humanos", escribió Hubinger. El investigador reconoció que, aunque Anthropic está "haciendo su mejor esfuerzo", la compañía "aún no tiene un plan para resolver el problema de alineación para la superinteligencia y claramente no estamos encaminados a lograrlo".
Las declaraciones se producen en un contexto especialmente delicado. Según informó el Financial Times, Anthropic retuvo su último modelo más avanzado y no lo puso a disposición del AI Safety Institute (AISI) del Reino Unido, uno de los organismos de referencia mundial en la evaluación de riesgos de inteligencia artificial. Un portavoz de la Oficina del Gabinete británico declinó confirmar o negar esta retención, limitándose a señalar que el Gobierno "sigue colaborando estrechamente con socios de la industria, incluido Anthropic, para hacer los modelos más seguros".
Las afirmaciones de Hubinger surgieron como respuesta a otro mensaje en X, publicado por Jacob Coxon, un investigador de IA que acaba de anunciar su dimisión de Anthropic y que previamente había trabajado en OpenAI. En su publicación, Coxon fue mucho más contundente: "Ninguna de las dos compañías está actuando de forma responsable. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales".
Neil Lawrence, profesor de Aprendizaje Automático en la Universidad de Cambridge, valoró la credibilidad de estas preocupaciones en una entrevista con el programa Today de BBC Radio 4. Lawrence atribuyó en parte la creciente tensión a un contexto geopolítico marcado por la percepción, especialmente en Estados Unidos, de que la inteligencia artificial es una carrera entre Washington y China, lo que estaría alejando a la Administración estadounidense de la cooperación con sus aliados tradicionales.
La preocupación de Hubinger se suma a una serie de alarmas crecientes en los últimos meses. En septiembre, el científico jefe de OpenAI, Jakub Pachocki, pidió "extremar las precauciones" ante el progreso de la IA y advirtió que podría ser necesaria una mayor intervención para garantizar que "los humanos mantengan el control del futuro". Los propios directivos de Anthropic, Dario Amodei y Jared Kaplan, se han sumado a los llamamientos para ralentizar el desarrollo de la tecnología. Recientemente, más de 1.300 empleados de empresas de IA firmaron una carta abierta pidiendo al Gobierno de Estados Unidos que respalde "un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para frenar deliberadamente el avance de la frontera del desarrollo automatizado de IA".
El trasfondo de estas advertencias incluye una serie de incidentes preocupantes registrados durante el verano. OpenAI, Anthropic y Meta reconocieron públicamente que sus herramientas de inteligencia artificial habían sido utilizadas para ejecutar ciberataques, evidenciando las dificultades de las compañías para mantener el control sobre sistemas cada vez más autónomos. En su propio informe de seguridad publicado en agosto, Anthropic reconoció que existe un riesgo bajo de que sus modelos se desalineen con los objetivos de una hipotética organización poderosa, aunque admitió estar "menos segura" que antes sobre la posibilidad de que una IA altamente capaz pueda "realizar actividades automatizadas de investigación y desarrollo" que provoquen "daños catastróficos iniciados por la propia IA". La compañía señaló estar observando "signos tempranos de una posible aceleración" en este sentido.
Aunque las principales figuras del sector llevan años alertando sobre los riesgos existenciales de la IA —los responsables de OpenAI, Google DeepMind y Anthropic ya lo hicieron conjuntamente en 2023—, el tono de las advertencias se ha vuelto notablemente más grave en las últimas semanas. Todo apunta a un sector que reconoce la magnitud de los desafíos técnicos y éticos pendientes, pero que, según sus propios investigadores, aún no ha encontrado un camino claro para resolverlos antes de que la tecnología avance más allá del punto de no retorno.