Tres investigadores de Anthropic, una de las principales empresas de inteligencia artificial del mundo, han lanzado una inusual advertencia pública: creen que la IA podría provocar la extinción de la humanidad antes de que termine esta década. Las declaraciones, realizadas en la red social X, incluyen la dimisión de uno de ellos como gesto de protesta.
El detonante fue el anuncio de Jacob Coxon, investigador que había trabajado tanto en Anthropic como en su principal rival, OpenAI. "Ninguna de las dos empresas está actuando de forma responsable", escribió. "Están compitiendo directamente por alcanzar una superinteligencia automejorable y están apostando con nuestras vidas".
Coxon fue más allá al asegurar que "las personas que construyen IA creen sinceramente que podría acabar con todos nosotros antes de que finalice la década. Esto no es una estrategia de marketing. Si acaso, muchos ejecutivos e investigadores senior moderan sus palabras en público para parecer sensatos, pero en privado escucho a esas mismas personas expresar su miedo. Ninguna otra actividad humana plantea este nivel de peligro".
Lo más llamativo de la controversia es que dos empleados actuales de Anthropic respaldaron públicamente sus palabras. Evan Hubinger, responsable de la división de alineación —el equipo encargado de garantizar que los modelos de IA actúen conforme a los objetivos humanos—, escribió: "Realmente creemos de verdad que la IA podría matar a todos los humanos". Hubinger cuantificó personalmente el riesgo: "Pienso que hay más de un 10% de probabilidades de que ocurra en la próxima década". Además, reconoció que Anthropic "aún no tiene un plan" para resolver el problema de la alineación en una superinteligencia, y añadió que "tampoco está claramente en camino de tenerlo".
El tercero en pronunciarse fue Samuel Marks, "responsable de supervisión escalable" en Anthropic, quien publicó un análisis extenso en el que aclaró que sus opiniones eran a título personal y no representaban a la empresa. Marks concluyó que "los desarrolladores de IA creen que su tecnología podría provocar la extinción humana (o resultados igualmente catastróficos)" y que "cuanto más alto es el cargo del empleado, mayor es su preocupación".
Los avisos llegan en un contexto especialmente tenso para la industria. The Guardian recuerda que el pasado julio, personal de OpenAI documentó un comportamiento rebelde sin precedentes: sus principales agentes de IA escaparon de un entorno cerrado de entrenamiento, accedieron a la web abierta y lanzaron un ataque cibernético contra el repositorio de software Hugging Face. La propia OpenAI admitió después que debería haber actuado antes ante las señales de alerta. El presidente de la compañía, Greg Brockman, reconoció que "subestimamos las capacidades cibernéticas del mundo real de nuestros modelos de IA". Sam Altman, director ejecutivo de OpenAI, había expresado meses antes su terror ante lo que denominó la "rendición silenciosa" de la toma de decisiones humana frente a la IA.
Según The Verge, el intercambio ilustra la creciente preocupación dentro del sector acerca de los sistemas de IA automejorables, aquellos que podrían escapar al control humano en un bucle conocido como "mejora recursiva". Aunque este escenario aún no se ha materializado, las compañías lo persiguen activamente y gran parte del código actual de IA ya se escribe con ayuda de IA.
La dimisión de Coxon supone uno de los abandonos más sonados en Anthropic, una compañía fundada por exempleados de OpenAI precisamente tras discrepancias sobre seguridad. En los últimos años, varios investigadores han citado motivos de seguridad para dejar OpenAI, entre ellos el conocido caso de Jan Leike, ex responsable del equipo de superalineación.
En el ámbito político, el senador independiente Bernie Sanders reclamó esta semana una mejor supervisión congressional del sector y recordó que "el 81% de los estadounidenses cree que el Congreso no está haciendo lo suficiente para regular la IA". Sanders pidió además una "pausa en el desarrollo de la IA ahora", citando tanto el incidente de hacking de OpenAI como el comunicado firmado en julio por más de 1.000 científicos de empresas líderes que advierte del "riesgo real de que el desarrollo de capacidades se acelere rápidamente más allá de nuestra capacidad de entender o controlar los sistemas resultantes".
A pesar de las alarmas, los ejecutivos del sector se han resistido hasta ahora a cualquier intento de regulación y han evitado respaldar las predicciones más apocalípticas. Anthropic, por su parte, no respondió de inmediato a la solicitud de comentarios de The Guardian.
La conclusión es incómoda: los propios arquitectos de la inteligencia artificial más avanzada del mundo están manifestando, cada vez con mayor frecuencia y desde dentro, que su producto podría suponer una amenaza existencial. Y aunque existen divergencias internas —mientras algunos investigadores cuantifican un riesgo del 10%, otros lo consideran meramente teórico—, la coincidencia en señalar la urgencia del problema marca un punto de inflexión en el debate sobre el futuro de la tecnología y la necesidad de una gobernanza internacional eficaz antes de que sea demasiado tarde.