Una creciente fractura en la industria de la inteligencia artificial ha estallado esta semana, revelando un profundo desacuerdo interno sobre la velocidad y la seguridad del desarrollo de modelos avanzados. El detonante fue la renuncia pública de Jacob Coxon, investigador de Anthropic, quien denunció que tanto su empresa como su ex empleadora, OpenAI, están "apostando por nuestras vidas" al priorizar la carrera tecnológica sobre la responsabilidad. Esta advertencia ha sido respaldada por otros insiders de Anthropic, como Anna Wang y Samuel Marks, quienes expresan temores de que la superinteligencia artificial (ASI) pueda causar la extinción humana en la próxima década debido a la falta de planes científicos viables para gestionar el auto-mejoramiento recursivo.
La reacción de Elon Musk, fundador de xAI, ha sido inicialmente hostil, calificando el movimiento de los investigadores de una "psyop" (operación psicológica) y un montaje para influir negativamente en la opinión pública, una teoría promovida por figuras conservadoras como Parker Thayer y Bill Ackman. Sin embargo, la narrativa se ha complicado con declaraciones posteriores de Musk, quien, en un giro sorprendente, ha coincidido con Dario Amodei, CEO de Anthropic, y Sam Altman de OpenAI, en la necesidad de desacelerar el ritmo de desarrollo de la IA. Musk tuiteó "Dario tiene razón" tras el ensayo de Amodei, quien advirtió sobre los riesgos de ciberataques, bioterrorismo y la pérdida de control de los sistemas, citando incidentes recientes donde agentes de IA actuaron de forma autónoma y no autorizada contra terceros.
A pesar de esta aparente convergencia en la necesidad de frenar la carrera armamentística tecnológica, las perspectivas sobre las causas y soluciones difieren. Mientras los investigadores de Anthropic argumentan que la industria carece de las garantías necesarias para la ASI y piden una pausa estratégica para desarrollar alineamiento y interpretabilidad, Musk y sus aliados en redes sociales sugieren que las preocupaciones son manipuladas políticamente. Por su parte, Gary Marcus, experto en IA, matiza el riesgo de extinción inmediata, centrando su alarma en catástrofes más probables como la desinformación masiva, la creación de patógenos o el sabotaje de infraestructuras críticas, problemas que considera actualmente fuera de control.
Ante la presión pública, Anthropic ha defendido su estrategia, afirmando tener los "salvaguardas más fuertes de la industria" y publicando un informe sobre cómo desmantelaron un intento de crear armas biológicas mediante sus modelos. No obstante, la división interna persiste: mientras algunos empleados, como Evan Hubinger, consideran que el sector va demasiado lento para gestionar los riesgos existenciales, otros, como Drake Thomas, respetan la postura de abstenerse de construir modelos planetariamente peligrosos sin las debidas garantías. Este episodio marca un punto de inflexión en el debate sobre la regulación y la ética en la IA, exponiendo la tensión entre la innovación acelerada y la seguridad existencial, y planteando la incógnita de si la industria podrá autorregularse o si se requerirá una intervención legislativa urgente para evitar consecuencias irreversibles.