La tensión entre el Pentágono y Anthropic, una empresa líder en inteligencia artificial, ha alcanzado un punto crítico, amenazando con interrumpir una colaboración de alto valor y planteando interrogantes sobre el futuro de la integración de la IA en la defensa nacional estadounidense. La disputa, que se centra en el grado de control que Anthropic mantiene sobre el uso de su modelo de lenguaje Claude, ha expuesto una creciente fricción entre las demandas del gobierno y los principios éticos de las empresas de IA.
El conflicto se intensificó esta semana cuando Pete Hegseth, secretario de defensa, y otros líderes militares se reunieron con Dario Amodei, CEO de Anthropic, para intentar resolver la disputa. Según reportes de Axios, Hegseth dio a Amodei hasta el viernes para aceptar los términos del Departamento de Defensa, bajo la amenaza de sanciones que incluyen la cancelación de un contrato multimillonario y la designación de Anthropic como un riesgo para la cadena de suministro. Esta presión refleja un esfuerzo más amplio por parte del gobierno, impulsado por la administración Trump, para integrar agresivamente la IA en las operaciones militares, con el objetivo de ganar una “carrera armamentista” global en tecnología de IA.
Anthropic, que se presenta como la empresa de IA más enfocada en la seguridad, ha resistido las demandas del Pentágono de acceso irrestricto a Claude. La compañía se ha mostrado reacia a permitir que su modelo se utilice para vigilancia masiva o sistemas de armas autónomas capaces de tomar decisiones letales sin intervención humana. Esta postura contrasta con la de otras empresas de IA como Google, OpenAI y xAI, que han accedido a permitir el uso de sus modelos para “todos los fines legales”, según fuentes del Washington Post. El Pentágono ha firmado acuerdos con estas empresas por un valor combinado de hasta 200 millones de dólares, siendo Claude el único modelo hasta ahora permitido en sistemas clasificados.
La divergencia de opiniones se agudiza considerando la trayectoria de Anthropic. La empresa ha promovido activamente una mayor regulación de la IA y ha respaldado un comité de acción política que aboga por salvaguardias más estrictas. Además, la contratación de ex funcionarios de la administración Biden y la oposición de Amodei a Trump durante la campaña presidencial de 2024 han generado sospechas, con un fondo de inversión pro-Trump retirándose de una inversión en Anthropic. Según The Wall Street Journal, estos factores contribuyeron a la tensión actual.
El conflicto se produce tras el uso reciente de Claude para ayudar en la captura del líder venezolano Nicolás Maduro, según The Guardian. Esta operación, junto con la inversión masiva del Pentágono en tecnologías habilitadas por IA, desde drones autónomos hasta sistemas de orientación automatizados, ha intensificado el debate sobre la ética de delegar la toma de decisiones letales a la IA. La aparición de drones semiautónomos en el conflicto de Ucrania, capaces de operar sin control humano, ejemplifica la urgencia de estas preocupaciones.
Foreign Policy destaca que la disputa con Anthropic es una señal preocupante. La negativa de la empresa a ceder el control sobre su tecnología sugiere una creciente resistencia dentro de la industria de la IA a las demandas gubernamentales para el uso militar de sus productos. Esta resistencia, aunque potencialmente conflictiva, podría ser crucial para garantizar que el desarrollo y la implementación de la IA se guíen por principios éticos y de seguridad, en lugar de simplemente por objetivos estratégicos.
El estado actual es de incertidumbre. El Pentágono está bajo presión para avanzar en la integración de la IA, mientras que Anthropic se mantiene firme en su compromiso con la seguridad y la ética. El resultado de esta negociación tendrá implicaciones significativas no solo para la relación entre el gobierno y la industria de la IA, sino también para la dirección futura del desarrollo y el despliegue de la inteligencia artificial a nivel global. Se espera que las próximas semanas sean cruciales para determinar si se puede encontrar un compromiso que satisfaga las necesidades del gobierno y los principios de Anthropic, o si la relación se verá irrevocablemente dañada.