Anthropic se reúne con la Casa Blanca por la suspensión de su herramienta de IA
La empresa de inteligencia artificial Anthropic se prepara para un encuentro clave con altos funcionarios de la Casa Blanca este lunes en Washington D.C., en medio de crecientes tensiones por la suspensión de su último modelo de IA. La reunión, que según fuentes familiarizadas con el asunto se llevará a cabo entre ejecutivos de Anthropic y el Departamento de Comercio, encabezado por el secretario Howard Lutnick, podría definir el futuro del acceso público a una de las herramientas de inteligencia artificial más avanzadas desarrolladas hasta la fecha.
El conflicto surge tras la decisión de Anthropic de bloquear el acceso público a su más reciente herramienta de IA el pasado viernes. La compañía ya había advertido que el modelo era "demasiado poderoso", pero se vio obligada a suspenderlo después de que el gobierno de Estados Unidos le prohibiera permitir el acceso a cualquier persona extranjera a la tecnología.
La herramienta en cuestión se denomina Fable 5 o Mythos 5. Fable 5 es una versión con medidas de seguridad adicionales disponible para el público general, mientras que Mythos 5 cuenta con controles diferentes y solo está disponible para un grupo selecto de organizaciones. Ambas versiones representan una evolución de Claude Mythos, un modelo de IA de Anthropic que ya había generado revuelo en abril, cuando la compañía otorgó acceso de prueba a un número reducido de organizaciones, incluyendo departamentos del gobierno estadounidense.
Según las fuentes, se espera que el director ejecutivo de Anthropic, Dario Amodei, asista personalmente a la reunión con el secretario Lutnick. Un portavoz de la Casa Blanca declined to comment, mientras que representantes del Departamento de Comercio y de Anthropic no respondieron a las solicitudes de declaración.
Anthropic había reconocido previamente que lanzar una versión de Mythos al público "conlleva riesgos". La compañía señaló que "las capacidades de Fable superan las de cualquier modelo que hayamos puesto a disposición del público en general". Sin embargo, apenas unos días después del lanzamiento, el gobierno estadounidense manifestó haber tomado conocimiento de un potencial "jailbreak", es decir, una vulnerabilidad que permitiría hacer que la herramienta de IA realizara acciones para las que no fue diseñada. Anthropic, por su parte, afirmó el viernes que solo había recibido "evidencia verbal" de la supuesta vulnerabilidad.
Este desencuentro se suma a una serie de fricciones entre Anthropic y el gobierno federal durante el año, incluyendo una demanda contra el Departamento de Defensa por disputas sobre cómo pueden usarse sus modelos. No obstante, las tensiones parecían haberse suavizado semanas atrás, cuando la compañía sostuvo un encuentro con funcionarios de la Casa Blanca que fue descrito como "productivo".
La reunión del lunes con el Departamento de Comercio incluirá, según una de las fuentes, documentación adicional sobre la supuesta vulnerabilidad. Sin embargo, aún no está claro si tras el encuentro Anthropic podrá volver a hacer accesibles Fable 5 y Mythos 5.
La suspensión ha provocado una reacción significativa en la industria tecnológica. Decenas de líderes y ejecutivos del sector de ciberseguridad, incluyendo personal de seguridad de Nvidia, Zoom, Mercedes-Benz, así como exempleados de seguridad del gobierno de Estados Unidos y Google, han firmado una carta abierta instando a Lutnick a levantar los controles impuestos sobre Fable 5 y Mythos 5. Los firmantes también solicitaron al gobierno que "se comprometa con un proceso abierto, científico y transparente para el manejo de evaluaciones de riesgo de IA en el futuro".
Esta situación resulta particularmente llamativa dado que la Casa Blanca ha señalado un enfoque relativamente "manos libres" hacia la regulación de la inteligencia artificial, e incluso ha expresado interés en obtener beneficios financieros de su desarrollo. La decisión de intervenir en el caso de Anthropic ha generado preocupación entre desarrolladores de IA y expertos en seguridad.
"Retirar las mejores capacidades de los defensores sin una buena razón, cuando nuestros adversarios están avanzando rápidamente, es peligroso", advirtieron los firmantes de la carta abierta.
El desenlace de esta reunión podría sentar un precedente importante sobre cómo el gobierno estadounidense equilibra la promoción de la innovación en inteligencia artificial con la protección de los intereses de seguridad nacional, especialmente en un contexto de competencia tecnológica global cada vez más intensa.