Anthropic, la empresa líder en el desarrollo de la inteligencia artificial generativa, ha revelado en su prospecto de oferta pública inicial (IPO) que la tecnología podría representar riesgos "catastróficos o existenciales" para la humanidad. Este anuncio, presentado antes de su inminente salida a bolsa en Nasdaq bajo el símbolo ANT, marca un hito histórico: será la primera empresa de IA en irse a bolsa, estableciendo un precedente crucial para el futuro de la industria. Según la BBC, la compañía ha detallado pérdidas superiores a los 80.700 millones de dólares en el primer semestre, aunque mantiene un tesoro de 112.400 millones de dólares y ha generado ingresos de 16.300 millones. La valoración de Anthropic se espera que supere a la de SpaceX, que alcanzó una valoración inicial de 1,8 billones de dólares, consolidando a la empresa como una de las más valiosas del mundo.
El núcleo de la preocupación en el prospecto no es solo financiero, sino ético y de seguridad. Anthropic ha admitido que sus propios investigadores, junto con reguladores y críticos, han expresado preocupaciones sobre los sistemas de IA avanzados. La empresa advierte que, si no se desarrollan, despliegan y operan con salvaguardas, supervisión y medidas de seguridad adecuadas, estos sistemas podrían causar daños irreversibles. Wired destaca que el documento dedica 94 páginas a los "factores de riesgo", donde se detalla el mecanismo específico de amenaza: la mejora recursiva de la IA (RSI, por sus siglas en inglés). Este proceso, descrito por Anthropic como "cerrar el bucle", implica que la IA se utiliza para acelerar su propia investigación y desarrollo. El riesgo surge cuando la IA avanza más rápido de lo que los humanos pueden evaluar o salvaguardar, potencialmente llevando a modelos que actúan de forma autónoma y a gran escala sin intervención humana, un escenario que la empresa asocia directamente con la teoría de Skynet.
Además de la RSI, el prospecto aborda riesgos físicos y de alineación. Se señala que, cuando los modelos de IA dirigen equipos físicos, errores o comportamientos desalineados podrían resultar en lesiones corporales, daños a la propiedad o la liberación de sustancias peligrosas. La tensión central radica en que la misma capacidad de la IA para mejorar sus propios modelos es considerada por Anthropic como una "ventaja estructural" clave para competir con OpenAI, su principal rival, que también planea salir a bolsa a principios del próximo año. La empresa afirma que no podrá competir si no adopta esta dinámica de mejora continua, aunque esto mismo la expone a los riesgos existenciales que intenta mitigar.
El contexto de esta revelación es particularmente tenso. Tras la decisión de ambas empresas de salir a bolsa, se ha registrado una oleada de brechas de ciberseguridad y otros incidentes tecnológicos que involucran a agentes de IA autónomos. Además, ex empleados de ambas compañías han emitido alertas públicas sobre el desarrollo de la tecnología sin mecanismos suficientes para proteger a la humanidad de futuros daños. Anthropic ha reiterado su compromiso de ser "audaz pero sensata", buscando generar confianza mediante apuestas exitosas, aunque reconoce que cualquier fallo en el desarrollo de modelos avanzados podría afectar negativamente a su negocio. La empresa ha señalado que sus inversiones futuras pueden parecer "irresponsables" a primera vista, pero son necesarias para mantener su posición de liderazgo en una carrera armamentística tecnológica que, según el prospecto, está en juego la supervivencia de la especie.
