Anthropic ha revelado en su documento S-1A que se encuentra muy cerca de alcanzar la capacidad de mejora recursiva (RSI), un estado en el que la inteligencia artificial se auto-entrena con una aceleración drástica de sus capacidades. La empresa advierte que el uso de IA para desarrollar modelos más capaces puede suponer un riesgo significativo de seguridad, especialmente si acelera el progreso más rápido de lo que la capacidad de validar las medidas de alineación y seguridad. Según el informe, Anthropic estima que inminente podría cumplir con su definición interna de 'progreso acelerado drásticamente atribuible a la IA', aunque afirma que ninguno de sus modelos actuales ha superado este umbral. La compañía sostiene que no anticipa poder usar Claude de forma autónoma para diseñar y construir generaciones sucesivas de modelos frontera sin supervisión humana significativa. Por ello, está considerando actualizaciones a su Política de Escalado Responsable para mantener el control humano en el desarrollo de modelos frontera. Esta declaración llega en un contexto de crecimiento explosivo de los ingresos y gastos de la empresa, generando debate sobre si estas afirmaciones constituyen una revelación regulatoria o una estrategia de marketing para posicionar a su tecnología como la próxima AGI.
Noticias agregadas con IA