La mejora recursiva de la auto (RSI) permite a los sistemas de inteligencia artificial modificar sus propios parámetros, prompts y flujos de trabajo de forma persistente. Sin embargo, la modificación autónoma no garantiza una mejora fiable, ya que los ganancia reportados pueden deberse a evaluaciones defectuosas, las capacidades adquiridas pueden degradarse y las restricciones de comportamiento pueden debilitarse. Además, los artefactos comprometidos o la información sensible pueden persistir en los sistemas sucesores, y los cambios en los mecanismos de mejora pueden invalidar los resultados de verificación previos, reduciendo la eficacia del supervisión humana.
Este artículo de revisión presenta una definición operativa y un marco de proceso para la RSI, organizando los requisitos de confianza en cuatro temas interconectados: mejora genuina y sostenida; restricciones de comportamiento, alineación y equidad; seguridad y privacidad del sistema; y transparencia y controlabilidad. El análisis se examina desde tres perspectivas: validez de la mejora, preservación de restricciones y supervisión efectiva. Se cubren los procesos de diagnóstico de mejora, generación de propuestas, evaluación de propuestas e implementación de actualizaciones, incluyendo la aplicación recursiva de estas etapas a los mecanismos de mejora en sí mismos.
El texto revisa los riesgos, salvaguardas y evidencia de evaluación para actualizaciones individuales, efectos heredados por sistemas sucesores y revisiones de mecanismos de mejora, distinguiendo entre hallazgos directos de RSI y evidencia en sistemas relacionados. Finalmente, se examinan los entornos de evaluación, se identifican los requisitos para la evaluación independiente y longitudinal, y se discuten las aplicaciones y los problemas de investigación abiertos en este campo emergente.