Detección de memorias vividas versus forjadas en agentes de IA

Fuentes: Distinguishing lived memories from forged ones in AI agents

Un estudio reciente evalúa la capacidad de los modelos de lenguaje grandes (LLM) para distinguir entre memorias vividas y forjadas en agentes de inteligencia artificial. En la primera parte de la investigación, tres jueces LLM fueron sometidos a una prueba con la autobiografía de un agente que nunca existió, sustituyendo a treinta días de historia real. Los resultados mostraron una puntuación casi idéntica para ambos documentos, con una diferencia de solo +0.032, dentro del margen de equivalencia de los marcadores de identidad (±0.10). Esto sugiere que, en este contexto, la métrica de puntuación no logra diferenciar claramente la autenticidad de la experiencia vivida de la simulación.