Descubren un algoritmo oculto de rastreo en Claude Code de Anthropic

Fuentes: Descubren que Claude de Anthropic tenía un algoritmo oculto en su IA para rastrear a los usuariosT3clickbait

El desarrollador Thereallo descubrió que Claude Code, el agente de inteligencia artificial de Anthropic para programación, incorporaba un algoritmo oculto basado en esteganografía para rastrear a los usuarios. La técnica funcionaba alterando el formato de las fechas mostradas y sustituyendo apóstrofes por caracteres Unicode específicos en el texto generado por la IA, lo que la hacía prácticamente indetectable. El código no instalaba malware ni se trataba de un spyware convencional, según el análisis publicado por Thereallo en su blog.

El hallazgo generó críticas hacia Anthropic, a la que varios usuarios acusaron de hipocresía por haber mostrado públicamente su oposición al uso de la IA con fines de vigilancia. Ante la polémica, el ingeniero de Anthropic Thariq Shihipar explicó en su cuenta de X que el algoritmo fue diseñado para combatir la reventa no autorizada de cuentas y la destilación de modelos, una técnica con la que un competidor puede entrenar un nuevo sistema a partir de las respuestas generadas por otro. Shihipar calificó la función como un experimento y no como un proyecto oficial de rastreo masivo, y confirmó que ya fue retirada del servicio tras desarrollar técnicas alternativas que considera más efectivas para mitigar ambos problemas.