El Reglamento de Inteligencia Artificial de la Unión Europea entrará en vigor en agosto de 2026 y, con él, la obligación de que los proveedores de modelos de lenguaje (LLM) marquen sus salidas de texto para que sean reconocibles como generadas por una máquina. Sin embargo, según el análisis, la marca de agua textual es un problema de esteganografía especialmente difícil: a diferencia de las imágenes, donde existen redundancias invisibles para el ojo humano, el texto es un medio tan comprimido que cualquier modificación perceptible altera la calidad del resultado.
Google es la única gran empresa que ha detallado públicamente cómo marca el texto generado: su sistema SynthID asigna a cada token una puntuación basada en los identificadores de los tokens previos y modifica la estrategia de muestreo para favorecer los que tienen mayor puntuación. Ese patrón agregado es detectable con bajo coste, aunque a costa de cierto control sobre la salida. Otros proveedores, como OpenAI y Anthropic, podrían estar recurriendo a trucos con caracteres Unicode visualmente idénticos (homoglyphos), como sustituir espacios normales por espacios tipográficos de tres por em. Esos patrones también se detectan fácilmente, pero su aplicación es aún más barata y, sobre todo, más sencilla de revertir.
El artículo sostiene que, aunque la ley exige que las marcas de agua estén 'integradas de manera que sea difícil separarlas del contenido', en la práctica cualquier usuario puede borrarlas con operaciones triviales: normalizar homoglyphos, reformular el texto o, en el caso de SynthID, alterar levemente la redacción. De ahí la conclusión de que las marcas de agua en texto siempre resultarán fáciles de eliminar, lo que deja en entredicho la eficacia real del artículo 50 del AI Act para distinguir contenido humano de contenido sintético.