La implementación de marcas de agua en la salida textual de los modelos de inteligencia artificial, impulsada por la directiva de la UE sobre IA, ha generado debate sobre su impacto en la calidad del contenido. Aunque Anthropic afirma que su método SynthID-Text no afecta a la calidad individual de cada respuesta, análisis técnicos revelan que la técnica introduce una pérdida de diversidad entre múltiples respuestas a la misma consulta. Este fenómeno, conocido como 'trade-off' de diversidad y detectabilidad, significa que las respuestas watermarkadas son más similares entre sí que las no watermarkadas, lo que puede degradar la creatividad en tareas de escritura y la capacidad de los usuarios para evaluar la confianza de las respuestas mediante la repetición de prompts. Natzir Turrado demostró experimentalmente que, al pedir cinco descripciones de un viaje a una ciudad costera, cuatro de las respuestas watermarkadas comenzaban con frases casi idénticas, mientras que las no watermarkadas variaban. Además, la naturaleza de la ventana de contexto deslizante utilizada por el watermarking puede generar secuencias de tokens repetidas, reduciendo la independencia de las salidas. Aunque el método preserva la calidad de una sola respuesta, la reducción de la variabilidad en conversaciones largas o en sistemas que seleccionan la mejor respuesta entre varias podría afectar negativamente la experiencia del usuario y la fiabilidad de la IA en el mundo real.
Noticias agregadas con IA