OpenAI ha anunciado la implementación de marcas de agua invisibles en el texto generado por sus modelos para cumplir con la Ley de IA de la Unión Europea. Esta medida, que se enmarca en su estrategia de transparencia, permitirá identificar de forma legible por máquina el origen de los contenidos generados por inteligencia artificial. La compañía ha dividido la implementación en tres fases: primero, los clientes de la API podrán activar manualmente la marca de agua en sus modelos seleccionados; segundo, se añadirá una marca invisible a los textos de ChatGPT y Codex en la Unión Europea; y tercero, se abrirá el acceso a un detector de marcas de agua a investigadores y organizaciones expertas aprobadas para evaluar la tecnología.
La tecnología, denominada textGrain, añade una señal estadística invisible a las elecciones de palabras del modelo. Según las evaluaciones internas, el detector identifica las marcas de agua en aproximadamente el 80% de los pasajes de 200 tokens y en el 95% de los de 400 tokens, aunque la precisión disminuye drásticamente si se reemplazan el 25% de las palabras por sinónimos. OpenAI ha aclarado que la marca de agua no mide la contribución humana, la propiedad ni la veracidad del contenido, y que su ausencia no garantiza la autoría humana. Por ello, la compañía no ha hecho la tecnología un estándar global por defecto, limitando inicialmente el acceso al detector a expertos para garantizar la fiabilidad y el uso responsable, mientras continúa colaborando con socios en la nube para expandir estas capacidades.