La marca de agua invisible SynthID, desarrollada por Google, se expande a OpenAI, Runway, Nvidia y otros actores mientras se somete a pruebas de robustez en condiciones reales. Google anunció esta primavera en su conferencia I/O que sus herramientas han generado más de 100.000 millones de imágenes y vídeos con IA en apenas un par de años, una cifra que contextualiza la urgencia de sistemas de etiquetado. El Starling Lab, colaboración entre Stanford y la Universidad del Sur de California, estima que la humanidad tardó 149 años desde la invención de la cámara en producir 1.500 millones de imágenes; la IA generativa logró esa misma cifra en solo 18 meses. En la actualidad coexisten dos enfoques para etiquetar contenido generado por IA: las marcas de agua invisibles como SynthID, integradas en los píxeles de una imagen o en la forma de onda de un audio, y los esquemas de metadatos como C2PA (Coalition for Content Provenance and Authenticity). Google emplea ambos en sus productos. C2PA es criptográficamente seguro y difícil de falsificar, pero se elimina con acciones tan simples como editar y guardar una imagen o capturar una pantalla. SynthID, en cambio, está diseñado para resistir la degradación por compresión, redimensionado y recortes, según la compañía. Pushmeet Kohli, científico de Google DeepMind, explicó a Ars Technica que el equipo invirtió un esfuerzo considerable en garantizar la durabilidad de SynthID, que debería permanecer detectable incluso en memes ampliamente compartidos. Aun así, los expertos señalan que una marca de agua, por resistente que sea, no resuelve por sí sola el problema de la desinformación: identificar el origen del contenido es solo una pieza del desafío.
Noticias agregadas con IA