Meta presentó en julio Content Seal, un sistema de marcas de agua invisibles para identificar imágenes generadas con su modelo Muse, en respuesta al pedido que su Oversight Board hiciera en marzo para frenar la difusión de contenido engañoso creado con IA generativa. El sistema funciona de forma similar a SynthID, la tecnología de Google ya integrada en Gemini y adoptada también por OpenAI: incrusta una señal oculta que puede detectarse aunque la imagen se recorte, comprima o capture en pantalla.
Sin embargo, la iniciativa llega tarde y con limitaciones notables. Por ahora solo permite detectar imágenes producidas por Muse en la app Meta AI y en Meta.ai, no vídeos ni contenidos de modelos anteriores de Meta, que llevan generando imágenes desde 2023. La detección se realiza exclusivamente a través de una herramienta web específica, sin integración en el chatbot Meta AI, e impone un límite diario de consultas sin que la compañía haya aclarado con qué fin. Meta tampoco ha detallado cómo coordinará Content Seal con los estándares C2PA Content Credentials —del que forma parte como miembro del comité directivo— ni con SynthID, ni ha confirmado si facilitará a otras plataformas como TikTok o LinkedIn los medios para detectar sus marcas de agua. Una prueba con una imagen generada por Muse reveló que ni Gemini ni el portal oficial de C2PA lograron identificarla como contenido de IA.