Meta retiró este jueves una nueva función de inteligencia artificial que permitía a cualquier usuario de Instagram manipular con IA las fotografías publicadas por cuentas públicas de la plataforma, tras una intensa oleada de críticas procedentes de expertos en privacidad, organizaciones de la sociedad civil, sindicatos de artistas y los propios usuarios de la red social.
La herramienta formaba parte de Muse Image, el primer modelo de generación de imágenes desarrollado por el nuevo "Laboratorio de Superinteligencia" de Meta, en el que la compañía ha invertido decenas de miles de millones de dólares. Lanzada el pasado martes, la función permitía a los usuarios de Meta AI etiquetar cuentas públicas en Instagram y utilizar su contenido para crear imágenes alteradas o generadas por IA, que posteriormente podían publicarse en la plataforma sin necesidad de obtener el consentimiento del autor original ni de notificarle, ya que la opción venía activada por defecto.
"Nuestra intención era ofrecer una herramienta creativa útil y dar a las personas control sobre si su contenido público podía utilizarse de esta manera. Hemos escuchado las críticas de que esta función no cumplía ese objetivo, por lo que ya no está disponible", señaló Meta en un comunicado recogido por BBC y elDiario.es. La compañía reconoció implícitamente el error al afirmar que "no dio en el blanco" ("missed the mark").
La reacción fue inmediata y plural. SAG-AFTRA, el mayor sindicato de actores de Hollywood, calificó la medida de "inaceptable" y advirtió de un "error de cálculo absoluto" sobre los peligros inherentes a este tipo de usos. Numerosos actores y actrices de renombre alertaron a sus seguidores en Instagram sobre la nueva función y explicaron cómo desactivarla. Por su parte, la Creative Artists Agency (CAA), una de las mayores agencias de talento del mundo, recordó que "ningún nombre, imagen, apariencia, voz ni obra creativa de ninguna persona debería ser utilizada por terceros, incluidos los modelos de inteligencia artificial, sin un consentimiento claro y documentado".
Expertos en protección de datos consultados por elDiario.es fueron más allá y advirtieron de que la herramienta podía vulnerar incluso la legislación europea vigente en materia de privacidad y protección de datos personales.
El episodio recuerda, por su rapidez y virulencia, a lo sucedido con el generador de imágenes de Grok, la inteligencia artificial de X (antigua Twitter). Aquel caso fue considerablemente más grave: durante los pocos días que la herramienta permaneció activa, según documentó elDiario.es, se generaron más de tres millones de imágenes sexualizadas de mujeres sin su consentimiento, incluidas aproximadamente 23.000 de menores de edad, en lo que se describió como uno de los mayores ataques machistas de la historia vividos en estas plataformas.
En su comunicado original, Meta había enmarcado el lanzamiento como una funcionalidad limitada a Instagram, aunque adelantó que estaban previstas más integraciones de IA para WhatsApp, Facebook y Messenger, además de una herramienta de generación de vídeo mediante IA actualmente en desarrollo. La retirada de esta función deja en el aire el calendario y las condiciones en las que Meta podría reintentar este tipo de integraciones.
El caso pone de relieve la creciente tensión entre el vertiginoso despliegue de capacidades de IA generativa por parte de las grandes tecnológicas y los marcos legales y éticos que regulan el uso de la imagen, la voz y la obra de las personas. También ilustra cómo la presión coordinada de usuarios, profesionales creativos y expertos puede forzar a una compañía del tamaño de Meta a dar marcha atrás en cuestión de días. Por ahora, Meta no ha hecho públicos más comunicados sobre el futuro de Muse Image ni ha detallado si la función regresará en algún formato modificado que aborde las preocupaciones de privacidad y propiedad intelectual que motivaron su retirada.