protocol_standard · 19 menciones
OpenAI ha anunciado la implementación de marcas de agua invisibles en el texto generado por sus modelos para cumplir con la Ley de IA de la Unión Europea. Esta medida, que se enmarca en su estrategia de transparencia, permitirá identificar de forma legible por máquina el origen de los contenidos gen
El autor David Buchanan (retr0id) ha identificado una vulnerabilidad crítica en el estándar C2PA (Coalition for Content Provenance and Authenticity) que permite a los atacantes falsificar metadatos de autenticidad y tiempo. El problema radica en la función de 'exclusiones' del estándar, que permite
Una cámara de código abierto que demuestra criptográficamente que una fotografía fue capturada por un sensor y no generada por inteligencia artificial. El proyecto, desarrollado por María Benavente y Alex Hornstein durante una estancia en el Recurse Center, incrusta una firma invisible en los píxele
OpenAI presentó este martes ChatGPT Images 2.5, la nueva versión de su modelo de generación de imágenes que promete mayor detalle visual, edición más precisa y una reducción de hasta el 50% en la latencia de generación respecto a su predecesor, Images 2.0. El anuncio, realizado a través del blog ofi
Anthropic, la empresa desarrolladora del modelo de inteligencia artificial Claude, puso a disposición del público una herramienta gratuita que permite verificar si un archivo fue creado o editado con ayuda de su tecnología. El lanzamiento se inscribe en una creciente tendencia del sector tecnológico
El investigador David Buchanan ha demostrado que las cámaras con certificación C2PA en Android, diseñadas para acreditar criptográficamente la autenticidad de las fotografías frente a los deepfakes, pueden ser falsificadas en dispositivos totalmente parcheados. Su análisis, publicado el 25 de agosto
Un análisis de ingeniería inversa revela que Microsoft Paint y la aplicación Fotos embeben un identificador único (GUID) emitido por un servidor remoto como marca de agua invisible en las imágenes generadas con IA, incluso cuando el modelo de difusión se ejecuta en el propio equipo. El investigador
OpenAI, Anthropic, Google, Meta y Mistral se han sumado al código de transparencia del Reglamento de Inteligencia Artificial de la Unión Europea, en vigor desde el 2 de agosto, que obliga a que los contenidos creados o editados con IA puedan identificarse de forma clara. La adhesión es voluntaria, a
Google permitirá a partir de esta semana que sus usuarios eliminen la marca de agua visible que sus herramientas de inteligencia artificial superimponen sobre imágenes, vídeos y música generados. La medida, anunciada por Josh Woodward, vicepresidente de Google para Gemini y Labs, a través de su cuen
El desarrollador Sam Goedecke describe la metodología de su blog como un ejercicio deliberado de aprendizaje: cada entrada parte de un tema que aún no domina por completo, adopta una postura concreta y se redacta tras investigar lo suficiente para defenderla. Esa estructura, sostiene, actúa como una
Un proyecto de código abierto alojado en GitHub, denominado watermarks-remover, está diseñado para eliminar distintos tipos de marcas de agua presentes en textos y archivos generados por inteligencia artificial. La herramienta opera con caracteres Unicode invisibles, marcas estadísticas en texto y m
Tokenstead es una plataforma que reúne información sobre modelos de inteligencia artificial de pesos abiertos, agentes y el hardware necesario para ejecutarlos localmente, sin depender de proveedores cloud. La página funciona como un rastreador con citas a fuentes, estimaciones de velocidad, compara
Daniel Púa, jefe de seguridad en Magnific, advierte de que la IA generativa ha alcanzado un nivel de realismo que impide distinguir a simple vista una imagen sintética de una real, y sitúa el vídeo en esa misma situación en aproximadamente un año. Tras el lanzamiento de Nano Banana Pro de Google a f
La marca de agua invisible SynthID, desarrollada por Google, se expande a OpenAI, Runway, Nvidia y otros actores mientras se somete a pruebas de robustez en condiciones reales. Google anunció esta primavera en su conferencia I/O que sus herramientas han generado más de 100.000 millones de imágenes y
SEAL (Sealed Evidence Anchored to a Ledger) es un estándar abierto, publicado bajo Apache-2.0, que permite demostrar criptográficamente que un archivo es auténtico: que no ha sido alterado ni un solo byte, que existía en una fecha concreta y que fue emitido por un certificado conocido. El proyecto L
Investigadores de la Escuela Politécnica Federal de Zúrich (ETH Zürich) han desarrollado un sistema de sensor que firma criptográficamente los datos de imagen y sonido directamente en el chip durante la captura, con el objetivo de impedir manipulaciones como los deepfakes. La proliferación de conten
Hany Farid, catedrático de la Universidad de California en Berkeley y una de las mayores autoridades mundiales en detección de vídeos manipulados, ha anunciado que abandona esa línea de trabajo porque la IA generativa ha vuelto indistinguibles los deepfakes de las grabaciones reales. Con 60 años y d
YouTube ha dado un paso significativo hacia la transparencia digital al anunciar que comenzará a etiquetar automáticamente el contenido generado por inteligencia artificial (IA) en su plataforma. La medida, anunciada en un comunicado oficial y detallada en un post de blog, busca resolver la crecient
OpenAI refuerza su sistema de trazabilidad de contenido generado por inteligencia artificial con un enfoque de múltiples capas. La compañía anunció tres medidas fundamentales: cumplimiento del estándar C2PA para facilitar que otras plataformas reconozcan las señales de procedencia, implementación de
