OpenAI marca las imágenes de ChatGPT como generadas por IA
Las imágenes generadas en ChatGPT y su API incluyen ahora metadatos según las especificaciones C2PA.
Esto permite que cualquiera (incluidas las plataformas sociales y los distribuidores de contenidos) pueda ver que una imagen ha sido generada por inteligencia artificial.
Este movimiento de OpenAI parece la respuesta a SynthID de Google. SynthID es un sistema de marca de agua que se incluye, en todas las imágenes generadas por el sistema Google Image FX (accesible desde la nueva versión de Bard), y en todos los sonidos generados por Google Music FX.
O también una respuesta a Content Credentials apoyado por empresas como Adobe, Microsoft, Leica, Nikon o Truepic. El icono tiene las iniciales CR, de ‘Content Credentials’. Es un sencillo logo en blanco y negro con las dos letras en minúscula que será habitualmente añadido en la esquina superior derecha de las imágenes que hayan sido creadas con inteligencia artificial.
Marcado imágenes con C2PA
¿Qué es la norma C2PA y qué permite?
C2PA es una norma técnica abierta que permite a editores, empresas y otros incluir metadatos en los medios para verificar su origen e información relacionada. C2PA no es sólo para las imágenes generadas por IA: el mismo estándar también está siendo adoptado por fabricantes de cámaras, organizaciones de noticias y otros para certificar la fuente y la historia (o procedencia) del contenido multimedia.
¿En qué consiste la implementación de C2PA por parte de OpenAI?
Las imágenes generadas con ChatGPT en su web y API que sirve al modelo DALL-E 3, incluyen desde el 1 de febrero metadatos C2PA. Este cambio también se aplicará a todos los usuarios de móviles antes del 12 de febrero. Los usuarios pueden utilizar sitios como Content Credentials Verify para comprobar si una imagen ha sido generada por el modelo DALL-E 3 subyacente a través de las herramientas de OpenAI. Esto debería indicar que la imagen se generó a través de la API o ChatGPT, a menos que se hayan eliminado los metadatos.
Los metadatos como C2PA no son una solución milagrosa para resolver los problemas de procedencia. Pueden eliminarse fácilmente de forma accidental o intencionada. Por ejemplo, la mayoría de las plataformas de redes sociales actuales eliminan los metadatos de las imágenes subidas, y acciones como hacer una captura de pantalla también pueden eliminarlos. Por lo tanto, una imagen que carezca de estos metadatos puede o no haber sido generada con ChatGPT o su API.
Creemos que adoptar estos métodos para establecer la procedencia y animar a los usuarios a reconocer estas señales es clave para aumentar la fiabilidad de la información digital.
¿El texto o la voz generados por ChatGPT o la API de OpenAI contienen metadatos C2PA?
Actualmente, sólo las imágenes generadas con ChatGPT o la API que sirve al modelo DALL-E 3 contendrán los metadatos C2PA.
¿Cómo afecta C2PA al tamaño del archivo?
A continuación se muestran algunos ejemplos ilustrativos de cómo podrían cambiar los tamaños de las imágenes con la adición de estos datos:
- 3,1MB → 3,2MB para PNG a través de API (aumento del 3%).
- 287k → 302k para WebP a través de API (aumento del 5%)
- 287k → 381k para WebP a través de ChatGPT (aumento del 32%).
SynthID: La propuesta de marcado de Google
SynthID utiliza dos modelos de aprendizaje profundo: uno para la marca de agua y otro para la identificación:
- Marca de agua: SynthID utiliza una tecnología de marca de agua incrustada que añade una marca de agua digital directamente en el contenido generado por IA. El modelo combinado se optimiza para mejorar la imperceptibilidad alineando la marca de agua con el contenido original.
- Identificación: SynthID puede escanear la imagen o el audio en busca de su marca de agua digital y ayudar a los usuarios a evaluar si el contenido, o parte de él, se generó utilizando nuestros modelos de IA.
SynthID añade una marca de agua digital directamente en los píxeles de las imágenes generadas por IA, haciéndola imperceptible para el ojo humano.
SynthID se ha diseñado de modo que no comprometa la calidad de la imagen y permita que la marca de agua siga siendo detectable, incluso después de modificaciones como añadir filtros, cambiar colores y guardar con diversos esquemas de compresión con pérdida, los más utilizados para JPEG.
SynthID puede escanear la imagen en busca de una marca de agua digital y ofrece tres niveles de confianza para interpretar los resultados de la identificación. Si se detecta una marca de agua digital, es probable que parte de la imagen haya sido generada por Imagen.
Este post está basado en la publicación C2PA in DALL·E 3 de OpenAI, SynthID de Google y la web Content Credentials Verify para comprobación de metadatos de IA.
