¿Obliga la UE a los proveedores de IA a incluir marcas de agua?

La normativa europea sí impone obligaciones de transparencia a los proveedores de sistemas de IA generativa, pero eso no significa que obligue a todos ellos a introducir una marca de agua estadística, invisible y persistente dentro del texto generado. Y esa diferencia es fundamental para entender correctamente qué exige la ley y qué forma parte de una decisión de implementación.

El artículo 50.2 de la Ley de IA se refiere a los sistemas de IA que generan contenido sintético en forma de audio, imagen, vídeo o texto.

En términos generales, establece que los proveedores deben garantizar que esos contenidos estén marcados en un formato legible por máquina y sean detectables como generados o manipulados artificialmente. Además, la norma indica que las soluciones técnicas utilizadas deben ser eficaces, interoperables, robustas y fiables en la medida en que sea técnicamente posible, teniendo en cuenta las particularidades de cada tipo de contenido, las limitaciones técnicas, los costes de implementación y el estado de la técnica. Ese es, en esencia, el núcleo de la obligación regulatoria.

Ahora bien, el artículo 50.2 no dice que la única forma válida de cumplir esa obligación sea mediante una marca de agua estadística incrustada directamente en el texto. Tampoco exige expresamente que esa marca sobreviva a un copiar y pegar, que permanezca detectable después de pequeñas modificaciones, que viaje de forma permanente con el texto o que todos los proveedores adopten exactamente la misma arquitectura técnica. Mucho menos establece que todas las empresas deban aplicar una determinada solución de forma idéntica en todo el mundo. La ley define un resultado que debe alcanzarse, pero no prescribe una única tecnología universal para conseguirlo.

Ese es precisamente el matiz que se está perdiendo en buena parte del debate. Hay una diferencia enorme entre afirmar que “el contenido generado mediante IA debe estar marcado de forma legible por máquina y ser detectable” y sostener que “cada párrafo generado debe contener una marca de agua estadística invisible que sobreviva cuando el usuario lo copia, lo pega o lo modifica ligeramente”. La primera afirmación refleja la obligación regulatoria; la segunda describe una posible implementación técnica. Confundir ambas cosas conduce directamente a interpretar como mandato legal lo que puede ser, en realidad, una decisión concreta de ingeniería o de producto.

En regulación tecnológica esto es bastante habitual. El legislador define una obligación, un estándar o un resultado que debe alcanzarse, pero deja cierto margen a los operadores para decidir cómo implementarlo técnicamente. Un proveedor podría recurrir a metadatos, otro a credenciales de procedencia, otro a señales asociadas al contenido y otro a mecanismos introducidos durante el propio proceso de generación. También sería posible combinar varias técnicas, siempre que el resultado final cumpla con los requisitos aplicables y pueda defenderse ante el regulador.

Por tanto, la cuestión no es si existe una única tecnología correcta, sino si la solución elegida cumple efectivamente el estándar legal. Que una implementación concreta sea suficiente dependerá de sus características técnicas, de su robustez y de cómo se interprete y aplique la normativa en la práctica. Eso puede evolucionar con el tiempo a medida que aparezcan estándares técnicos y criterios regulatorios más específicos. Pero, a día de hoy, del texto del artículo 50.2 no se desprende que exista una única arquitectura obligatoria de watermarking para todos los proveedores.

El Código de Buenas Prácticas tampoco cambia esta distinción

Otro de los puntos que genera confusión es el Código de Buenas Prácticas. Este tipo de marcos puede ayudar a los proveedores a demostrar que están cumpliendo determinadas obligaciones y puede impulsar cierta convergencia técnica dentro de la industria. Sin embargo, adherirse a un código no convierte automáticamente cada una de sus recomendaciones en una obligación literal contenida en el Reglamento. Hay que distinguir entre la norma jurídica y los mecanismos voluntarios o complementarios que una empresa puede utilizar para facilitar su cumplimiento.

Una empresa que no se adhiera a un determinado Código de Buenas Prácticas no queda por ello exenta de la Ley de IA. Sigue teniendo que cumplir todas las obligaciones que le correspondan, pero puede hacerlo mediante otras vías y deberá ser capaz de demostrar que su solución satisface el estándar regulatorio exigido. Lo que cambia no es la obligación de fondo, sino la forma de acreditar su cumplimiento. Y esto vuelve a llevarnos al mismo punto: una cosa es lo que exige la legislación y otra distinta el camino técnico que cada proveedor decide seguir para cumplirla.

Si Anthropic decide implementar un mecanismo de watermarking a nivel de modelo, introduciendo señales en el propio proceso de generación del texto, esa es una decisión técnica y comercial perfectamente válida. Una solución de este tipo puede tener ventajas importantes desde el punto de vista de la trazabilidad, la persistencia de la señal o la detección posterior del contenido como generado mediante IA. También puede facilitar la demostración de cumplimiento frente a un regulador o reducir el riesgo de que una marca desaparezca al mover el contenido entre plataformas. Pero ninguna de esas ventajas convierte automáticamente esa arquitectura concreta en una exigencia literal del artículo 50.2.

Aquí vuelve a ser esencial separar dos conceptos. Por un lado está lo que exige la ley; por otro, la solución que una empresa considera más adecuada para cumplirla, anticiparse a futuras interpretaciones o incluso ir más allá de lo estrictamente necesario. Una compañía puede decidir adoptar una implementación especialmente robusta por razones regulatorias, reputacionales, comerciales o técnicas. Eso no significa que todos sus competidores estén jurídicamente obligados a reproducir exactamente el mismo enfoque.

¿Y qué pasa entonces con xAI y Grok?

El mismo razonamiento se aplica a cualquier otro proveedor, incluido xAI. La pregunta relevante no es si Grok tendrá que implementar exactamente la misma marca de agua que Claude, sino si xAI tendrá que cumplir las obligaciones de transparencia y marcado legible por máquina que le resulten aplicables conforme a la Ley de IA europea. Son dos cuestiones diferentes y conviene no mezclarlas. La obligación regulatoria puede ser común mientras que la implementación técnica sea completamente distinta.

Un proveedor puede potencialmente cumplir esas obligaciones mediante una arquitectura diferente, siempre que el resultado final satisfaga los requisitos legales. Algunas soluciones pueden ser más persistentes y otras mucho más fáciles de eliminar por parte del usuario final. Un sistema basado fundamentalmente en metadatos, por ejemplo, puede comportarse de forma muy distinta a una señal incrustada directamente en el proceso de generación del texto. Desde el punto de vista técnico y regulatorio, ambas aproximaciones tienen ventajas, limitaciones y grados de robustez diferentes.

Es perfectamente posible que los reguladores prefieran soluciones más resistentes a la manipulación, más interoperables o más difíciles de eliminar. Esa preferencia puede influir en futuras normas técnicas, guías regulatorias, estándares o interpretaciones sobre qué se considera una solución suficientemente robusta. Pero una preferencia regulatoria no es lo mismo que una obligación que aparezca expresamente en el texto legal. Y esa diferencia importa mucho cuando alguien afirma que una empresa concreta “tendrá que hacer exactamente lo mismo” que otra.

Por eso, decir que “Grok acabará teniendo que hacer exactamente lo mismo que Claude porque la Unión Europea obliga a ello” va más allá de lo que realmente establece el artículo 50.2. Lo que sí puede afirmarse es que los proveedores sujetos a la Ley de IA tendrán que cumplir las obligaciones de transparencia que les correspondan y utilizar mecanismos técnicamente adecuados para que el contenido pueda ser identificado como generado o manipulado mediante IA. A partir de ahí, las soluciones concretas pueden variar de un proveedor a otro. La legislación exige cumplimiento, no necesariamente uniformidad tecnológica.

En resumen

La Ley de IA de la Unión Europea sí exige que determinados contenidos generados mediante IA estén marcados en un formato legible por máquina y puedan ser detectados como generados o manipulados artificialmente. Sin embargo, el artículo 50.2 no establece que todos los proveedores tengan que utilizar una marca de agua estadística invisible incrustada directamente en el texto. Tampoco dice expresamente que esa señal tenga que sobrevivir a un copiar y pegar, a pequeñas modificaciones o a cualquier otra transformación posterior realizada por el usuario. Y no obliga a todos los proveedores a implementar exactamente la misma solución técnica.

La diferencia es sencilla, pero importante: Europa exige un resultado regulatorio, no una única arquitectura técnica para conseguirlo. Cada proveedor puede optar por mecanismos diferentes siempre que satisfaga las obligaciones aplicables y pueda demostrar adecuadamente su cumplimiento. Algunas empresas preferirán soluciones más robustas y persistentes; otras podrían optar por mecanismos diferentes que cumplan igualmente con el estándar exigido. El debate real debería centrarse en si una determinada solución cumple la norma, no en asumir que todas las empresas están obligadas a copiar la implementación técnica elegida por uno de sus competidores.

Por tanto, si una compañía decide introducir un sistema de watermarking especialmente persistente dentro del propio proceso de generación, puede hacerlo y puede tener muy buenas razones para ello. Puede incluso decidir ir más allá de lo estrictamente exigido para reducir riesgos regulatorios, anticiparse a futuros estándares o facilitar la trazabilidad del contenido generado. Pero esa sigue siendo una decisión técnica de implementación destinada a cumplir —o superar— una obligación regulatoria. No es, por sí misma, la obligación literal que establece el Reglamento.

¿Quieres saber más sobre las soluciones de inteligencia artificial generativa de Microsoft? Yo te asesoro. ¿Por qué no me preguntas cómo puedo ayudarte?

Información basada en el artículo 50 sobre «Obligaciones de transparencia para proveedores e implantadores de determinados sistemas de IA» – apartado 2.