La UE ha vuelto a sacar una idea tonta. Ahora toca watermark en el texto de la IA

No me quería ir a dormir sin comentar la noticia de que Anthropic pondría marca de agua en el texto generado por Claude —y no solo en la UE: al parecer, a escala mundial. Filigrana invisible en el texto, metadatos tipo C2PA en los ficheros, y el resto de proveedores “buenos alumnos” irán detrás porque la norma europea ya no es un paper: el artículo 50 del AI Act aplica desde el 2 de agosto de 2026.

La UE ha vuelto a parir una idea tonta y se la impone a los proveedores de IA.

En el papel: transparencia.
En la realidad: débil, contraproducente y, otra vez, una piedra en el camino.

No es un invento mío. Es el mismo diagnóstico que ha corrido estos días (por ejemplo este hilo de Michel Levy Provençal y este de Ben, que va al grano técnico), y cuadra con lo que se ve al usar estas herramientas de verdad. Al menos por siete razones:

1. C2PA no es el problema. El watermark del texto sí #

Hay que separar dos cosas que la noticia mezcla a propósito o por pereza.

En ficheros, C2PA son metadatos firmados, estándar abierto: no tocan el contenido. Firmas, procedencia, autenticidad. Eso es razonable. No me quita el sueño.

En texto, “marca de agua invisible” quiere decir otra cosa: influir en la elección del siguiente token para dejar una cadena estadística detectable. No se pega una etiqueta al margen. Se sesga el generador.

Ahí está el truco y el problema.

2. Trade-off matemático: o distorsiona, o casi no se detecta #

No hay magia. Si el watermark no distorsiona la distribución de tokens, se vuelve muy poco detectable. Para hacerlo robusto, hay que sesgar más fuerte. Tercera vía: no.

Eso no es opinión de barra de bar: es el trade-off de diseño de los esquemas de watermark en LLMs (detectabilidad / robustez / calidad). Más fuerza en la marca → más señal para el detector → peor salida.

Y el terreno peor es la generación de baja entropía: código y matemáticas, donde el siguiente token está casi determinado. Justo donde muchos usamos estos modelos de verdad. Un estudio con juez LLM (WaterJudge) prefiere la salida sin marca en entre el 64 % y el 74 % de los casos —incluso en esquemas vendidos como “sin distorsión”.

Pagamos un tool para que sirva a nuestro objetivo. Si el proveedor mete un sesgo permanente en el muestreo para su agenda (cumplimiento, destilación, branding de “transparencia”), el producto ya no es el mismo.

3. No funciona (como anti-engaño) #

Reformulas dos frases, traduces, recortas, pegas en el CMS, le pides a otro modelo “reescribe esto en otro tono”: el watermark salta.

Los que quieren engañar ya lo saben. El que se dedica a spam, deepfakes o contenido basura no se va a parar porque Anthropic haya firmado el Code of Practice. El Ctrl+C no ha firmado nada.

Si se borra con un parafraseo, no es una marca de agua: es un sello de goma. Y si se refuerza hasta que no se borre, vuelves al punto 2: has degradado el modelo.

4. Castiga a los buenos alumnos #

Anthropic va a jugar limpio. Los proveedores serios con abogados en Bruselas, también. Los actores opacos, el open source sin sello y quien no tenga que vender en la UE se la suda por completo.

Resultado: el contenido “marcado” es el de quien cumple. El contenido sin marca no es “más humano”: es, a menudo, el de quien no está en el circuito del cumplimiento.

Clásico: la norma la pagan los que ya iban por el carril correcto. Y de propina pagan con peor calidad en el producto que sí marcan.

5. Falsos positivos absurdo #

¿Solo le pides a Claude que te revise el mail? ¿Que te traduzca la diapositiva? ¿Que te limpie un párrafo que escribiste tú?

Felicidades: eso puede acabar como “contenido generado por IA”.

La frontera entre asistido y generado la ha resuelto la UE con un martillo. En la práctica diaria —programar, documentar, preparar un curso en Moodle, contestar un cliente— usamos estos modelos como se usa un corrector o un IDE. Marcar todo eso como “sintético” no informa: ensucia la etiqueta hasta que no significa nada.

6. Da falsa seguridad #

Que no haya watermark no quiere decir que sea humano.
Pero es exactamente lo que va a creer mucha gente: “si no está marcado, de fiar”.

Al revés: el texto más limpio de marca puede ser el de un modelo local, uno que no se ha plegado a la norma, o uno pasado por tres reescrituras a propósito. La ausencia de filigrana se convierte en un sello de autenticidad falso.

Queríamos detectar engaño. Vamos a fabricar una nueva forma de confiar mal.

7. La ley no obliga a este método (y es otra carga para Europa) #

El artículo 50(2) sí impone a los proveedores un marcado legible por máquina, texto incluido. Eso no se discute.

Pero el considerando 133 lista metadatos, métodos criptográficos, logging, huellas, watermarks… “u otras técnicas, según proceda”. La ley impone un resultado (que se pueda marcar/detectar de forma fiable e interoperable, en la medida de lo técnicamente factible). No impone tocar el proceso de generación ni sesgar tokens.

Se podía ir por C2PA, firmas, logging, capas de procedencia. Se elige la vía que mete la mano en el muestreo —la más invasiva para el producto— y encima, como ni la Comisión se cree que una sola técnica baste, más checklist, más códigos de conducta, más capas.

Mientras, EE.UU. y China despliegan.

El AI Act se vendió como protección. En este capítulo va a ralentizar a quien cumple, degradar la herramienta y no frenar a quien no quiere. Piedras en el camino: como siempre.

Y de propina: a algunos proveedores el watermark global les puede interesar por motivos que no son “transparencia para el ciudadano” —por ejemplo pillar destilación, cuando otros modelos se entrenan a lo bestia con salidas de los propietarios—. Muy legítimo como defensa industrial. Muy poco que ver con el cuento de la etiqueta para el lector de un blog.

Lo que pedíamos y lo que vamos a tener #

Pedíamos transparencia.
Vamos a tener burocracia, un sesgo invisible en el generador y watermarks que casi nadie sabrá leer… salvo para fastidiar a los que respetan las reglas y para empeorar el código y el texto de quien paga la suscripción.

La parte sensata del artículo 50 —si publicas y firmas con responsabilidad editorial, el que responde eres tú— ya existía de facto: se llama poner el nombre. Metadatos firmados y procedencia, también. El resto —sobre todo el watermark que toca el token siguiente— es teatro técnico para la foto de Bruselas.

Bravo, UE.