Sobre el marcado obligatorio de materiales generados con IA

Hay razones bastante sólidas para cuestionar el diseño de la obligación europea de marcar contenidos generados por IA. Conviene precisar primero que el artículo 50 del Reglamento de IA de la UE no exige simplemente un «marca de agua visible» en todo contenido generado por IA. Su apartado 2 obliga a los proveedores de sistemas generativos a hacer que sus outputs estén marcados en un formato legible por máquina y sean detectables como generados o manipulados artificialmente, mediante soluciones «eficaces, interoperables, sólidas y fiables» en la medida técnicamente posible. Además, existen obligaciones de divulgación perceptible para determinados supuestos, especialmente deepfakes y ciertos textos destinados a informar sobre asuntos de interés público. Estas obligaciones son aplicables desde el 2 de agosto de 2026. Vamos con un breve análisis de los aspectos más controvertidos de la norma:

1. Puede ser técnicamente frágil y dar una falsa sensación de seguridad. Una marca o metadato puede perderse al comprimir, recortar, convertir o volver a procesar un contenido. En texto, el problema es especialmente complejo porque el contenido puede transformarse manteniendo aproximadamente su significado. De hecho, el propio Reglamento reconoce las «particularidades y limitaciones» de los distintos tipos de contenido y condiciona la exigencia de robustez a lo que sea técnicamente viable y al estado de la técnica. No es, por tanto, una tecnología que el propio legislador considere infalible. Véanse el artículo 50.2 y el considerando 133 del Reglamento.
2. Existe una importante asimetría entre actores responsables y actores maliciosos. Las empresas que cumplen la regulación incorporarán los mecanismos de marcado exigidos. Quien quiera producir deliberadamente desinformación, fraude o propaganda tendrá, por el contrario, incentivos para eliminar esas señales, transformar posteriormente el contenido o recurrir a sistemas que no cumplan la normativa. Paradójicamente, el sistema puede acabar identificando con mayor facilidad la IA legítima que aquella cuyo autor tiene un interés específico en ocultar su procedencia.
3. «No tiene marca» puede acabar interpretándose como «es auténtico». Este es uno de los riesgos más interesantes. La ausencia de una marca no demuestra que un contenido sea humano o auténtico. Si los ciudadanos interiorizan la heurística marcado = IA / no marcado = humano, un contenido manipulado al que se haya eliminado la marca podría beneficiarse precisamente del sistema de señalización. Una marca de procedencia puede aportar información sobre cómo se produjo un contenido, pero no certifica su veracidad.
4. Procedencia y veracidad son problemas diferentes. Un texto generado íntegramente por IA puede contener información correcta; un texto escrito íntegramente por una persona puede ser falso. Lo mismo sucede con fotografías y vídeos: un contenido auténtico puede utilizarse de manera descontextualizada para desinformar. El etiquetado de IA informa fundamentalmente sobre procedencia o manipulación, no sobre verdad, calidad o fiabilidad. Existe, por tanto, el riesgo de que el consumidor interprete una señal de procedencia como una señal epistemológica: «generado por IA» = «menos fiable».
5. El problema de la autoría híbrida complica todavía más la clasificación. ¿Qué significa exactamente «generado por IA» cuando una persona escribe un texto y utiliza IA para corregirlo, reformular tres párrafos, traducirlo o modificar una imagen?

6. Introduce costes de cumplimiento y potenciales barreras de entrada. Implementar mecanismos eficaces, interoperables, robustos y verificables implica costes técnicos, organizativos y jurídicos. Para las grandes tecnológicas pueden ser relativamente asumibles; proporcionalmente pueden pesar más sobre startups, desarrolladores pequeños o determinados proyectos open source. Es significativo que el propio artículo 50 obligue a considerar explícitamente los costes de implementación junto con la viabilidad técnica y el estado de la técnica.
7. Puede afectar a la innovación y competitividad europea. Si distribuir modelos generativos en la UE exige obligaciones técnicas que no existen en otras jurisdicciones, aumenta el coste de operar en el mercado europeo. En principio, eso podría generar retrasos en el lanzamiento de productos, menor disponibilidad de determinados servicios o incentivos para desarrollar y experimentar fuera de Europa. Pero aquí conviene ser preciso: que exista un coste regulatorio no demuestra por sí mismo que el efecto neto sobre innovación sea negativo. Es una hipótesis que habría que contrastar empíricamente con los beneficios derivados de una mayor confianza y transparencia.
8. La utilidad depende críticamente de la interoperabilidad. Para que el sistema funcione realmente, las marcas deberían sobrevivir al tránsito entre generadores, editores, redes sociales, plataformas de vídeo, navegadores, sistemas operativos, etc. Una marca que funciona perfectamente en el output original pero desaparece durante el procesamiento posterior tiene una utilidad limitada. Precisamente por ello la Comisión Europea ha desarrollado un Código de Buenas Prácticas sobre Transparencia de Contenidos Generados por IA para facilitar la aplicación de las obligaciones de marcado y etiquetado. La adhesión al código es voluntaria, pero las obligaciones del artículo 50 son legales.

Ahora bien, el argumento contrario también es importante: una tecnología no necesita ser infalible para resultar socialmente útil. Incluso un sistema imperfecto de procedencia puede reducir los costes de identificación a escala, facilitar la moderación automatizada, ayudar en análisis forenses y dificultar determinados usos engañosos. La propia Comisión explica que las obligaciones persiguen afrontar riesgos de engaño y manipulación y reforzar la integridad del ecosistema informativo. Por eso, creo que la cuestión de fondo no es simplemente «watermarks sí o no», sino qué queremos que resuelva exactamente el watermarking. Hay una diferencia fundamental entre regular la procedencia (este contenido ha sido generado o manipulado mediante IA) y regular el riesgo de engaño (este contenido puede inducir razonablemente a una persona a creer algo falso).

Y desde comportamiento del consumidor aparece una cuestión todavía más interesante: ¿qué inferencia hace realmente una persona cuando ve «generado por IA»? Si el regulador pretende comunicar procedencia, pero el consumidor interpreta baja credibilidad, falsedad o manipulación, la etiqueta puede producir efectos conductuales diferentes de los pretendidos.