EU AI Act: Obligación de marcado de contenido

Desde el 2 de agosto ha entrado en vigor el artículo 50 del Reglamento Europeo de IA, que establece que el contenido que se genere o modifique con IA debe ser marcado y etiquetado de forma que sea detectable por máquinas, en cumplimiento de las obligaciones de transparencia que emanan de ese plexo normativo (artículos 2, 4 y 5).

En virtud de ello, la Comisión y el Comité de IA de la UE elaboraron y pusieron en vigor un código de buenas prácticas de aplicación voluntaria, al que las grandes proveedoras de IA del mercado ya adhieren. Puede descargarlo aquí: https://ec.europa.eu/newsroom/dae/redirection/document/129555

• OpenAI: presentó a principios de mes un marcado de agua para texto llamado textGrain, que en principio se aplicará solo a usuarios de la UE en las próximas semanas. Existe el compromiso de publicar el marcador como código abierto. El detector, por ahora, solo está habilitado para organizaciones autorizadas e investigadores.
• Google: pionera en este segmento, creó SynthID para el marcado de video, audio, imagen y texto, y lo puso a disposición como código abierto. Gemini puede comprobar con una simple consulta si un contenido fue generado por el ecosistema de Google.
• Anthropic: todo lo que Claude genera a nivel mundial queda marcado, pero la detección aún está en vista previa privada. Se puede solicitar acceso mediante el formulario de solicitud de acceso al detector de marcas de agua de Claude: https://forms.gle/9tGA33hPJJwtHsMk9

Complementariamente, la UE dispuso un conjunto de íconos que los responsables del despliegue de sistemas de IA generativa pueden utilizar para etiquetar sus contenidos generados o manipulados por IA. Existen excepciones y limitaciones en algunos casos. Puede acceder a ellos aquí: https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content

¿Cuál es el impacto?

Si una empresa publica texto generado por IA para informar al público sobre temas de interés general, debe mencionarlo, a menos que haya una revisión humana real y alguien asuma la responsabilidad. Las ultrafalsificaciones se marcan siempre, salvo que sean evidentemente satíricas, creativas, ficticias o autorizadas por ley, entre otras excepciones.

Si una empresa implementa un chatbot, debe dejar claro al usuario que funciona con IA; de lo contrario, se convierte en una liability y pone en riesgo su reputación.

¿Dónde se complica?

El marcado aún es frágil y presenta tasas de falsos positivos; además, fuera de las propias empresas, nadie puede comprobar fehacientemente si esas marcas funcionan como se supone en todos los casos. La auditoría, y no el marco, es la cuestión (https://arxiv.org/abs/2609.09604).

Por último, cabe recordar que existen sanciones previstas por el incumplimiento de las obligaciones de transparencia:

• Para empresas en general: multas administrativas de hasta 15 millones de euros o el 3 % del volumen de negocios mundial total del ejercicio financiero anterior, aplicándose siempre la cuantía que sea mayor.
• Para pymes y startups: el reglamento contempla reglas de moderación específicas en las que habitualmente se prioriza el menor de los dos importes para mitigar el impacto económico en estructuras pequeñas.
• Para instituciones, agencias u organismos de la Unión Europea: las multas administrativas tienen un límite máximo de 750 000 euros.
• El EU AI Act no se limita a las personas jurídicas (empresas e instituciones): también puede afectar directamente a personas físicas, como autónomos o desarrolladores particulares.

Próximos pasos

• Si tiene un chatbot, compruebe que su primer mensaje informe que es una IA.
• Si lo que publica (noticias, comunicados, informes) fue redactado con IA, deje asentado quién lo revisa y firma. Ello exime del etiquetado.

Como punto de partida para revisar procesos, sin que implique asesoramiento legal, puede ejecutar este prompt sobre su marca o empresa:

Actúa como consultor de cumplimiento del Reglamento Europeo de IA (artículo 50, transparencia). Te describo cómo usamos la IA en mi organización: [DESCRIBE: chatbot de atención al cliente, textos del blog, notas de prensa, imágenes para redes, etc.]. Para cada uso, dime en una tabla: 1) si nos afecta alguna obligación de transparencia y cuál, 2) si aplica alguna excepción (revisión humana con responsabilidad editorial, edición asistida, contenido artístico o satírico), 3) qué cambio concreto tendríamos que hacer y 4) qué duda debería revisar un abogado. Sé concreto y no inventes obligaciones que no estén en el artículo 50.

El rol del Chief AI Officer

Un Chief AI Officer se involucra en este proceso como dueño de la verificación del cumplimiento general, pero no es el responsable de cada pieza publicada. Clasificamos los casos dudosos, comprobamos que el registro esté completo antes de publicar, hacemos muestreos regulares y escalamos a revisión legal cuando es necesario.

La responsabilidad editorial no es del CAIO; sí lo es, eventualmente, un incumplimiento en el control. Desde CAIO International implementamos marcos de trabajo para asegurar este control en su empresa. Contáctenos para una reunión: su organización puede estar en riesgo de incumplimiento.