China avanza en la gobernanza integral del contenido generado por IA

Una exposición de obras de arte generadas por IA se celebra en Jinan, provincia de Shandong, al este de China. (Foto de Xu Zhou/Diario del Pueblo digital)

Por Jin Xin, Diario del Pueblo

Al planificar un viaje, Li abrió instintivamente una aplicación de IA para obtener recomendaciones. Si bien la aplicación generó rápidamente sus sugerencias habituales, una nueva advertencia llamó su atención: "Esta respuesta generada por IA es solo de referencia. Por favor, verifique la información cuidadosamente".

El rápido avance de la IA generativa y las tecnologías de síntesis profunda en los últimos años ha impulsado la expansión económica, diversificado el contenido digital y mejorado la comodidad diaria. Sin embargo, estas innovaciones han facilitado la proliferación de desinformación y han perturbado los ecosistemas digitales.

En respuesta, China emitió recientemente "Medidas para identificar contenido sintético generado por IA", que entrarán en vigor el 1 de septiembre de 2025.

Un portavoz de la Administración del Ciberespacio de China aclaró que las medidas buscan estandarizar el etiquetado del contenido sintético generado por IA. Los mecanismos de divulgación obligatoria permiten a los proveedores de servicios diferenciar el contenido auténtico del sintético, a la vez que aclaran las responsabilidades de los proveedores de servicios en los procesos de creación y difusión de contenido. El marco busca optimizar los protocolos de seguridad mediante soluciones rentables y fomentar el desarrollo sostenible de la industria de la IA.

Tian, ​​usuario de una plataforma de intercambio de conocimientos, se encontró con una reseña cinematográfica que decía: «Este drama presenta una estructura narrativa convincente con un desarrollo multidimensional de personajes. A través de una narrativa episódica, provoca una reflexión crítica sobre problemas sociales contemporáneos...». La publicación mostraba una etiqueta de encabezado que decía «Contenido sospechoso generado por IA» y recibía una priorización algorítmica sustancialmente menor en los canales de recomendaciones.

Un portavoz de la plataforma aclaró que las directrices comunitarias vigentes exigen la divulgación de la creación de contenido asistida por IA. Las publicaciones que no cumplen las normas activan protocolos de detección automática, lo que resulta en un etiquetado obligatorio, una degradación de la visibilidad en los sistemas de clasificación, mecanismos de colapso de contenido o la posible suspensión de cuentas.

Dichos protocolos de gobernanza obtendrán una base legal reforzada en virtud de las medidas para la identificación de contenido sintético generado por IA. La normativa exige que los servicios de distribución de contenido en línea verifiquen si los metadatos de los archivos contienen marcadores de identificación integrados. Al detectar identificadores explícitos o firmas técnicas de síntesis de IA, las plataformas deben aplicar: la clasificación automática como material sospechoso generado por IA; etiquetas de advertencia prominentes adyacentes al contenido; notificación pública a través de descargos de responsabilidad estandarizados.

Jin Bo, subdirector del Tercer Instituto de Investigación del Ministerio de Seguridad Pública, destacó el marco de rendición de cuentas ampliado de la normativa. Disposiciones clave definen ahora explícitamente las obligaciones de las plataformas de distribución de aplicaciones y los proveedores de servicios auxiliares, estableciendo una gobernanza integral del ecosistema que abarca los procesos de creación, modificación y difusión de contenido.

Una innovación fundamental en las medidas de identificación de contenido generado por IA reside en la diferenciación codificada entre sistemas de etiquetado explícito e implícito. La normativa exige que los metadatos asociados con el contenido sintetizado por IA incorporen marcadores de identificación implícitos, que codifican sistemáticamente atributos críticos, como la categoría de clasificación del contenido, la identificación del proveedor de servicios (nombre/código único) y el identificador de serialización del contenido.

Zhang Zhen, ingeniero del Equipo Técnico/Centro de Coordinación de Respuesta a Emergencias de la Red Nacional de Informática de China, explicó: «Como protocolo complementario, la norma técnica de ciberseguridad para la identificación de contenido generado por IA especifica los campos de metadatos necesarios para las etiquetas implícitas. Estos campos están diseñados para registrar información crítica, minimizando al mismo tiempo las interrupciones en el procesamiento y la transmisión de metadatos, lo que garantiza la trazabilidad del contenido generado por IA durante todo su ciclo de vida». Estas regulaciones no sólo mejoran la transparencia y la seguridad en el uso de la IA, sino que también impulsan un entorno que fomenta la innovación y el desarrollo responsable de la IA.

Imágenes generadas por IA se exhiben en una estación de metro de Nanjing, provincia de Jiangsu, este de China. (Foto de Wang Luxian/Diario del Pueblo digital)