Zhipu AI intensifica sus esfuerzos en materia de privacidad de datos

La startup china de inteligencia artificial Zhipu AI —conocida como Z.ai en los mercados internacionales— introducirá una opción de "no retención de datos" en su plataforma de modelos como servicio; esta medida representa una de las políticas de privacidad de datos más estrictas ofrecidas por un importante proveedor chino de grandes modelos de lenguaje.

Según esta nueva modalidad de servicio, los datos de entrada enviados por empresas y desarrolladores a los modelos de Zhipu, así como las respuestas generadas por dichos modelos, no se almacenarán una vez procesada la solicitud, informó la compañía con sede en Beijing.

Las empresas nacionales de IA compiten cada vez más no solo en cuanto a la inteligencia de sus modelos y el precio, sino también en la confianza que generan en los clientes respecto al manejo de información sensible. A medida que la IA generativa trasciende el ámbito de los chatbots para consumidores y se integra en bancos, fábricas y empresas tecnológicas, se exige a los modelos procesar contratos, información de clientes, informes internos, código fuente y otros materiales de carácter confidencial o propietario.

Por ello, cuestiones como si dicha información se almacena, se reutiliza para entrenar modelos o corre el riesgo de filtrarse y quedar expuesta se han convertido en factores decisivos para las empresas que evalúan implementar la IA generativa en sus operaciones.

Para un usuario común de chatbots, el destino de una consulta casual puede ser un aspecto secundario. Sin embargo, para un banco que procesa datos de clientes o una empresa tecnológica que introduce código fuente propietario en un asistente de programación basado en IA, la política de retención de datos puede determinar si se permite o no el uso de dicha herramienta dentro de la organización.

Xiao Rongmei, subdirectora del Instituto de Investigación de Políticas y Economía de la Academia China de Tecnología de la Información y las Comunicaciones, advirtió anteriormente que la información introducida en sistemas de IA generativa puede contener datos personales y secretos comerciales.

Si dicha información se utiliza posteriormente para entrenar modelos y se reproduce en el contenido generado, podrían surgir riesgos de filtración de datos, señaló Xiao, lo que convierte la protección de las entradas de los usuarios y de los registros de uso en un elemento clave de la gobernanza de la IA.

China ha exigido a los proveedores de servicios de IA generativa que protejan la información introducida por los usuarios y los registros de uso, así como que cumplan con las normativas que regulan el tratamiento de datos personales.

Yu Xiaohui, presidente de la citada academia, afirmó en otra conferencia que la gobernanza de la IA y la competitividad industrial están cada vez más interconectadas; una gobernanza más sólida contribuye a facilitar la adopción de estas tecnologías en sectores de alto valor, como las finanzas y la industria manufacturera.