Europa y China pueden hacer más segura la inteligencia artificial

(Foto: VCG)

Por Sergio Parra

El pasado 14 de septiembre, China publicó una nueva versión de su marco para la gobernanza de la seguridad de la inteligencia artificial. El documento actualiza las categorías de riesgo y las medidas destinadas a afrontarlas. Para quienes seguimos desde Europa el desarrollo científico y tecnológico, la noticia merece atención por algo que va más allá de sus detalles técnicos: ofrece una oportunidad para transformar una preocupación compartida en una agenda de cooperación.

En la misma dirección, el portavoz del Ministerio de Exteriores chino, Guo Jiakun, ha defendido la necesidad de conceder igual importancia al desarrollo y a la seguridad de la IA, prevenir la pérdida de control y fortalecer la gobernanza internacional con Naciones Unidas como cauce principal. La propuesta reúne dos aspiraciones que a veces se presentan como si hubiera que elegir entre ellas: queremos aprovechar las posibilidades de la inteligencia artificial y, al mismo tiempo, conservar la capacidad de decidir cómo se utiliza. No parece una ambición extravagante. Al fin y al cabo, solemos exigir algo parecido a casi todas las tecnologías importantes.

Desde Europa convendría prestar atención a ese terreno común. Nuestra propia experiencia de coordinación entre países con lenguas, intereses y tradiciones diferentes nos ha enseñado que cooperar rara vez consiste en estar de acuerdo en todo. Consiste, más bien, en identificar aquello en lo que sí podemos avanzar juntos y construir procedimientos que sobrevivan a las discrepancias. La seguridad de la inteligencia artificial es uno de esos ámbitos en los que la experiencia europea podría encontrar una aplicación concreta en colaboración con China.

Hay además una razón práctica para hacerlo: los incentivos. La competición tecnológica puede empujar a actores perfectamente razonables hacia un resultado que ninguno desea. Una empresa reduce el tiempo dedicado a las pruebas porque teme que otra lance antes su producto. Un Gobierno puede interpretar la cautela de otro como una concesión estratégica. Y así, poco a poco, llegar primero corre el riesgo de convertirse en el criterio dominante.

El problema es que una carrera de este tipo puede acabar pareciéndose a una curiosa subasta en la que gana quien ofrece menos comprobaciones. Alguien obtiene el contrato, desde luego, pero si después algo falla, la factura puede terminar sobre la mesa de personas que ni siquiera sabían que había una subasta.

Por eso no basta con pedir responsabilidad individual cuando el entorno penaliza precisamente a quien intenta ejercerla. Un investigador puede detectar un problema y descubrir que comunicarlo retrasa su proyecto mientras sus competidores continúan avanzando. Una gobernanza eficaz debería conseguir justo lo contrario: que advertir de un riesgo sea reconocido como una contribución al progreso, no como un obstáculo para él. La insistencia china en vincular desarrollo, seguridad y cooperación internacional ofrece un punto de partida útil para discutir cómo conseguirlo.

También debemos prestar atención a algo menos evidente, que es lo que sucede cuando varios sistemas empiezan a interactuar. Un micrófono puede funcionar perfectamente. Un altavoz también. Ambos pueden haber superado todas las pruebas imaginables. Pero basta con conectarlos y acercarlos demasiado para producir ese chillido insoportable que todos hemos escuchado alguna vez en una conferencia, normalmente justo cuando alguien se dispone a decir algo importante.

Ninguno de los dos aparatos está averiado. El problema aparece en la relación entre ambos: el micrófono recoge el sonido del altavoz, vuelve a amplificarlo y pone en marcha un bucle que crece por sí solo.

Con la inteligencia artificial podrían surgir fenómenos comparables, aunque mucho menos ruidosos al principio. Imaginemos numerosos asistentes automáticos gestionando compras, inventarios, logística o precios. Cada uno puede estar funcionando correctamente según sus propios objetivos y, sin embargo, reaccionar a las decisiones de los demás de una manera que amplifique un pequeño error inicial. Cuando los sistemas se vuelven complejos, ya no basta con estudiar las piezas: hay que estudiar también las relaciones entre ellas.

Por eso resulta difícil imaginar una seguridad duradera basada exclusivamente en evaluaciones realizadas de manera aislada dentro de cada empresa o de cada país. Los sistemas digitales cruzan fronteras con bastante más facilidad que las personas, las mercancías y, desde luego, los comités encargados de regularlos. Europa y China podrían comenzar con algo muy concreto: comparar cómo evalúan un mismo tipo de riesgo. Someter sistemas semejantes a metodologías diferentes permitiría descubrir qué detecta cada enfoque y, quizá más importante, qué se le escapa. También podrían establecer canales protegidos para comunicar incidentes y acordar qué información resulta útil compartir sin comprometer datos personales, propiedad intelectual o secretos comerciales.

Son medidas modestas, pero esa puede ser precisamente su virtud. En un terreno rodeado de grandes declaraciones sobre el futuro de la humanidad, a veces resulta saludable empezar por algo que pueda medirse de forma fácil o inequívoca.

Esta cooperación debería incorporar además a investigadores, empresas, profesionales y usuarios procedentes de contextos distintos. Quien diseña una aplicación médica desde un laboratorio no necesariamente percibe los mismos problemas que quien la utiliza cada mañana en un hospital. Tampoco son idénticas las necesidades de un gran centro urbano y las de una clínica rural. Cada uno observa una parte del sistema.

La diversidad, entendida de esta manera, no es únicamente una cuestión de representación. Es una fuente de información. Nos permite descubrir errores que pueden resultar invisibles desde una sola perspectiva. El pensamiento crítico consiste también en organizar esas perspectivas para que nuestras decisiones puedan ser revisadas cuando aparezcan nuevos datos.

El respaldo chino a la cooperación multilateral abre además la posibilidad de ampliar esta conversación. Los países con menos recursos técnicos para evaluar sistemas avanzados de inteligencia artificial también necesitan participar. De poco serviría construir mecanismos de seguridad sofisticados si solo pudieran utilizarlos quienes disponen ya de los mayores laboratorios y presupuestos.

Una iniciativa conjunta de Europa y China tendría, por tanto, mayor alcance si incluyera programas para formar evaluadores y compartir herramientas de comprobación con terceros países. La seguridad global dependerá en parte de que la capacidad para detectar problemas avance al mismo ritmo que la propia tecnología. De otro modo corremos el riesgo de repartir automóviles por todo el planeta y descubrir después que solo unos pocos países disponen de mecánicos.

El siguiente paso consiste en traducir los principios en prácticas que puedan ponerse a prueba. Comparar resultados, reconocer las limitaciones de cada método y revisar las decisiones cuando aparezcan nuevas evidencias puede construir confianza de una manera particularmente sólida: trabajando juntos sobre problemas concretos.

Europa y China tienen una oportunidad para dar contenido a esa cooperación. Un buen comienzo sería conseguir que un fallo descubierto en un laboratorio chino permitiera proteger antes a un usuario europeo, y que una evaluación realizada en Europa ayudara a mejorar una aplicación desarrollada en China.

Porque el progreso tecnológico no consiste únicamente en conseguir que una máquina haga mañana algo que ayer parecía imposible. También consiste en lograr que un conocimiento obtenido en un lugar permita evitar un problema en otro.

Y quizá una de las mejores pruebas de que la inteligencia artificial está realmente avanzando sea precisamente esa: que nosotros aprendamos a avanzar con ella sin renunciar a la prudencia.

Sergio Parra es escritor y divulgador científico español. Las opiniones expresadas en este artículo son las del autor y no reflejan necesariamente las posiciones del Diario del Pueblo digital.