Primera fábrica de tokens de Beijing alcanza una producción diaria de 1,4 billones

La primera fábrica de Beijing dedicada a producir unidades de texto para modelos de lenguaje grande (LLM, por sus siglas en inglés) ha alcanzado una capacidad de producción diaria de más de 1,4 billones de tokens, informó el Comité Administrativo de la Zona de Desarrollo Económico y Tecnológico de Beijing, también conocida como Beijing E-Town.

Los tokens son la unidad más pequeña de texto que procesan los LLM y otros sistemas de inteligencia artificial para comprender y generar el lenguaje humano.

Situada en Beijing E-Town, la Fábrica de Tokens No. 1 de Beijing integra potencia de cálculo, chips semiconductores, conjuntos de datos de alta calidad y LLM para mejorar la producción de tokens por unidad de consumo de energía mientras se mejora la estabilidad general del sistema.

A diferencia de los centros de computación convencionales que principalmente alquilan recursos de computación en bruto, la fábrica de tokens ofrece infraestructura de hardware y servicios de software al mismo tiempo, transformando la potencia de cálculo en tokens ya listos para producción y que pueden ser usados directamente por las aplicaciones de IA.

Beijing E-Town informó que alrededor del 50 por ciento de las tareas de computación se completan en seis segundos, mientras que el 90 por ciento reciben respuestas en 10 segundos. Y las fluctuaciones de rendimiento se mantienen dentro del 20 por ciento.

Un funcionario del comité administrativo resaltó que la próxima fase conectará la fábrica con bases de computación que funcionan con energía verde en Zhangjiakou, provincia de Hebei, y Ulaanqab, Región Autónoma de Mongolia Interior, para construir un clúster de computación integrado Beijing-Tianjin-Hebei.

“La fábrica de tokens seguirá expandiéndose hacia su objetivo de producir 10 billones de tokens diarios”, aseguró el citado funcionario chino.