Actualización: Meituan libera los pesos de LongCat-2.5, modelo de 1,6 billones de parámetros que, según The Decoder, nunca pasó por una GPU de NVIDIA
Una semana después de presentar LongCat-2.5, el equipo LongCat de Meituan liberó los pesos del modelo. Es una mezcla de expertos con 1,6 billones de parámetros en total y unos 48.000 millones activos por token, hecha para agentes que trabajan solos en tareas largas, sobre todo de código. Por la API, acepta hasta 1 millón de tokens de entrada y genera respuestas de hasta 128.000 tokens, y entiende texto, imagen y video. En el entrenamiento por refuerzo, el equipo usó tareas reales sacadas de pull requests de GitHub, bloqueó internet en los entornos y borró el historial de Git para que el modelo no hiciera trampa. Meituan cuantiza pesos y activaciones de los expertos en 4 bits, formato que los chips chinos procesan de forma nativa; en las pruebas de carga de la empresa, el rendimiento subió un 43,3% en el procesamiento del prompt y un 42,77% en la generación, frente a la versión de 8 bits, con precisión equivalente, según Meituan.
Fuente The Decoder