Modelos LocalesImportancia media

Investigadores del ISTA comprimen DeepSeek V4.1 Flash a cerca de 1 bit por parámetro en una versión para código

El laboratorio DASLab del Institute of Science and Technology Austria (ISTA) publicó una versión “Coder” de DeepSeek-V4.1-Flash-1017 en GGUF, el formato que usan llama.cpp y LM Studio. Recortaron la mitad de los expertos (quedaron 192 de 384 por capa) y comprimieron el resto con dos métodos propios, GSQ y RCO; los pesos del transformer bajaron a 72,1 GB, frente a 138,2 GB de la versión sin recorte, lo que equivale a cerca de 1 bit por parámetro del modelo original. Según los autores, el modelo mantiene el 98,7% de la nota del original en LiveCodeBench v6 (88,57 frente a 89,71) y el 94,8% en SWE-bench Verified (77,00 frente a 81,20). Sigue siendo necesario un archivo compartido de 110,6 GB (Engram).