Modelos LocaisMédia importância

Pesquisadores do ISTA espremem o DeepSeek V4.1 Flash para cerca de 1 bit por parâmetro numa versão para código

O laboratório DASLab, do Institute of Science and Technology Austria (ISTA), publicou uma versão “Coder” do DeepSeek-V4.1-Flash-1017 em GGUF, o formato usado por llama.cpp e LM Studio. Eles cortaram metade dos especialistas (ficaram 192 de 384 por camada) e comprimiram o resto com dois métodos próprios, GSQ e RCO; os pesos do transformer caíram para 72,1 GB, contra 138,2 GB da versão sem corte, o que dá cerca de 1 bit por parâmetro do modelo original. Segundo os autores, o modelo mantém 98,7% da nota do original no LiveCodeBench v6 (88,57 contra 89,71) e 94,8% no SWE-bench Verified (77,00 contra 81,20). Um arquivo compartilhado de 110,6 GB (Engram) continua necessário.