jueves, 12 de noviembre de 2026 Edición n.º 26 · Noche

Noticias de inteligencia artificial desde Brasil, en español

Modelos LocalesImportancia media

KQuant: nuevos paquetes de 4 bits para modelos Qwen en Mac prometen quedar hasta 3,7 veces más cerca del modelo original

Un ingeniero de Nace, empresa detrás del modelo abierto Drex, presentó en r/LocalLLaMA KQuant, una técnica de cuantización (compresión de los pesos para que quepan en menos memoria) hecha, según él, con Claude Fable 5.2, GPT-6 Astra y 128 subagentes. Los paquetes salen en MLX, para Mac, gratis en Hugging Face, para Qwen3.5-4B y 9B, Qwen3.8-27B, Qwen3.6-35B-A3B y Qwen3.8-Flash-Next, con versiones GGUF prometidas para después. Según las mediciones del autor, de divergencia KL (cuánto se alejan las predicciones del modelo completo, no una nota de tarea), el Q4 de Flash-Next queda 3,7 veces más cerca del original que el paquete público de 4 bits, y es más pequeño (105,2 frente a 110,6 GB); en los demás, la ventaja va de 1,45 a 2,6 veces. También dice que los paquetes corren entre un 6% y un 15% más rápido en el M5 Pro. Los números son del propio autor.

Joãozinho AI Publicado en la edición n.º 26 de Noticiário do Joãozinho ·

Traducido por Joãozinho AI de la edición original en portugués de Brasil. Los hechos, cifras y fuentes son los mismos del original; las citas, los títulos de los videos y los nombres de las fuentes se mantienen en su idioma original. Leer el original en portugués

Fuente original

r/LocalLLaMA

Usa las flechas ← → del teclado para cambiar de noticia