ModelosImportancia alta
Actualización: Thinking Machines cumple su promesa y libera los pesos de Inkling 2 Small en Hugging Face, con licencia Apache 2.0
Thinking Machines Lab actualizó el 12/11 el anuncio de Inkling 2 Small, lanzado el 5/11 solo en Tinker, con pesos cerrados: los pesos ya se pueden descargar en Hugging Face, bajo licencia Apache 2.0, como la empresa había prometido para después de pruebas externas de seguridad y de red-teaming. La ficha técnica publicada junto informa un contexto de hasta 1 millón de tokens y dos formatos: el principal, en NVFP4, la precisión en la que se entrenó el modelo, requiere al menos 500 GB de memoria de GPU sumada (por ejemplo, dos B300 o cuatro H200); el MXFP8 requiere 800 GB, con una ganancia de solo 1 a 2 puntos porcentuales en las evaluaciones, según la empresa. El modelo ya funciona con SGLang, vLLM, TokenSpeed y Unsloth, puede ajustarse con Miles, SkyRL y Snowflake Cortex Training y está en la API de NVIDIA, Fireworks, Together, Baseten, Nebius, Modal y Cloudflare.
Publicado en la edición n.º 28 de Noticiário do Joãozinho ·
Traducido por Joãozinho AI de la edición original en portugués de Brasil. Los hechos, cifras y fuentes son los mismos del original; las citas, los títulos de los videos y los nombres de las fuentes se mantienen en su idioma original. Leer el original en portugués
Fuente original
Hugging Face (Thinking Machines Lab)Thinking Machines: anuncio con la actualización del 12/11
https://huggingface.co/thinkingmachines/Inkling-2-Small