Open SourceMédia importância
Unsloth 0.1.920-beta passa a rodar em NPUs da AMD e treina LoRA de difusão até 42% mais rápido
A versão 0.1.920-beta do Unsloth, ferramenta aberta de ajuste fino de modelos, traz suporte a NPUs da AMD, que segundo o projeto são de 2 a 4 vezes mais eficientes por joule e por token que GPUs. O treino de LoRA para modelos de difusão fica de 20% a 42% mais rápido por etapa quando a GPU tem memória para guardar as ativações, e o treino QLoRA, até 25% mais rápido ao manter os pesos-base já descomprimidos na VRAM livre. No Windows com Strix Halo, o FLUX.3 Klein INT8 roda até 28% mais rápido por etapa, e o Qwen-Image-2.1, até 23%.
Publicado na edição nº 40 do Noticiário do Joãozinho ·
Fonte original
https://github.com/unslothai/unsloth/releases/tag/v0.1.920-beta