Open SourceMédia importância
NVIDIA liga o Dynamo a pilhas abertas de treino por reforço, e a H Company corta até 20% do tempo de cada etapa
Segundo a NVIDIA, o Dynamo passa a servir de camada que coordena a geração distribuída de rollouts no treinamento por reforço (RL), com roteamento que leva em conta o cache KV e o ModelExpress, que distribui os pesos novos mandando só as diferenças comprimidas e reaproveitando o que já está na GPU. Integrações de código aberto ligam o Dynamo a pilhas de RL como verl, NeMo RL, Slime e prime-rl. A H Company reduziu em até 20% o tempo médio de cada etapa de treino e em até 5% as horas de GPU, e a CoreWeave acelera em até 15 vezes a atualização dos pesos, segundo a NVIDIA.
Publicado na edição nº 41 do Noticiário do Joãozinho ·
Fonte original
https://developer.nvidia.com/blog/reducing-rollout-bottlenecks-in-reinforcement-learning-with-nvidia-dynamo/