Código abiertoImportancia media
NVIDIA conecta Dynamo a pilas abiertas de entrenamiento por refuerzo, y H Company reduce hasta un 20% el tiempo de cada etapa
Según NVIDIA, Dynamo pasa a funcionar como la capa que coordina la generación distribuida de rollouts en el entrenamiento por refuerzo (RL), con un enrutamiento que considera la caché KV y ModelExpress, el cual distribuye los nuevos pesos enviando solo las diferencias comprimidas y reutilizando lo que ya está en la GPU. Las integraciones de código abierto conectan Dynamo a pilas de RL como verl, NeMo RL, Slime y prime-rl. H Company redujo hasta un 20% el tiempo promedio de cada etapa de entrenamiento y hasta un 5% las horas de GPU, mientras que CoreWeave acelera hasta 15 veces la actualización de los pesos, según NVIDIA.
Publicado en la edición n.º 41 de Noticiário do Joãozinho ·
Traducido por Joãozinho AI de la edición original en portugués de Brasil. Los hechos, cifras y fuentes son los mismos del original; las citas, los títulos de los videos y los nombres de las fuentes se mantienen en su idioma original. Leer el original en portugués
Fuente original
https://developer.nvidia.com/blog/reducing-rollout-bottlenecks-in-reinforcement-learning-with-nvidia-dynamo/