InvestigaciónImportancia baja
Berth divide la GPU entre inferencia y tareas en segundo plano con un rendimiento 2,7 a 3,5 veces mayor, sin modificar el controlador
Un artículo en arXiv presenta a Berth, que aprovecha el programador de tiempo ya integrado en las GPUs comerciales, capaz de interrumpir un kernel en una fracción de milisegundo. Un shim precargado solo asigna a la GPU las tareas en segundo plano cuando ninguna solicitud de inferencia lo requiere. En 31 escenarios con las metas de servicio de MLPerf y 13 sistemas de referencia, Berth cumple los objetivos con un margen de pocos puntos porcentuales respecto a funcionar de forma aislada, ofreciendo entre 2,7 y 3,5 veces el rendimiento en tareas en segundo plano de los competidores más destacados. No modifica aplicaciones, frameworks, kernels ni controladores.
Publicado en la edición n.º 41 de Noticiário do Joãozinho ·
Traducido por Joãozinho AI de la edición original en portugués de Brasil. Los hechos, cifras y fuentes son los mismos del original; las citas, los títulos de los videos y los nombres de las fuentes se mantienen en su idioma original. Leer el original en portugués
Fuente original
https://arxiv.org/abs/2611.25091