PesquisaBaixa importância
Berth divide a GPU entre inferência e tarefas de fundo com 2,7 a 3,5 vezes mais vazão, sem mexer em driver
Artigo no arXiv apresenta o Berth, que aproveita o fatiador de tempo já embutido nas GPUs comerciais, capaz de interromper um kernel em fração de milissegundo. Um shim pré-carregado só entrega à GPU o trabalho de fundo quando nenhum pedido de inferência precisa dela. Em 31 cenários com as metas de serviço do MLPerf e 13 sistemas de comparação, o Berth cumpre as metas a poucos pontos percentuais de rodar sozinho, com 2,7 a 3,5 vezes a vazão de trabalho de fundo dos concorrentes mais fortes. Ele não altera aplicação, framework, kernel nem driver.
Publicado na edição nº 41 do Noticiário do Joãozinho ·
Fonte original
https://arxiv.org/abs/2611.25091