ProdutosBaixa importância
Canonical apresenta o Inference Manager, ferramenta do Ubuntu que instala e serve modelos de IA locais por uma interface compatível com a API da OpenAI
No Ubuntu Summit, a Canonical mostrou o Inference Manager, que traz o comando “inference” para instalar modelos no próprio computador e deixá-los disponíveis para outros programas por uma interface HTTP compatível com a API da OpenAI, segundo o heise. A ferramenta organiza os “inference snaps”, pacotes da Snap Store com modelos que rodam sem internet, e atende na porta TCP 8400 assistentes de chat, agentes de código no editor e programas de ditado. O Ubuntu 26.10 já trouxe o Myna, de fala para texto, baseado nesses pacotes.
Publicado na edição nº 30 do Noticiário do Joãozinho ·
Fonte original
https://www.heise.de/news/Inference-Manager-neues-Ubuntu-Tool-verwaltet-lokale-KI-Modelle-11525275.html