FinançasAlta importância

Revolut corta ~90% o custo de inferência de coding com GLM-5.3 self-hosted em 56×B200

No AI Engineer NY, David Abitbol (ops/infra da Revolut) descreveu o pivot: ~2.000 engenheiros, coding time +60% e lead time +70% após o rollout de coding AI; o default passou a ser GLM self-hosted (de 5.1 para 5.3) em 56 GPUs Nvidia B200. Custo ~US$ 0,30 / milhão de tokens — cerca de 1/10 de Codex/Claude Code — com corte de ~90% na conta de inferência de coding. Stack: NVFP4, prefill/decode desagregado; TTFT sub-3s em ~256k de contexto (Abitbol: “long context is a scam”); ~200 tok/s. Um router manda visão para Gemini/GPT Luna; fronteira comercial fica como exceção.