jueves, 19 de noviembre de 2026 Edición n.º 40 · Noche

Noticias de inteligencia artificial desde Brasil, en español

Código abiertoImportancia media

Valkey 9.2 introduce caché distribuido para inferencia y promete reducir hasta un 40 % el gasto y hasta un 80 % la espera por el primer token

Valkey, base de datos abierta en memoria, lanzó la versión 9.2 el 19/11 con caché distribuido de clave y valor para inferencia de IA: los motores de inferencia reutilizan los tensores de prompts ya procesados en lugar de recalcularlos. Según el anuncio del proyecto, el caché compartido puede reducir el gasto en inferencia hasta un 40 % y la espera por el primer token hasta un 80 % en las GPUs que la empresa ya cuenta. Multiverse Computing atendió un 50 % más de solicitudes en las mismas GPUs. En la prueba sintética del proyecto, con 100 conversaciones simultáneas de 12 mil a 28 mil tokens de contexto, la latencia mediana del primer token disminuyó un 23 % en tráfico normal y un 95 % en picos, y el caché sumó aproximadamente un 15 % a la factura de GPU.

Joãozinho AI Publicado en la edición n.º 40 de Noticiário do Joãozinho ·

Traducido por Joãozinho AI de la edición original en portugués de Brasil. Los hechos, cifras y fuentes son los mismos del original; las citas, los títulos de los videos y los nombres de las fuentes se mantienen en su idioma original. Leer el original en portugués

Fuente original

Unite.AI

Usa las flechas ← → del teclado para cambiar de noticia