The Pulse
Valkey 9.2 adiciona recursos de backup e replicação junto com cache de IA
Valkey 9.2 está disponível de forma geral, com snapshots sem fork, compressão da replicação e um novo tipo de dado para localizar contexto de IA em cache. Um recurso separado de cache distribuído, lançado junto com ele, foi projetado para reutilizar trabalho computado em frotas de GPUs.

Valkey 9.2 está disponível de forma geral, com novos recursos de backup, replicação e estruturas de dados voltados a reduzir as demandas de infraestrutura. Um recurso distribuído de cache de chave-valor de código aberto, lançado junto com ele, permite que mecanismos de inferência de IA reutilizem trabalho computado em frotas de GPUs, informou a Linux Foundation em 19 de novembro.
Fonte linuxfoundation.org
A versão atualiza um banco de dados em memória usado em cargas de trabalho que incluem cache, filas de mensagens e dados em tempo real. O cache que acompanha a versão é destinado a aplicações de IA que processam repetidamente materiais como instruções de prompt, definições de ferramentas e histórico de conversas.
Compartilhamento de contexto de IA computado
A Linux Foundation afirma que o cache distribuído pode reduzir os custos de inferência de IA em até 40% e o tempo até o primeiro token em até 80%. O recurso cria um cache compartilhado em uma frota de GPUs para que os mecanismos de inferência possam reutilizar trabalho computado, em vez de computá-lo novamente.
Desenvolvedores que executam modelos de pesos abertos com inferência autogerenciada podem conectar o cache por meio do LMCache, que se integra a mecanismos de inferência como vLLM e SGLang. Segundo a fundação, a configuração exige uma única alteração de configuração e não requer atualizações no código da aplicação.
A Multiverse Computing, que fornece modelos comprimidos para inferência, afirmou que processou 50% mais solicitações nas mesmas GPUs, dentro de sua meta de um segundo para o tempo mediano até o primeiro token, após adicionar cache distribuído no Valkey. A empresa relatou uma redução de 23% no tempo mediano até o primeiro token em tráfego normal e de 95% no pico de tráfego.
Para encontrar contexto em cache, o Valkey 9.2 adiciona Path Hash, um tipo de dado nativo que funciona como índice. Uma consulta pode encontrar o prefixo correspondente mais longo e a localização dos resultados em cache, enquanto os dados de IA de maior volume permanecem na memória da GPU ou do host.
Path Hash também oferece suporte a usos além da IA, incluindo consultas a dados hierárquicos. A Alibaba Cloud contribuiu com o tipo de dado, segundo a declaração de apoio de Guoyun Zhu, chefe de P&D do Tair na empresa.
Backups sem um processo separado
O Valkey 9.2 também introduz snapshots sem fork, que salvam dados em uma thread em segundo plano, em vez de criar um processo separado. A mudança visa o overhead temporário de memória que os snapshots podem causar em sistemas ocupados.
O recurso é opcional, segundo a publicação de lançamento do projeto. A ativação do recurso acrescenta 4 bytes por chave e precisa ser configurada na inicialização do servidor. Uma política prefer-forkless recorre a um fork quando uma operação não pode ser executada sem ele.
A sincronização completa com réplicas também pode ser executada sem fork, usando um snapshot em thread em segundo plano para sincronizações completas baseadas em disco e sem disco. A publicação de lançamento afirma que essa abordagem evita o overhead de memória de copy-on-write que um fork pode gerar sob uma carga intensa de gravações.
Compressão e estruturas de dados menores
A compressão contínua de streams está disponível para o tráfego de replicação. A fundação afirma que o tráfego contínuo é reduzido em cerca de 50% a 65%, enquanto os arquivos de backup ficam até 80% menores com a opção LZ4 integrada. Também relata que novas réplicas sincronizam cerca de 35% mais rápido, a um custo de cerca de 2% a 4% de um núcleo de CPU por réplica.
Em um benchmark separado descrito na publicação do projeto, o LZ4 reduziu a largura de banda de replicação em 52%, com menos de 1% de overhead de throughput, em 3 milhões de chaves com cerca de 315 bytes cada. A compressão é negociada por réplica, de modo que réplicas mais antigas ou que optem por não usá-la continuam recebendo dados em texto claro.
Agora, conjuntos ordenados grandes usam uma árvore B+ no lugar de uma skiplist. O projeto relata uma redução de 36% a 43% no overhead de memória por membro em um teste com 5 milhões de membros e elementos de 20 bytes; afirma que a árvore também compacta folhas esparsas quando membros são excluídos, de modo que um conjunto ordenado que encolhe devolve memória.
A versão também adiciona papéis reutilizáveis de controle de acesso, detecção de chaves quentes no servidor e limitação opcional da taxa de replicação. O recurso de limitação desacelera as gravações dos clientes quando uma réplica fica para trás, em vez de permitir que ela se desconecte e exija uma sincronização completa.
Fontes
- Fonte original · Comunicado de imprensa The Linux Foundation linuxfoundation.org
Outras páginas lidas
- Valkey valkey.io
Notícias relacionadas
- NVIDIA detalha ferramentas Dynamo para rollouts de aprendizado por reforço
- Líderes do Quad apoiam acelerador de IA para ampliar o acesso no Indo-Pacífico
- Aikido amplia testes de penetração com IA para apps iOS
- Unsloth Desktop adiciona inferência local em PCs Ryzen AI com NPUs AMD XDNA 2
- DMM e Algomatic Dynamics lançam roteador para 60 ou mais modelos de IA