The Pulse

llama.cpp 1.0 definisce le regole di versionamento per gli sviluppatori di IA in locale

Le librerie llama.cpp e ggml hanno raggiunto la versione 1.0.0, riservando gli incrementi della versione principale alle interfacce incompatibili. La release rimuove anche funzioni deprecate e aggiunge funzionalità per modelli, server e interfaccia.

AI.info Team · · verificato · su 2 fonti ↓ · Pubblicato 13 nov 2026

Gli sviluppatori che usano llama.cpp e la libreria ggml sottostante hanno ora a disposizione le release 1.0.0 di entrambe e la garanzia che le future interfacce incompatibili saranno segnalate da un incremento della versione principale. Il team di llama.cpp di Hugging Face ha rilasciato entrambe le librerie il 13 novembre, definendo le regole di versionamento per i progetti ggml-org che adottano il versionamento semantico.

Il progetto esegue modelli linguistici di grandi dimensioni multimodali su hardware che va dai computer per uso personale ai server aziendali. Il team afferma che molte applicazioni a valle dipendono già dalle interfacce della sua libreria, rendendo prioritaria un’API flessibile ma stabile.

Come cambieranno le versioni

Le regole di versionamento si applicano ai progetti ggml-org che adottano il versionamento semantico. Una modifica incompatibile all’API C pubblica nella directory include richiede un incremento della versione principale; le funzionalità compatibili con le versioni precedenti, gli aggiornamenti dei backend, il supporto per i modelli e le aggiunte all’API comportano un incremento della versione secondaria.

Le correzioni di bug che non modificano l’API comportano un incremento della patch. Il team afferma inoltre che le incompatibilità API e ABI in llama.cpp e ggml si rifletteranno in incrementi della versione principale.

La release stessa rimuove funzioni deprecate dell’API pubblica, tra cui llama_set_warmup e altre 35 funzioni deprecate, secondo le note di rilascio del progetto. L’API NextN viene spostata da llama-ext.h a llama.h, insieme alla rinomina di una funzione.

Modelli e modifiche al runtime

Il team afferma che llama.cpp supporta attualmente oltre 150 varianti di architettura dei modelli e tutti i principali metodi di speculative decoding. Il motore ggml sottostante usa backend dedicati, ciascuno dei quali può essere compilato come libreria dinamica e, facoltativamente, caricato durante l’esecuzione.

Il supporto a nuove architetture testuali nella release include Kimi-K3.1-Pro, Ripple e xing4_0. La release aggiunge anche drama-3 per la sintesi vocale, il supporto visivo per MageVL-Cowork e Kimi-K3.1, oltre all’input audio in streaming per Gemma 4.

Altre aggiunte includono cache KV OCP FP8, una cache mixture-of-experts nella memoria host con una quota CPU configurabile e il caricamento di shard PLE esterni. Su Windows, la release aggiunge un caricamento dei modelli senza buffer che ricalca il percorso DirectIO di Linux.

Server e distribuzione

Il server aggiunge un endpoint /v1/audio/speech compatibile con OpenAI e un’opzione per la temperatura nella sintesi vocale. Annulla inoltre le chiamate agli strumenti MCP quando un client si disconnette o si verifica un timeout e avvisa il server MCP.

Le modifiche al server includono correzioni relative alla gestione delle origini CORS, al DNS rebinding e all’SSRF tramite proxy CORS. La release aggiunge opzioni attivabili per gli strumenti non autenticati e gli URL multimediali privati e limita il token di Hugging Face agli host huggingface.co.

L’interfaccia web aggiunge gruppi di chat con nome e un editor Markdown con anteprima in tempo reale, che si espande per i messaggi lunghi. Sui telefoni, sposta Models, MCP e Settings in pagine a schermo intero accessibili dal piè di pagina della barra laterale.

Per la distribuzione, il progetto elenca artefatti pre-release per Linux, macOS, Windows, Android e iOS, oltre a canali tra cui Docker, Debian, Homebrew e conda-forge. Il team sta inoltre ampliando la propria infrastruttura di integrazione continua e aggiungendo runner self-hosted per diverse piattaforme hardware, con il supporto hardware di NVIDIA, AMD, Qualcomm, Arm, IBM e Intel.