The Pulse
Ollama aggiunge i checkpoint stabili di Phonon di Gradium nella versione v0.40.9
Ollama v0.40.9 aggiunge il supporto ai checkpoint vocali di Phonon di Gradium in formato GA su Apple Silicon, sostituendo il precedente sistema per i checkpoint preliminari. La versione consente inoltre la generazione vocale dalla CLI e tra
AI.info Team · Scritto con l’IA · verificato ·
Il nuovo supporto di Ollama ai checkpoint stabili di Phonon di Gradium ha un limite di compatibilità: la versione sostituisce il precedente sistema per i checkpoint preliminari, anziché limitarsi ad ampliarlo. La versione 0.40.9, pubblicata il 22 ottobre, riconosce i modelli vocali di Gradium nel formato di produzione e diventa la versione minima richiesta per i modelli Phonon distribuiti da Ollama.
Dai file preliminari al formato GA di Gradium
La modifica è documentata nel commit di implementazione di Ollama, che descrive la sostituzione del sistema per i checkpoint preliminari con il formato GA di Gradium. L’aggiornamento aggiunge la gestione dei dati della voce predefinita e degli input di condizionamento vocale del checkpoint, insieme a test per l’importazione del nuovo formato e il rifiuto del vecchio checkpoint. Le note di rilascio di Ollama confermano il risultato per gli utenti: la generazione vocale con Phonon su Apple Silicon.
Il cambiamento di formato è importante per gli sviluppatori che importano in Ollama i propri checkpoint. L’implementazione identifica l’architettura del modello di Gradium come GradiumPhononTTSForConditionalGeneration e importa il file default-voice.safetensors che la accompagna. L’aggiornamento innalza inoltre la versione minima documentata di Ollama da 0.40.8 a 0.40.9: il nuovo sistema per i checkpoint richiede quindi un aggiornamento del runtime.
Il modulo di importazione richiede il file della voce predefinita e verifica che contenga il tensore speaker_wavs previsto, prima di associarlo alla voce predefinita del modello. Il commit aggiunge test per l’architettura GA, la convalida del file della voce e il rifiuto dell’architettura preliminare. Mantiene inoltre i pesi di Phonon non quantizzati, un ulteriore vincolo per gli sviluppatori che preparano checkpoint da importare.
Flussi audio tramite CLI e API
Secondo Ollama, ollama run può riprodurre ad alta voce il testo fornito, o la risposta di un modello di chat, man mano che l’audio viene generato. Le applicazioni possono anche trasmettere l’audio generato in streaming tramite l’endpoint /v1/audio/speech compatibile con OpenAI. La modifica offre alle applicazioni locali una via per la produzione vocale all’interno di Ollama, anziché limitare l’uso di Phonon a un runtime separato.
Gli utenti possono iniziare con ollama run phonon oppure collegare la risposta di una chat al modello vocale. La scheda del modello su Ollama descrive Phonon come la famiglia di modelli di sintesi vocale di Gradium e indica che produce audio mono a 24 kHz. I modelli distribuiti richiedono Apple Silicon, una limitazione che restringe la portata immediata di questa versione ai sistemi Apple basati su Arm.
Dimensioni dei modelli, lingue e licenze differenti
Il modello Phonon predefinito di Ollama è un checkpoint per l’inglese con 31 milioni di parametri e una voce chiamata default. La raccolta comprende anche modelli da 40 milioni di parametri per inglese, francese, tedesco, spagnolo e portoghese, oltre a un modello multilingue che copre queste cinque lingue. Ollama indica una memoria occupata dopo il caricamento di 121 MB per il modello 31M e di 141 MB per le varianti 40M elencate, su un Apple M5 Max.
Le licenze variano a seconda del checkpoint: il modello 31M per l’inglese usa Apache 2.0, mentre i modelli 40M per le singole lingue e quello multilingue usano CC BY-NC 4.0, che limita l’uso commerciale. Prima dell’integrazione, gli sviluppatori devono quindi verificare la licenza del modello, oltre ai requisiti linguistici e hardware. Il requisito di versione è esplicito: i pacchetti Phonon di Ollama richiedono Apple Silicon e Ollama 0.40.9 o versioni successive.