The Pulse
Perplexity pubblica un modello decisionale da 27 miliardi di parametri con licenza Apache
pplx-decider-v1-27b, il modello a pesi aperti di Perplexity, è ottenuto tramite fine-tuning di Qwen3.8-27B ed è progettato per restituire scelte e probabilità in attività come la classificazione e l’instradamento. La sua scheda riporta un p
AI.info Team · Scritto con l’IA ·
Perplexity ha pubblicato il modello a pesi aperti pplx-decider-v1-27b su Hugging Face il 1° ottobre. Ottenuto tramite fine-tuning di Qwen3.8-27B, il modello è pensato per scegliere tra risposte predefinite anziché comporre risposte in chat. La sua scheda indica la classificazione, l’instradamento e altre attività in cui un software ha bisogno di una scelta o di una probabilità, non di un testo a risposta aperta. La pagina del modello riporta una licenza Apache 2.0.
Un modello progettato per scegliere, non per conversare
Perplexity, che pubblica il modello, lo descrive così:
«pplx-decider-v1-27b è un modello decisionale ottenuto tramite fine-tuning di Qwen3.8-27B.»
Gli esempi nella scheda mostrano come usarlo per diversi tipi di decisione. Uno chiede quale team debba occuparsi del problema di un cliente con l’integrazione di Stripe e propone come opzioni la fatturazione, il supporto tecnico e le vendite. Un altro chiede se un messaggio esprima urgenza e restituisce una probabilità per le risposte sì o no. Per l’esempio a scelta multipla, la scheda indica che la previsione restituisce un’opzione selezionata e probabilità calibrate.
Il modello accetta anche immagini. Le istruzioni d’uso mostrano come passare un file immagine insieme a una richiesta di previsione, anche in un esempio con uno screenshot. Hugging Face definisce il modello multimodale e lo inserisce nella categoria della classificazione del testo. Queste funzionalità permettono a uno sviluppatore di fornire materiale visivo insieme a una domanda, mantenendo l’output legato a un’attività definita anziché richiedere una risposta generica.
Perplexity riporta l’85,71% su 11 test
La scheda del modello riporta un punteggio complessivo dell’85,71% su 11 benchmark. Le colonne di confronto indicano l’84,51% per Jev e il 74,76% per il modello di base Qwen3.8-27B. Perplexity afferma che i risultati di Decider sono stati misurati tramite la sua API; la scheda non fornisce il numero di campioni né un protocollo di valutazione più completo. Le cifre sono quindi risultati pubblicati dall’azienda, non un confronto indipendente.
I punteggi dei singoli test variano a seconda dell’attività. Decider ottiene l’88,80% su RAGTruth e il 90,60% su TabFact, superando entrambi i modelli di confronto indicati per quei test. Su WinoGrande ottiene l’83,30%, meno del 90,70% di Jev ma più del 73,10% di Qwen3.8-27B. Su FinancialPhraseBank, Decider raggiunge l’84,18%, contro il 76,98% di Jev e il 75,68% di Qwen3.8-27B.
Su JudgeBench, Decider registra il 78,29%, vicino al 78,57% di Jev e superiore al 68,86% del modello di base. Su BBH, il suo 82,80% è inferiore al 94,27% di Jev ma superiore al 72,80% di Qwen3.8-27B. Su JevBench public hard, Decider ottiene il 70,30%; Jev registra il 73,27% e Qwen3.8-27B il 72,28%.
Per ContractNLI, la scheda riporta Qwen3.8-27B e pplx-decider-v1-27b a pari merito con l’80,78%, mentre Jev ottiene il 77,45%. Su Circa, Decider registra l’89,20%, contro l’87,00% del modello di base e l’84,60% di Jev. I risultati restanti sono il 94,00% su Belebele e l’85,40% su TruthfulQA binary; Jev ottiene rispettivamente il 95,00% e il 92,00% in questi test, mentre Qwen3.8-27B registra il 93,20% e l’82,80%.
Per l’uso in locale serve una GPU CUDA con molta memoria
I pesi sono disponibili nel formato Safetensors con licenza Apache 2.0. Le istruzioni di Perplexity richiedono Python 3.12 o una versione successiva e una GPU CUDA con circa 49 GiB disponibili per i pesi, oltre alla memoria di lavoro. Hugging Face indica che il modello ha 26 miliardi di parametri e usa tensori di tipo BF16, nonostante il «27b» nel nome e la designazione Qwen3.8-27B del modello di base.
Il repository fornisce uno script di inferenza ed esempi per caricare il modello, effettuare previsioni e passare file immagine. Le istruzioni d’esempio usano lo strumento di download di Hugging Face e poi eseguono lo script in locale. Hugging Face indica inoltre che il modello non è attualmente distribuito tramite i suoi Inference Providers.