The Pulse

Cerebras aggiunge Qwen3.8-27B a 1.500 token al secondo

Cerebras ha aggiunto Qwen3.8-27B di Alibaba al suo servizio pubblico di inferenza, indicando per il modello una velocità di circa 1.500 token in output al secondo. Il modello è disponibile attraverso il piano per sviluppatori a consumo di C

AI.info Team · Scritto con l’IA · verificato · 2026-09-12

Cerebras rende disponibile Qwen3.8-27B di Alibaba sullo stesso servizio pubblico di inferenza con cui promuove alcuni dei tempi di risposta più rapidi disponibili tramite API per i modelli aperti. La mossa dà agli sviluppatori accesso a un modello Qwen di medie dimensioni a una velocità dichiarata di circa 1.500 token in output al secondo, ma il piano pubblico impone anche limiti che potrebbero influire sui carichi di lavoro per cui è possibile usarlo in produzione.

La documentazione di supporto di Cerebras indica Qwen 3.8 27B come uno dei due modelli disponibili attraverso il Developer Tier, insieme a GPT OSS 120B di OpenAI. Il sistema a consumo dell’azienda addebita ai clienti i token in input e in output, mentre Qwen3.8-27B ha una quota di token inferiore a quella di GPT OSS 120B: 150.000 token non presenti nella cache al minuto e 450 richieste al minuto.

Con questa aggiunta, uno dei più recenti modelli a pesi aperti di Alibaba arriva sull’hardware di inferenza wafer-scale di Cerebras. Inoltre, il principale argomento di vendita diventa la velocità, anziché la sola dimensione del modello. Gli sviluppatori possono ora testare Qwen3.8-27B senza eseguire il modello in locale o procurarsi hardware dedicato, anche se i team con volumi di traffico elevati e costanti dovranno richiedere a Cerebras limiti più alti e capacità riservata.

Qwen3.8-27B arriva con un limite di 150.000 token

Le FAQ del Developer Tier di Cerebras indicano Qwen 3.8 27B come modello disponibile a consumo e gli assegnano un limite di 150.000 token non presenti nella cache al minuto. La stessa tabella indica 450 richieste al minuto. Secondo la documentazione dell’azienda, questi limiti si applicano al piano self-service e possono cambiare.

La distinzione tra token presenti e non presenti nella cache è importante per le applicazioni che inviano ripetutamente lo stesso prefisso del prompt. L’API di Cerebras supporta la cache dei prompt, che può ridurre l’elaborazione ripetuta di prefissi condivisi come le istruzioni di sistema, i modelli per il recupero delle informazioni o il contesto degli agenti. Il limite pubblicato, tuttavia, è espresso in token non presenti nella cache: gli sviluppatori che pianificano carichi di lavoro su documenti di grandi dimensioni o con agenti devono quindi misurare l’andamento effettivo delle richieste, anziché basarsi solo sulla velocità massima dichiarata.

Qwen3.8-27B non è presentato come un’implementazione riservata alle aziende. Gli utenti possono acquistare crediti, consumarli in base all’uso dei token e configurare la ricarica automatica. I crediti scadono un anno dopo l’acquisto. Se il saldo di un account raggiunge lo zero, i limiti di utilizzo dell’account tornano a zero fino all’aggiunta di altri crediti.

Limiti del piano pubblico: Cerebras indica per Qwen 3.8 27B un limite di 150.000 token non presenti nella cache al minuto e 450 richieste al minuto. Limiti più alti, accordi sul livello di servizio e capacità dedicata richiedono un accordo commerciale separato.

Perché 1.500 token al secondo sono importanti

Cerebras indica per Qwen3.8-27B una velocità di circa 1.500 token al secondo sulla propria infrastruttura pubblica di inferenza, secondo la documentazione esaminata dopo la comparsa del modello nel catalogo pubblico dell’azienda. Il dato descrive la velocità di generazione nelle condizioni di misurazione di Cerebras; le prestazioni effettive variano in base alla lunghezza del prompt, al numero di richieste simultanee, alle impostazioni di campionamento, alla struttura della richiesta e al piano dell’account.

A quella velocità, un modello può produrre risposte lunghe o suggerimenti di codice in una frazione del tempo richiesto da molti endpoint convenzionali ospitati su GPU. La velocità conta soprattutto nelle applicazioni che generano output sostanziosi: agenti di coding, assistenti alla ricerca, pipeline di trasformazione dei documenti e sistemi che effettuano diverse chiamate al modello prima di restituire una risposta.

Una generazione più rapida non elimina gli altri colli di bottiglia. Un prompt lungo deve comunque essere elaborato, la latenza di rete continua a influire sul primo token della risposta e i limiti di utilizzo possono vincolare le richieste parallele. Un team che esegue centinaia di agenti contemporaneamente può esaurire la quota di 150.000 token al minuto anche quando ogni singola risposta arriva rapidamente.

Questa tensione rende la proposta di valore del rilascio di Qwen3.8-27B più specifica della semplice aggiunta di un altro modello a un catalogo. Cerebras offre un modello denso e veloce per applicazioni interattive, ma il piano pubblico è dimensionato per la sperimentazione e carichi di lavoro moderati, non per un’implementazione su larga scala senza restrizioni.

Il catalogo pubblico di Cerebras si restringe a due modelli principali

L’aggiunta di Qwen cambia anche la composizione dell’offerta self-service di Cerebras. La pagina di supporto dell’azienda indica Qwen 3.8 27B e GPT OSS 120B come i modelli attualmente disponibili attraverso il Developer Tier a consumo. GPT OSS 120B ha una quota più alta, pari a 500.000 token non presenti nella cache al minuto e 1.000 richieste al minuto.

Il contrasto riflette un diverso posizionamento. GPT OSS 120B è il modello più grande ed è proposto per il ragionamento, il coding e i flussi di lavoro con agenti. Qwen3.8-27B offre un numero inferiore di parametri e una capacità minore nel piano pubblico, ma il suo dato di circa 1.500 token al secondo offre agli sviluppatori un’opzione rapida quando il tempo di risposta e il costo operativo contano più della massima dimensione del modello.

In passato Cerebras ha usato il proprio servizio di inferenza per ospitare modelli aperti di diverse aziende, tra cui Qwen, Meta, Google e OpenAI. Nel suo annuncio sul pagamento per token affermava che il servizio era stato progettato per rendere disponibili modelli a pesi aperti senza contratti né infrastrutture dedicate. L’azienda offre anche prodotti in abbonamento per il coding e accordi separati per le aziende, con instradamento prioritario e supporto dedicato.

«L’IA è passata dall’essere una novità a essere utile e produttiva», ha dichiarato Andrew Feldman, cofondatore e amministratore delegato di Cerebras Systems, nell’annuncio dei risultati finanziari dell’azienda del 23 giugno 2026. Feldman ha aggiunto che «un’IA veloce ha più valore di un’IA lenta perché è più produttiva».

Qwen3.8-27B si inserisce direttamente in questa argomentazione. La sua attrattiva non risiede solo nelle capacità del modello sottostante, ma nella combinazione di un modello a pesi aperti, un flusso di lavoro tramite API compatibile con OpenAI e una velocità di generazione insolitamente alta sull’hardware di Cerebras.

Il modello è aperto, ma il servizio non è illimitato

Gli sviluppatori possono chiamare il modello attraverso l’API di inferenza di Cerebras, anziché gestire autonomamente pesi, allocazione della memoria, quantizzazione e infrastruttura di erogazione. La documentazione pubblica dell’azienda sui modelli descrive i suoi endpoint come compatibili con funzioni comuni delle API, tra cui lo streaming e il recupero dei modelli, mentre i materiali pubblici di Cerebras spiegano che i clienti possono iniziare con un account gratuito e passare all’uso a pagamento.

La questione dei prezzi è distinta da quella dei limiti di utilizzo. La fatturazione del Developer Tier si basa sul consumo di token in input e in output, con prezzi diversi per i diversi modelli. La documentazione dell’azienda invita gli utenti a consultare la pagina dei prezzi aggiornata, anziché riportare un prezzo fisso nelle FAQ di supporto: gli sviluppatori dovrebbero quindi verificare l’importo indicato nel proprio account prima di preventivare un’implementazione.

Questa configurazione lascia anche spazio per soluzioni intermedie tra un endpoint pubblico e un servizio di produzione dedicato. I clienti che necessitano di limiti più alti, accordi sul livello di servizio o capacità dedicata dovrebbero contattare il team commerciale di Cerebras. È una distinzione comune nell’inferenza ospitata, ma in questo caso è importante perché un benchmark di 1.500 token al secondo può creare domanda più rapidamente di quanto una quota pubblica riesca ad assorbirla.

I team che valutano Qwen3.8-27B dovrebbero quindi testare separatamente quattro aspetti: il tempo necessario per ottenere il primo token, la velocità di output sostenuta, il comportamento sotto carico concorrente e il numero di token consumati per ogni attività completata. Un agente di coding che produce una patch corretta in un solo passaggio rapido può costare meno di un modello più lento che richiede diversi tentativi, ma il calcolo dipende dalla qualità del modello e dalla progettazione del flusso di lavoro, non soltanto dal numero grezzo di token al secondo.

Il modello di Alibaba incontra la strategia di Cerebras incentrata sulla velocità

La famiglia Qwen di Alibaba è diventata una scelta comune per gli sviluppatori che cercano modelli a pesi aperti da scaricare, modificare o utilizzare attraverso fornitori terzi. L’aggiunta di Cerebras offre a questi sviluppatori un altro modo per accedere a Qwen3.8-27B senza acquistare hardware capace di contenere il modello e la sua finestra di contesto.

Il rilascio estende anche gli sforzi di Cerebras per porre la velocità di inferenza al centro della propria offerta cloud. Precedenti annunci dell’azienda promuovevano modelli Qwen3, GPT OSS e altri modelli aperti con accesso a pagamento per token. Cerebras ha inoltre annunciato grandi collaborazioni infrastrutturali, tra cui un progetto con Amazon Web Services per combinare i sistemi AWS Trainium con i sistemi Cerebras CS-3 per carichi di lavoro di inferenza.

Qwen3.8-27B è un banco di prova di questa strategia più piccolo e accessibile rispetto a un modello da mille miliardi di parametri. Se gli sviluppatori lo useranno per l’estrazione, la correzione del codice, la classificazione, la sintesi o agenti che operano in più passaggi, il confronto pratico sarà con altri endpoint ospitati veloci e con l’hosting autonomo su GPU, non solo con modelli di frontiera più grandi.

Per ora, l’offerta concreta è semplice: Qwen3.8-27B è disponibile attraverso il servizio per sviluppatori a consumo di Cerebras, l’azienda indica circa 1.500 token in output al secondo e la quota pubblica è di 150.000 token non presenti nella cache al minuto, con 450 richieste al minuto. Questi numeri definiscono il rilascio più chiaramente dell’annuncio del modello stesso. Descrivono un servizio pensato per gli sviluppatori che vogliono i pesi aperti di Qwen e la velocità di Cerebras, ma che possono operare entro i confini di un piano pubblico limitato.