Vai al contenuto
AI.info

The Pulse

OpenAI aggiunge per GPT-6.1 Sol la fascia Ultrafast a un prezzo 6 volte superiore

L’8 ottobre OpenAI ha aggiunto la modalità Ultrafast per GPT-6.1 Sol nella Responses API: riduce gli intervalli tra i token generati in output, a un prezzo 6 volte superiore a quello Standard. Ai prompt che superano i 272K token in input si

OpenAI aggiunge per GPT-6.1 Sol la fascia Ultrafast a un prezzo 6 volte superiore

AI.info Team · Scritto con l’IA ·

Un prezzo 6 volte superiore per attese più brevi

L’8 ottobre OpenAI ha aggiunto la modalità Ultrafast per GPT-6.1 Sol alla Responses API. Gli sviluppatori la richiedono con service_tier: "ultrafast", mantenendo come nome del modello gpt-6.1-sol. Secondo il registro delle modifiche, la modalità è pensata per ridurre il tempo tra i token generati in output. È disponibile agli utenti dell’API, nel rispetto dei limiti di utilizzo, con elaborazione globale e opzioni di residenza dei dati negli Stati Uniti e nell’UE.

Per i prompt fino a 272K token in input, le tariffe Standard di GPT-6.1 Sol sono di 2 dollari per milione di token in input, 0,10 dollari per milione di token in input memorizzati nella cache, 2,50 dollari per milione di token scritti nella cache e 10 dollari per milione di token in output. La pagina del modello indica che i prezzi Ultrafast sono 6 volte quelli Standard. Su questa base, le tariffe Ultrafast corrispondenti sono di 12 dollari per milione di token in input, 0,60 dollari per l’input memorizzato nella cache, 15 dollari per le scritture nella cache e 60 dollari per l’output. I costi variano in base ai token utilizzati, non soltanto al numero di richieste.

Queste cifre non valgono per tutte le richieste. Per i prompt che superano i 272K token in input, OpenAI indica tariffe pari al doppio per input e cache e a 1,5 volte per l’output, applicate all’intera richiesta. La pagina del modello specifica inoltre che l’elaborazione regionale comporta un sovrapprezzo del 10% dove disponibile. Gli sviluppatori che valutano i costi dovrebbero tenere conto di queste condizioni oltre che del moltiplicatore base di Ultrafast.

Disponibile per tutti gli account API, entro i limiti di utilizzo

OpenAI afferma che Ultrafast è disponibile a tutti gli utenti dell’API, nel rispetto dei limiti di utilizzo. La disponibilità non significa che il volume di elaborazione sia illimitato: restano in vigore i limiti degli account. GPT-6.1 Sol supporta la residenza dei dati negli Stati Uniti e nell’UE, anche con le modalità Fast e Ultrafast, e il registro delle modifiche indica l’elaborazione globale tra le opzioni della nuova fascia.

La documentazione del modello indica agli sviluppatori di usare la Responses API per la chiamata degli strumenti; Chat Completions è supportata senza chiamata degli strumenti. Le istruzioni per Ultrafast specificano un’impostazione della Responses API, quindi gli sviluppatori non dovrebbero presumere che la stessa opzione valga per ogni endpoint. La pagina del modello elenca anche altri endpoint supportati, ma questo non cambia le istruzioni documentate per attivare Ultrafast.

Intervalli tra i token, non una garanzia pubblicata sulla latenza

OpenAI descrive il beneficio in termini precisi: meno tempo tra i token generati in output. La nota sul rilascio non fornisce una velocità misurata in token al secondo, un dato sulla latenza del primo token né un confronto di velocità per carichi di lavoro specifici. Le condizioni pubblicate definiscono l’effetto previsto e il prezzo della modalità, ma non indicano quanto più velocemente funzionerà una determinata applicazione.

La distinzione conta per gli sviluppatori che devono decidere se pagare il sovrapprezzo. Un flusso più rapido può essere utile quando una persona o un processo a valle attende una risposta lunga, ma le informazioni pubblicate non quantificano il vantaggio per un dato prompt o compito. I team dovranno misurare la latenza e i costi totali dei token nei propri casi d’uso rispetto alla modalità Standard, includendo, se applicabili, gli adeguamenti per i prompt lunghi e l’elaborazione regionale.

Che cosa possono misurare gli sviluppatori

GPT-6.1 Sol è descritto come un modello per attività complesse di programmazione, uso del computer e lavoro professionale. La sua pagina indica una finestra di contesto di 1.050.000 token e un output massimo di 128.000 token. L’opzione Ultrafast mantiene lo stesso identificativo del modello e aggiunge la scelta della fascia di servizio; l’annuncio non descrive una versione separata del modello né un diverso livello di qualità.

Per gli sviluppatori, il compromesso dichiarato è un prezzo pari a 6 volte quello Standard in cambio di intervalli ridotti tra i token in output, mentre restano in vigore i limiti di utilizzo. I prezzi dei token indicati offrono una base per stimare l’utilizzo, mentre la latenza effettiva dell’applicazione e il costo totale dipendono dal carico di lavoro e dalle condizioni tariffarie applicabili a ciascuna richiesta.

Fonti

Esplora

Altri articoli