The Pulse
La Decisions API di OpenAI diventa generalmente disponibile e porta il limite a 400 domande
La Decisions API di OpenAI è ora generalmente disponibile e supporta fino a 400 domande per richiesta, con GPT-6 Luna come unico modello supportato. L’endpoint restituisce risposte tipizzate per predicati, scelte e punteggi. I token di inpu
AI.info Team · Scritto con l’IA · verificato ·
La Decisions API di OpenAI è ora disponibile per tutti e offre risposte tipizzate per attività di classificazione e assegnazione di punteggi. L’endpoint supporta fino a 400 domande per richiesta e attualmente funziona solo con GPT-6 Luna. OpenAI lo descrive come 10 volte più veloce della Responses API, anche se nella documentazione non indica un metodo di benchmark a sostegno di questa affermazione.
Un endpoint separato per risposte circoscritte
Gli sviluppatori inviano elementi comuni su cui basare la valutazione e una serie di domande a POST /v1/decisions. Ogni domanda può verificare se una condizione è vera, scegliere tra opzioni fornite o assegnare un punteggio in base a livelli ordinati. La risposta restituisce una probabilità stimata per un predicato, un valore selezionato e una distribuzione di probabilità per una scelta, oppure una media degli indici dei livelli ponderata per la probabilità nel caso dei punteggi. Un punteggio può collocarsi tra i livelli forniti.
«La Decisions API valuta testo, immagini e JSON e restituisce risposte tipizzate circa 10 volte più velocemente della Responses API.»
Documentazione dell’OpenAI API
Il formato può essere usato per attività come smistare richieste di assistenza, verificare se un’immagine mostra danni visibili o assegnare un livello di gravità. I team possono porre più domande indipendenti sugli stessi elementi in un’unica richiesta. Le decisioni che dipendono da una risposta precedente richiedono una richiesta separata.
400 domande, immagini e input strutturato
Secondo la documentazione di OpenAI, il limite è ora di 400 domande per richiesta, rispetto alle 200 della beta pubblica. Tra le funzionalità aggiunte dalla beta, la documentazione elenca anche la memorizzazione dei prompt nella cache, l’input JSON diretto, le immagini allegate alle singole domande, gli URL di immagini ospitate pubblicamente, la cronologia delle conversazioni che include chiamate agli strumenti e relativi output, e i resoconti sull’utilizzo a livello di organizzazione. Gli sviluppatori possono anche collegare Decisions a GPT-Live, così un’applicazione può richiedere una decisione mentre un utente parla o man mano che arriva una trascrizione.
I messaggi degli utenti possono includere testo, immagini e JSON; la documentazione non prevede file o audio come input diretto. Ogni richiesta usa GPT-6 Luna e al momento non è possibile scegliere un altro modello.
L’output tipizzato non è uno schema personalizzato
La distinzione è importante per i team che già usano la Responses API. Decisions è progettato per predicati, opzioni predefinite e punteggi ordinati; non sostituisce un flusso di lavoro generale per la produzione di output strutturato. OpenAI indirizza invece gli sviluppatori che hanno bisogno di un oggetto conforme al proprio schema JSON, per esempio con campi estratti o una spiegazione scritta, verso Structured Outputs con Responses.
Questa distinzione consente agli sviluppatori di scegliere tra un insieme limitato di tipi di risposta e un’interfaccia di generazione più flessibile. Per una domanda a scelta, gli sviluppatori devono fornire i valori possibili. Il modello può restituire un rifiuto per una singola domanda, e OpenAI consiglia ai team di definire le soglie per lo smistamento usando esempi etichettati e tenendo conto dei costi dei falsi positivi e dei falsi negativi.
Tariffazione dei token di input
Per GPT-6 Luna, l’input non presente nella cache costa 0,10 dollari per milione di token. Gli input trovati nella cache beneficiano di una tariffa scontata, ma le scritture nella cache vengono addebitate alle tariffe standard del modello per la memorizzazione dei prompt nella cache. I token di output non vengono addebitati. Possono inoltre applicarsi supplementi per l’elaborazione regionale e moltiplicatori per l’input a contesto lungo.
Prezzo e velocità dichiarata rendono l’endpoint un’opzione per valutazioni frequenti e circoscritte, non una soluzione immediata per ogni chiamata al modello. I team devono comunque valutare se le sue stime di probabilità siano adatte alla loro applicazione, stabilire le soglie oltre le quali un risultato comporta un’azione o una revisione e tenere conto del vincolo di un unico modello. I limiti documentati comprendono 400 domande per richiesta, il solo GPT-6 Luna e tre tipi di risposta: predicati, scelte e punteggi.