The Pulse
AWS aggiunge gli output strutturati per Claude negli endpoint di Bedrock
AWS afferma che Amazon Bedrock ora supporta output JSON vincolati da uno schema per i modelli Claude di Anthropic sugli endpoint bedrock-runtime e bedrock-mantle. La funzionalità aggiunge il supporto per l’uso degli strumenti in modalità ri
AI.info Team · Scritto con l’IA · verificato ·
AWS afferma che Claude su Amazon Bedrock può ora restituire JSON conforme allo schema definito da uno sviluppatore, ma questa garanzia ha dei limiti: alcune comuni regole degli schemi sono accettate dall’API senza essere applicate. L’annuncio, pubblicato il 19 ottobre, introduce questa possibilità per i modelli Claude di Anthropic sia sugli endpoint bedrock-runtime sia sugli endpoint bedrock-mantle di Bedrock, dove ciascun modello è disponibile.
La novità amplia una funzionalità che AWS aveva già reso generalmente disponibile per i modelli Claude 4.5 e alcuni modelli a pesi aperti a febbraio. Il nuovo annuncio estende il supporto a tutti i modelli Claude di Anthropic disponibili su Bedrock e aggiunge l’accesso tramite la Messages API di bedrock-mantle, accanto alle API di bedrock-runtime. Nel post AWS non elenca la disponibilità per singolo modello o per regione: la precisazione «dove il modello è disponibile» è quindi importante.
Le regole dello schema si applicano durante la generazione
Secondo AWS, Bedrock usa la decodifica vincolata per impedire al modello di generare token che violino lo schema JSON specificato. Gli sviluppatori possono impostare un formato di output JSON Schema per le risposte strutturate oppure usare definizioni rigorose degli strumenti per vincolarne i parametri; i due meccanismi riguardano, rispettivamente, i dati restituiti a un’applicazione e gli input passati agli strumenti.
«Gli output strutturati usano la decodifica vincolata per far rispettare lo schema JSON durante la generazione dei token, non a posteriori.»
Anshika Saxena, Aamna Najmi, Ayan Ray, Dani Mitchell, Alfredo Castillo e Sofian Hamiti, AWS
Secondo AWS, l’endpoint runtime supporta gli output strutturati con l’inferenza in batch e l’inferenza tra regioni e può trasmettere in streaming risposte strutturate sotto forma di eventi tipizzati. Su bedrock-mantle, l’uso degli strumenti in modalità rigorosa è pensato per i flussi di lavoro degli agenti che impiegano strumenti lato server, come la ricerca sul web e l’interpretazione del codice. Gli esempi di AWS comprendono l’estrazione di campi dai record, la classificazione delle richieste di assistenza e la limitazione degli argomenti passati agli strumenti a campi e tipi definiti.
La garanzia si ferma al sottoinsieme di schemi supportato
Bedrock convalida gli schemi rispetto a un sottoinsieme supportato di JSON Schema Draft 2020-12. AWS indica come supportati i tipi comuni, gli enum, i riferimenti interni e diverse altre funzionalità, ma avverte che gli schemi ricorsivi, i riferimenti esterni e i limiti numerici, come i valori minimi e massimi, non vengono applicati durante la generazione. Non vengono applicati neppure i limiti sulle stringhe, come la lunghezza minima e massima, anche quando queste parole chiave sono accettate in una richiesta.
Questa precisazione ridimensiona l’affermazione di AWS secondo cui le applicazioni possono fare a meno del codice di convalida degli schemi: gli sviluppatori dovrebbero comunque verificare i vincoli che il servizio non applica. AWS invita inoltre gli sviluppatori a gestire i rifiuti del modello e le risposte interrotte dai limiti di token, che possono impedire a una risposta di rispettare la struttura richiesta. La conformità allo schema riguarda la forma dell’output; non stabilisce che i contenuti estratti o generati siano corretti nei fatti.
Le prime richieste potrebbero richiedere più tempo
Per un nuovo schema, Bedrock compila un artefatto grammaticale prima della generazione, quindi la prima richiesta può comportare una latenza aggiuntiva. AWS afferma di conservare nella cache le grammatiche compilate per ciascun account per 24 ore; le richieste successive che usano lo stesso schema vengono quindi elaborate con un sovraccarico minimo. Modificare la struttura dello schema invalida la cache, mentre modificare soltanto i nomi o le descrizioni dei campi non la invalida.
Il lancio di febbraio aveva presentato gli output strutturati come generalmente disponibili per i modelli Claude 4.5 e alcuni modelli a pesi aperti attraverso le API Converse, ConverseStream, InvokeModel e InvokeModelWithResponseStream di Bedrock nelle regioni AWS commerciali. L’annuncio di ottobre aggiunge il supporto per un insieme più ampio di modelli Claude e per l’endpoint bedrock-mantle. AWS afferma che la funzionalità per Claude è ora generalmente disponibile; i limiti documentati lasciano comunque ai team che sviluppano le applicazioni la responsabilità di verificare i vincoli non supportati, i rifiuti e le risposte troncate.