The Pulse
AWS aggiunge l’inferenza nella Regione locale per Claude 5 a Seul e Singapore
Amazon Bedrock offre ora Claude Opus 5 e Claude Sonnet 5 con inferenza nella Regione locale a Seul, e Claude Sonnet 5 a Singapore. Le richieste restano nella Regione AWS selezionata, ma la capacità di elaborazione è soggetta alla capacità e
AI.info Team · Scritto con l’IA ·
Il trattamento locale ha un limite di capacità
AWS offre ai clienti di Seul e Singapore un controllo più stretto sul luogo in cui vengono elaborate le richieste a Claude, con un compromesso: quando la capacità locale è limitata, le richieste non possono essere trasferite a un’altra Regione AWS. L’azienda ha annunciato la disponibilità del servizio il 29 settembre, aggiungendo i modelli di Anthropic al servizio di inferenza nella Regione locale di Amazon Bedrock nei due mercati.
La Regione di Seul, in Corea del Sud, supporta ora Claude Opus 5 e Claude Sonnet 5. Singapore supporta Claude Sonnet 5, ma non Opus 5 nell’ambito di questo annuncio. Secondo AWS, i prompt e le risposte generate rimangono nella Regione selezionata per la richiesta durante tutta l’elaborazione. La funzionalità è destinata alle organizzazioni con requisiti rigorosi che impongono il trattamento dei dati in un’unica Regione, tra cui, secondo gli esempi citati da AWS, clienti dei servizi finanziari, della sanità e del settore pubblico. La funzionalità definisce dove Bedrock esegue l’inferenza; non garantisce che ogni componente dell’applicazione o del flusso di trattamento dei dati di un cliente rimanga automaticamente in quella Regione.
Nessun instradamento tra Regioni
La differenza rispetto all’inferenza tra Regioni è fondamentale. I profili per quel tipo di inferenza instradano le richieste tra Regioni, mentre la nuova opzione invia ogni richiesta soltanto alla Regione selezionata. I quattro autori del blog di AWS — Aamna Najmi, architetta senior specializzata in soluzioni per l’IA generativa; Alfredo Castillo, architetto senior specializzato in soluzioni per l’IA generativa; Eugenio Soltero, senior product marketing manager per Amazon Bedrock; e Sofian Hamiti, responsabile tecnologico — descrivono così il vincolo a un’unica Regione:
«La richiesta viene elaborata interamente nell’unica Regione AWS specificata e non esce da quella Regione.»
Aamna Najmi, Alfredo Castillo, Eugenio Soltero e Sofian Hamiti, autori del blog di AWS
Questo controllo comporta un limite di capacità. Secondo AWS, la capacità di elaborazione è limitata da quella della Regione che gestisce la richiesta e si applicano le quote di servizio di ciascuna Regione. I clienti che scelgono un trattamento rigorosamente locale devono quindi pianificare in base alla capacità e alle quote disponibili a Seul o Singapore, anziché contare su un’altra Regione per assorbire un picco di richieste. La fatturazione segue i prezzi standard on demand della Regione a cui viene inviata la richiesta. Anche il consumo delle quote, le metriche di CloudWatch e le voci dei log di CloudTrail sono circoscritti a quella Regione, senza distinzioni tra Regione di origine e di destinazione nel monitoraggio.
Bedrock mantiene le modalità di accesso via API
Le applicazioni chiamano i modelli tramite l’endpoint bedrock-runtime, usando direttamente gli ID dei modelli, come anthropic.claude-opus-5 e anthropic.claude-sonnet-5. AWS indica come modalità supportate la Messages API di Anthropic e le API InvokeModel e Converse di Amazon Bedrock. L’annuncio precisa inoltre che i clienti possono usare funzionalità di Bedrock, tra cui Guardrails e l’instradamento intelligente dei prompt.
AWS raccomanda bedrock-runtime per le nuove applicazioni. Gli sviluppatori possono innanzitutto selezionare un modello Claude nell’area di prova testuale della console di Amazon Bedrock, inviare prompt, regolare i parametri di inferenza e passare da una variante all’altra senza configurare codice o un SDK. Per l’uso tramite codice, gli esempi di AWS configurano il client sulla Regione in cui deve essere elaborata la richiesta di inferenza: ap-northeast-2 per Seul e ap-southeast-1 per Singapore.
Il post fornisce esempi che usano Boto3 con InvokeModel a Singapore e Converse a Seul, oltre a un esempio con l’SDK di Anthropic per la Messages API. Tra i prerequisiti elencati figurano un account AWS attivo con accesso a Bedrock, AWS CLI, Python 3.8 o versione successiva, Boto3, l’SDK di Anthropic e Amazon Bedrock Token Generator per l’autenticazione. AWS afferma che utilizzo, prestazioni e costi possono essere monitorati tramite CloudWatch e Cost Explorer.
Per i team che hanno bisogno di mantenere le richieste di inferenza in un’unica Regione AWS, le opzioni disponibili sono precise: Seul offre Claude Opus 5 e Sonnet 5, mentre Singapore offre Sonnet 5. Ogni carico di lavoro resta soggetto alla capacità e alle quote della Regione selezionata.