The Pulse
AWS mantiene l’inferenza di Claude in India, instradando le richieste tra Mumbai e Hyderabad
AWS ha reso disponibili Claude Opus 5, Sonnet 5 e Haiku 4.5 su Amazon Bedrock tramite l’inferenza cross-Region limitata all’India. Le richieste possono essere instradate tra le regioni AWS di Mumbai e Hyderabad: l’elaborazione resta quindi
AI.info Team · Scritto con l’IA ·
AWS offre ai clienti indiani l’elaborazione locale per tre modelli Claude, ma non garantisce che una richiesta di inferenza rimanga in un unico data center. Annunciata il 29 settembre, l’opzione di Amazon Bedrock instrada le richieste tra le regioni AWS di Mumbai e Hyderabad, mantenendo l’inferenza in India ma consentendo a prompt e risultati di spostarsi tra le due località.
La novità aggiunge un percorso limitato all’India per Claude Opus 5, Claude Sonnet 5 e Claude Haiku 4.5 di Anthropic. AWS afferma che i clienti possono anche continuare a usare l’inferenza cross-Region globale già disponibile su Bedrock. Il nuovo profilo geografico è pensato per i carichi di lavoro la cui elaborazione deve rimanere nel Paese, attingendo al contempo alla capacità di entrambe le regioni indiane.
Instradamento limitato all’India, non elaborazione in un’unica regione
Il profilo di inferenza geografico di Amazon Bedrock riceve una richiesta in una regione di origine e la instrada verso una regione di destinazione inclusa nel profilo. Per l’India, AWS indica come regioni consentite ap-south-1 a Mumbai e ap-south-2 a Hyderabad. Il profilo non instrada l’inferenza fuori dall’India, ma può inviare una richiesta da una di queste regioni all’altra per sfruttare la capacità disponibile.
La distinzione conta per le organizzazioni le cui regole impongono l’elaborazione nel Paese, ma non richiedono che un carico di lavoro resti in una sola città o in una sola regione AWS. AWS descrive l’instradamento come un modo per attingere a un bacino più ampio di risorse di calcolo e sostenere il throughput quando la domanda è più elevata. Afferma che il traffico viaggia sulla sua rete con crittografia durante il transito.
Gli autori di AWS scrivono: «I vostri prompt di input e i risultati di output potrebbero spostarsi tra queste due regioni». Aamna Najmi, Ayan Ray, Eugenio Soltero e Sofian Hamiti, AWS La precisazione indica che l’annuncio riguarda la permanenza dei dati all’interno del Paese, non la promessa che restino nella regione da cui un’applicazione avvia la richiesta.
Cosa dice AWS sulla conservazione e sulla revisione
AWS afferma che i dati dei clienti non vengono conservati nella regione di destinazione e rimangono in quella di origine. Afferma inoltre che Bedrock adotta per impostazione predefinita un modello che non conserva i dati, il che significa che non memorizza gli input né gli output dei modelli. Queste dichiarazioni sulla conservazione vanno distinte dalla descrizione dell’instradamento: prompt e risultati generati possono spostarsi tra Mumbai e Hyderabad durante l’elaborazione di una richiesta.
La descrizione del modello che non conserva i dati prevede una precisazione. AWS afferma che alcuni modelli potrebbero richiedere una revisione umana se i classificatori automatici di sicurezza segnalano dei contenuti. L’annuncio rimanda i clienti alla documentazione di Bedrock sulla conservazione dei dati per ulteriori dettagli: le organizzazioni con requisiti rigorosi per il trattamento dei dati dovranno quindi valutare questa condizione alla luce delle proprie politiche.
Tre API e un ambiente di prova nella console
I clienti possono provare i modelli nell’ambiente di prova testuale della console di Amazon Bedrock oppure richiamarli tramite la Messages API di Anthropic, la InvokeModel API di Bedrock o la Converse API. Il profilo geografico per l’India è disponibile tramite l’endpoint bedrock-runtime. Gli esempi di AWS usano gli ID del profilo per l’India con la regione di Mumbai come origine; il profilo può instradare le richieste verso Hyderabad quando la destinazione definita e la capacità disponibile lo richiedono.
Secondo AWS, gli addebiti e l’utilizzo delle quote sono attribuiti all’account nella regione di origine, dove vengono registrati anche i log di CloudWatch e CloudTrail. Questa configurazione offre ai clienti indiani un percorso di elaborazione interno al Paese che si estende su due regioni AWS, con il confine fissato alle frontiere dell’India anziché a un singolo endpoint regionale.