The Pulse
AWS rende AgentCore V2 basato su snapshot l’impostazione predefinita per i nuovi runtime in alcune regioni selezionate
I nuovi runtime Amazon Bedrock AgentCore utilizzano per impostazione predefinita una versione basata su snapshot in alcune regioni AWS selezionate. AgentCore Runtime V2 ripristina gli ambienti inizializzati per le nuove sessioni e AWS segnala un avvio più rapido per le sessioni che utilizzano un’immagine container da 2 GB.

I nuovi runtime di Amazon Bedrock AgentCore usano ora per impostazione predefinita una versione basata su snapshot in alcune regioni AWS selezionate, sostituendo la ripetuta inizializzazione delle sessioni con un ambiente ripristinato. In un post tecnico del 13 novembre, AWS ha descritto come AgentCore Runtime V2 prepari un agente una volta e ripristini quello stato per ogni nuova sessione.
AWS afferma che le sessioni con un’immagine container da 2 GB si avviano in meno di 2 secondi al 75° percentile, rispetto ai 29,7 secondi della generazione precedente. Il 12 novembre l’azienda ha impostato V2 come versione predefinita per i nuovi runtime nelle regioni elencate.
Dove si applica l’impostazione predefinita
I runtime esistenti restano sulla versione attuale finché i clienti non li migrano. I clienti possono selezionare V2 quando creano o aggiornano un runtime, anche in una regione in cui non è ancora la versione predefinita; possono anche selezionare V1 per un nuovo runtime.
L’impostazione predefinita si applica in regioni che includono US East, US West, Canada Central, South America e diverse località in Europa e nell’Asia Pacifico. AWS elenca anche località come Europe Milan, Spain e Stockholm, e Asia Pacific Malaysia, Thailand e Tokyo.
Come viene creato lo snapshot
Con V1, AgentCore scarica l’immagine container, la avvia ed esegue il codice di inizializzazione prima che una nuova sessione possa elaborare la sua prima richiesta. Con V2, il runtime avvia il container quando viene creato o aggiornato e attende una risposta che segnali che GET /ping è operativo, che deve arrivare entro 120 secondi.
Quindi svuota la cache dei file del sistema operativo, congela la microVM e ne archivia la memoria e il disco sotto forma di snapshot. La creazione o l’aggiornamento di un runtime V2 richiede alcuni minuti, durante i quali viene creato lo snapshot.
Ogni nuova sessione ripristina lo snapshot in una nuova microVM, con il processo che riprende insieme agli oggetti e ai client inizializzati. I file dell’immagine vengono caricati secondo necessità: un blocco viene recuperato quando la sessione lo legge per la prima volta. La cache dei file non viene mantenuta, quindi leggere un file durante l’inizializzazione senza conservarne i contenuti non rende più rapida quella lettura dopo il ripristino.
Cambiamenti per chi sviluppa agenti
Il post consiglia di spostare nell’inizializzazione le attività riutilizzabili, come le importazioni, la creazione dei client e il caricamento dei dati statici, anziché rimandarle alla prima richiesta. I dati conservati in un oggetto di processo o in un file system basato su RAM sono disponibili dopo il ripristino dello snapshot.
Le connessioni di rete richiedono una gestione diversa: dopo il ripristino, le connessioni aperte diventano obsolete. AgentCore supporta anche hook di build per casi come i binari dei browser o gli strumenti a riga di comando, che non possono conservare nel processo dell’agente ciò di cui hanno bisogno. Conservare più dati in memoria aumenta le dimensioni dello snapshot e comporta addebiti per quella memoria.
Misurare l’avvio
AgentCore pubblica metriche di Amazon CloudWatch sul tempo al primo byte e sull’overhead della piattaforma. In V2, il tempo di inizializzazione non rientra in quello di una richiesta: viene impiegato durante la creazione dello snapshot e si aggiunge al tempo necessario perché un runtime sia pronto.
Il runtime porta inoltre le sessioni fino a 8 vCPU e 32 GB di memoria e supporta immagini container fino a 10 GB. AWS afferma che la memoria viene recuperata entro pochi minuti dal rilascio e che gli agenti multi-turno possono ridurre fino al 68% la memoria fatturata per sessione.
Fonti
Aziende in questa notizia
Notizie correlate
- AWS amplia il runtime AgentCore per sessioni più ampie degli agenti IA
- AWS illustra il monitoraggio dei costi per utente e i limiti per gli strumenti di IA Bedrock
- Amazon Bedrock aggiunge la ricerca nelle tabelle dei fogli di calcolo
- H Company rende disponibili gli agenti di IA su AWS European Sovereign Cloud
- AWS illustra la distribuzione dell’anteprima di ricerca di OpenFold3 su SageMaker