Vai al contenuto
AI.info

The Pulse

AWS rinnova AgentCore Runtime con memoria elastica e snapshot

AWS ha rilasciato una nuova versione di Amazon Bedrock AgentCore Runtime che recupera la memoria inutilizzata delle sessioni e ripristina snapshot preparati in precedenza per rendere più prevedibili gli avvii a freddo. L’azienda afferma che

AWS rinnova AgentCore Runtime con memoria elastica e snapshot

AI.info Team · Scritto con l’IA · verificato ·

AWS affronta i due costi che complicano AgentCore

AWS sta modificando il modello di esecuzione alla base di Amazon Bedrock AgentCore Runtime, affrontando una tensione tra la convenienza economica del serverless e i ritardi di avvio che possono verificarsi quando gli agenti in produzione usano container di grandi dimensioni o arrivano a raffiche.

Il nuovo runtime, annunciato il 18 settembre 2026, recupera la memoria quando le sessioni smettono di utilizzarla e avvia nuove istanze da snapshot preparati in precedenza, anziché inizializzare ogni ambiente da zero. Secondo AWS, le modifiche sono pensate per mantenere il modello scale-to-zero di AgentCore, rendendo al tempo stesso gli avvii a freddo meno dipendenti dalle dimensioni dei container e dalla concorrenza.

AgentCore Runtime offre già ambienti di esecuzione isolati, scalabilità automatica e fatturazione basata sui consumi. La versione precedente poteva però trattenere la memoria fino alla fine di una sessione: un agente di lunga durata o con attività a raffiche poteva quindi continuare a pagare per il picco di memoria raggiunto anche dopo che il carico di lavoro era diminuito. Gli avvii a freddo diventavano inoltre più lenti con l’aumento delle dimensioni delle immagini e del numero di sessioni avviate contemporaneamente.

Due secondi con immagini da 200 MB a 2 GB

AWS ha testato il nuovo runtime e quello originale con un agente echo vuoto che restituiva il suo input senza chiamare un modello o uno strumento. Il test ha usato un client Python su un’istanza Amazon Elastic Compute Cloud in us-west-2 che chiamava agenti in us-east-1 attraverso la rete internet pubblica. AWS ha inviato 5000 invocazioni a freddo per agente, utilizzando cinque dimensioni delle immagini ed entrambe le versioni del runtime.

In questa configurazione, il nuovo runtime ha registrato una latenza di avvio a freddo di circa due secondi al 75º percentile per immagini da 200 MB a 2 GB. Il runtime originale è passato da circa 5,4 secondi per l’immagine più piccola a quasi 30 secondi per quella più grande, afferma AWS.

Le misurazioni includono il tempo di andata e ritorno sulla rete tra le regioni, quindi non rappresentano una misura pura del tempo di avvio interno della piattaforma. AWS distingue inoltre l’avvio del runtime dal tempo che un agente dedica al ragionamento e alle chiamate ai modelli. Nel test echo, il codice dell’agente è stato eseguito in circa 34 millisecondi al 75º percentile, lasciando l’avvio come principale fonte di ritardo in quel particolare benchmark.

Il risultato è una misurazione di AWS, non un confronto indipendente con altri servizi di hosting per agenti. Mostra però il problema specifico che AgentCore è progettato per affrontare: le dimensioni dell’immagine hanno un effetto molto minore sulla risposta iniziale del nuovo runtime.

AgentCore carica una volta, poi ripristina

Il nuovo runtime cambia il modo in cui AWS prepara ogni sessione. Quando un runtime viene creato o aggiornato, AgentCore avvia il container, attende che risulti operativo e acquisisce uno snapshot dopo il completamento dell’inizializzazione iniziale. Il caricamento degli artefatti del modello e il recupero della configurazione statica possono quindi avvenire prima dell’inizio di una singola sessione.

Le nuove istanze ripristinano lo stato così preparato anziché ripetere l’intera sequenza di inizializzazione. AWS elimina inoltre cache e memoria transitoria dallo snapshot: secondo l’azienda, questo mantiene il profilo ripristinato pressoché stabile all’aumentare delle dimensioni dell’immagine container.

L’approccio ricorda l’avvio basato su snapshot descritto nella documentazione per sviluppatori di AgentCore. La documentazione afferma che la più recente piattaforma V2 avvia gli agenti da uno snapshot per mantenere uniformi gli avvii a freddo indipendentemente dai livelli di concorrenza e dalle dimensioni delle immagini.

La fatturazione della memoria si avvicina all’uso effettivo

La gestione della memoria è l’altra grande novità. Il nuovo runtime parte con un’occupazione di memoria residente più contenuta, carica le pagine di memoria quando il carico di lavoro vi accede e recupera memoria quando l’applicazione la rilascia o i dati nella cache smettono di essere utilizzati.

Nel modello precedente, la memoria allocata rimaneva associata alla sessione fino alla sua conclusione. Il nuovo modello tiene invece traccia delle variazioni durante la vita della sessione. I clienti pagano una tariffa più alta per il servizio di memoria, ma AWS sostiene che il minore consumo può ridurre il conto totale per gli agenti che trascorrono lunghi periodi inattivi o alternano raffiche di attività e pause.

Questo compromesso dipenderà dal profilo di allocazione di ciascun agente. Un carico di lavoro continuamente attivo potrebbe avere meno memoria inutilizzata da recuperare, mentre un agente che attende tra una chiamata a uno strumento e l’altra o gestisce eventi irregolari ha maggiori possibilità di ridurre l’occupazione di memoria. AWS presenta il nuovo sistema tariffario come un modo per addebitare la memoria effettivamente in uso anziché la quantità massima precedentemente occupata da una sessione.

V2 è disponibile ora, con ulteriori controlli in programma

Gli sviluppatori possono attivare il nuovo runtime impostando il parametro platformVersion su V2 quando creano o aggiornano un AgentCore Runtime. AWS ha anche pubblicato esempi e un esempio di test di carico per valutare il comportamento degli avvii a freddo nell’account del cliente.

Il rilascio non conclude la roadmap di AWS per AgentCore Runtime. Tra le funzionalità previste, AWS elenca sconti sulla capacità di base riservata per le sessioni con carichi costanti, configurazioni con più memoria e spazio di archiviazione, supporto per microVM x86, sessioni sospendibili e ripristinabili tramite snapshot della memoria e identità con ambiti delimitati per gli agenti non supervisionati.

Queste aggiunte indicano una possibile distinzione nel modo in cui i team di produzione potrebbero usare il servizio. Gli agenti con attività a raffiche possono continuare a usare il modello di consumo scale-to-zero, mentre per i carichi di lavoro costanti si potrebbe in futuro scegliere una soglia minima di memoria riservata. I carichi di lavoro di lunga durata e specializzati possono anche usare le istanze di runtime AgentCore separate, che AWS ha reso generalmente disponibili ad agosto per l’esecuzione gestita basata su EC2, sessioni della durata massima di 14 giorni e infrastrutture dotate di GPU.

Per la versione disponibile il 18 settembre, il cambiamento concreto è più circoscritto: AgentCore Runtime V2 ripristina un ambiente preparato in precedenza, recupera la memoria durante una sessione e richiede agli sviluppatori di attivarlo tramite un’unica impostazione della versione della piattaforma.

Fonte

Notizie correlate

Esplora

Altri articoli