The Pulse
AWS apre le Training Sessions serverless per i cicli di addestramento personalizzati dei modelli linguistici di grandi dimensioni
Il 22 ottobre AWS ha reso generalmente disponibili le SageMaker AI Serverless Training Sessions, che consentono agli sviluppatori di scrivere cicli personalizzati di post-addestramento senza predisporre un’infrastruttura GPU. Il servizio ge
AI.info Team · Scritto con l’IA · verificato ·
AWS rende disponibili cicli personalizzati di post-addestramento senza che i team debbano predisporre o gestire un’infrastruttura GPU. Annunciate il 22 ottobre, le SageMaker AI Serverless Training Sessions sono ora generalmente disponibili: gli sviluppatori controllano la logica di addestramento, mentre AWS gestisce l’allocazione delle GPU, l’esecuzione distribuita, il ripristino dopo i guasti e l’archiviazione dei checkpoint.
La distinzione è tra scrivere l’algoritmo e gestire le macchine che lo eseguono. Gli sviluppatori possono definire funzioni di perdita, segnali di ricompensa e fasi di apprendimento per rinforzo personalizzati; SageMaker AI si occupa delle operazioni che richiedono più potenza di calcolo. Secondo AWS, gli utenti pagano per i token elaborati e la fatturazione si interrompe mentre il loro ambiente valuta un gruppo di risposte.
Cicli personalizzati, GPU gestite
Il lancio amplia le opzioni serverless di personalizzazione già offerte da SageMaker AI, tra cui il fine-tuning supervisionato, l’ottimizzazione diretta delle preferenze e i metodi di apprendimento per rinforzo. AWS offre già un apprendimento per rinforzo multi-turno gestito, ma afferma che alcuni clienti volevano definire le proprie funzioni di perdita, ricompense e fasi di addestramento all’interno di un unico ciclo. Le Training Sessions rispondono a questa esigenza, anziché sostituire le tecniche gestite.
Questo controllo è importante per l’addestramento degli agenti, in cui un modello può dover chiamare strumenti, ricevere feedback e riprovare prima che sia possibile valutare un compito. I team possono eseguire il ciclo di addestramento e la funzione di ricompensa nel proprio ambiente, collegando un agente a strumenti o simulatori. La sessione fornisce un componente di campionamento per generare risposte e un componente di addestramento per calcolare i gradienti e aggiornare i pesi del modello.
Campionamento, valutazione e aggiornamento
AWS illustra il flusso di lavoro con Group Relative Policy Optimization, o GRPO. Il ciclo scritto dallo sviluppatore richiede diverse risposte a un prompt, le valuta con un verificatore, un modello di ricompensa o un sistema di test, quindi passa i punteggi al componente di addestramento. Le chiamate a forward_backward() calcolano i gradienti, mentre optim_step() applica l’aggiornamento dei pesi; il ciclo aggiorna poi il componente di campionamento con i nuovi pesi e si ripete.
Questa struttura riunisce la generazione e gli aggiornamenti del modello in una sessione gestita, lasciando al cliente la logica di valutazione. La separazione può aiutare i team che hanno bisogno di ricompense legate a un database privato o a un ambiente di test su misura, ma significa anche che devono comunque creare e gestire tale ambiente e scrivere il ciclo che ne coordina il funzionamento.
Quattro modelli al lancio
Al lancio, le Training Sessions supportano gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B e Qwen3.8-27B. Gli sviluppatori possono partire da un ambiente di sviluppo integrato installando il SageMaker Python SDK su Linux o macOS con Python dalla versione 3.10 alla 3.12, per poi clonare il cookbook di AWS. Secondo AWS, in SageMaker Studio è possibile avviare un ambiente di sviluppo pronto all’uso in meno di 20 secondi.
L’annuncio segnala anche competenze per gli agenti che possono aiutare nella preparazione dei dati, nella scelta della tecnica, nell’addestramento, nella valutazione e nel deployment. AWS elenca SageMaker Studio, Kiro, Claude Code, Codex e GitHub Copilot tra gli ambienti in cui l’agente può operare. Questi strumenti guidano il flusso di lavoro, ma non eliminano la necessità di decidere che cosa costituisca una risposta soddisfacente del modello.
Il controllo dei clienti parte da una scelta limitata di modelli
Ogni sessione usa un ruolo di esecuzione di AWS Identity and Access Management creato dal cliente. I team possono configurare la propria chiave di cifratura e le impostazioni del cloud privato virtuale, mentre i dati di addestramento e i checkpoint restano nei bucket Amazon S3 e nella Regione AWS scelti. AWS afferma di non usare i dati dei clienti né i pesi personalizzati per addestrare un altro modello.
Rob Gontarek di ImagineSoftware, vicepresidente senior della data science, ha dichiarato che l’API del servizio ha dato ai ricercatori il controllo diretto sui passaggi forward e backward, sul campionamento e sull’aggiornamento dell’ottimizzatore durante la realizzazione di un modello per il triage delle richieste di rimborso sanitario respinte. Nitin Wagh, amministratore delegato di Karini AI, ha detto che il team ha usato il servizio per il fine-tuning di gpt-oss-20b per chiamate multi-turno a strumenti basate su un grafo della conoscenza Amazon Neptune: «La configurazione ha funzionato subito, senza regolazioni manuali né difficoltà legate all’esaurimento della memoria».
L’annuncio non pubblica le tariffe per token né un calendario per l’aggiunta di modelli: restano così aperte due questioni pratiche per i team che valutano il passaggio da un addestramento gestito in proprio. Per ora, i modelli supportati sono quattro e la fattura dipende dai token elaborati, anziché dalla capacità riservata.