The Pulse
Together AI lancia un servizio di post-addestramento personalizzato per i modelli aperti
Together AI ha presentato un servizio di post-addestramento che consente agli sviluppatori di definire i flussi di addestramento, mentre l’azienda fornisce risorse GPU e infrastruttura. L’annuncio del lancio descrive anche i modelli support
AI.info Team · Scritto con l’IA · verificato ·
Nel post-addestramento, i team di IA devono scegliere tra mantenere il controllo del processo di addestramento ed evitare di costruire e gestire l’infrastruttura necessaria a farlo funzionare. Il 19 ottobre Together AI ha presentato un servizio pensato per offrire entrambe le cose: i clienti definiscono il ciclo di addestramento e scelgono i dati e le ricompense, mentre Together fornisce le risorse GPU e i sistemi di addestramento. L’azienda afferma che il servizio è disponibile per tutti i clienti dopo diversi mesi di accesso anticipato.
Together affida agli sviluppatori il ciclo di addestramento
Together Post-Training supporta l’apprendimento per rinforzo basato sulle ricompense dell’ambiente e il fine-tuning supervisionato su dati etichettati. Gli sviluppatori possono usare i propri ambienti e framework per agenti, aggiungere funzionalità di logging o benchmark esterni e scegliere tra funzioni obiettivo standard per l’addestramento, tra cui cross-entropy, GRPO, CISPO e DPPO. Possono anche calcolare localmente una funzione obiettivo personalizzata e inviarne i gradienti al Trainer di Together.
Il servizio consente esperimenti LoRA, anche con più adattatori che condividono la capacità GPU, e l’addestramento di tutti i pesi per alcuni modelli. Together afferma che le risorse GPU assegnate ai clienti sono dedicate ai loro esperimenti, anziché essere condivise con le richieste di altri utenti. Ogni esperimento abbina un Trainer, che aggiorna i pesi del modello, a istanze Generator che producono rollout; i team possono scegliere l’apprendimento per rinforzo sincrono o asincrono e fare a meno dei generatori per il fine-tuning supervisionato.
Tra i modelli disponibili al lancio figurano Muse Spark Open, GLM 5.3, Kimi K3 e Qwen 3.8-27B. L’azienda afferma di voler aggiungere altri modelli nelle prossime settimane. Le risorse vengono fatturate al minuto-GPU e, per le prime otto settimane dopo il lancio, l’utilizzo delle B200 è offerto a 9 dollari per ora-GPU.
La proposta: modelli personalizzati senza un’infrastruttura di addestramento su misura
La gestione dell’infrastruttura è l’altra metà del prodotto. Together afferma che i suoi sistemi allineano i calcoli di addestramento e inferenza per limitare la deriva della policy e applicano ottimizzazioni alla generazione dei rollout, al parallelismo e al raggruppamento delle sequenze. Per gli agenti che operano su più turni, l’azienda sostiene che la memorizzazione nella cache e l’instradamento riducono i calcoli ripetuti. Si tratta di descrizioni del servizio fornite dal venditore, non di benchmark comparativi pubblicati nell’annuncio.
Dopo l’addestramento, secondo Together, i clienti possono confrontare gli adattatori LoRA tramite un’unica distribuzione dedicata su GPU, anziché avviarne una separata per ogni esperimento. L’azienda afferma inoltre che i checkpoint possono essere trasferiti all’inferenza in produzione a una precisione inferiore, compresa l’inferenza FP4 con pesi fusi, preservando la qualità. È un punto importante per la promessa centrale del prodotto: una sessione di addestramento dovrebbe produrre un modello utilizzabile, non soltanto un checkpoint che richiede un progetto di distribuzione separato.
I primi clienti riferiscono avvii più rapidi
Il post con cui Together ha annunciato il lancio include testimonianze dei primi utenti, tra cui Deel.
«Il servizio è efficiente e ci permette di eseguire fino a cinque esperimenti di apprendimento per rinforzo contemporaneamente con la stessa capacità GPU».
— Anthony Li, direttore associato della data science presso Deel. Li ha anche detto che il team di ricerca di Together ha fornito a Deel indicazioni sulla scelta dei modelli, sulle tecniche di addestramento, sulle funzioni di ricompensa e sull’efficienza dell’addestramento.
Jack & Jill, un’azienda di selezione del personale, ha usato il servizio per addestrare un modello che prevede quali candidati un responsabile delle assunzioni potrebbe voler incontrare. Oliver Normand, ingegnere fondatore, ha affermato che l’azienda ha eguagliato la qualità di un modello closed source nelle valutazioni offline usando un modello open source meno costoso da servire; il post non fornisce dettagli sui benchmark né un confronto dei costi. Adit Jain, ricercatore di Collinear AI, ha detto che l’azienda lavorava con la versione beta del servizio di post-addestramento di Together da aprile e ha usato la versione più recente per avviare sessioni di apprendimento per rinforzo agentico.
Il controllo comporta comunque una dipendenza dal fornitore
Il servizio non elimina la tensione da cui parte l’annuncio: i clienti controllano le proprie procedure di addestramento, ma Together gestisce l’infrastruttura e stabilisce quali opzioni di modelli e hardware sono disponibili. L’addestramento di tutti i pesi è limitato ad alcuni modelli e la tariffa di lancio si applica specificamente all’utilizzo delle GPU B200 nel periodo introduttivo. I team che valutano il servizio dovranno verificare come i modelli supportati, la fatturazione delle risorse e il flusso di distribuzione si adattino ai propri esperimenti.
Together mette inoltre a disposizione guide pratiche per l’addestramento GRPO su GSM8K, funzioni di perdita DPO personalizzate ed esperimenti LoRA in parallelo. La sua guida alla migrazione propone agli utenti dell’API Tinker una modifica di una sola riga all’importazione. Il risultato concreto più chiaro ottenuto da un cliente nell’annuncio è la valutazione offline riferita da Jack & Jill; Together non ne pubblica la configurazione né il punteggio numerico.