The Pulse
Strands Agents lancia un modello 2B per le decisioni degli agenti
Strands Agents ha lanciato Decider 2B, un modello aperto progettato per prendere rapidamente decisioni sì-o-no e scegliere tra opzioni nei flussi di lavoro degli agenti di IA. Il modello può funzionare in locale, ma i suoi sviluppatori affe
AI.info Team · Scritto con l’IA ·
Strands Agents scommette sul fatto che alcune decisioni degli agenti non richiedano un modello che generi testo. Il 1° ottobre, il team ha lanciato Strands Decider 2B, un modello aperto progettato per scegliere tra opzioni o assegnare un punteggio a un prompt, non per scrivere risposte. Il compromesso è esplicito: il modello più piccolo è pensato per gestire scelte rapide e circoscritte, mentre ai modelli linguistici generalisti restano i compiti più difficili di ragionamento e generazione.
Un modello decisionale, non un chatbot più piccolo
Il compito di Decider è rispondere a domande come: un argomento proposto per uno strumento trova riscontro nel messaggio dell’utente? A quale team va indirizzata una richiesta? Quale modello dovrebbe occuparsi di un compito? A differenza di un modello linguistico convenzionale, sceglie tra opzioni o assegna punteggi anziché generare testo arbitrario. Secondo Strands, questa impostazione consente di fornire una decisione con un punteggio di confidenza e di rispondere in modo efficiente a più domande sullo stesso input.
Il modello parte dal corpo del modello linguistico Qwen3.5-2B, ma ne rimuove la testa di generazione del testo e la sostituisce con una testa a puntatore che assegna punteggi alle risposte candidate. Strands afferma che la nuova testa ha poco più di un milione di parametri e che il corpo del modello viene sottoposto a fine-tuning con un adattatore LoRA di rango 16. Il risultato è pensato per prendere una decisione in un solo passaggio, invece di generare un flusso di testo.
«Il rovescio della medaglia è che questo approccio (generare tutti gli output in un unico passaggio parallelo) è nettamente meno efficace dei modelli di ragionamento nel risolvere problemi complessi.»
Marc Brooker, Mike Chambers e Fabio Nonato de Paula, autori dell’annuncio di Strands Agents
Le prestazioni dichiarate hanno un limite di benchmark
Strands riferisce un tempo mediano per prendere una decisione di circa 115 millisecondi su una Nvidia RTX 3090 locale, con una latenza che aumenta in modo approssimativamente lineare al crescere delle dimensioni del compito. Il team riferisce una mediana di circa 153 millisecondi per i compiti piccoli su un M3 MacBook. Sono misurazioni dell’azienda, non una garanzia per ogni dispositivo o carico di lavoro.
Secondo Strands, nell’insieme pubblico di JevBench Decider si è classificato terzo tra 33 modelli nella classe 2B e primo tra 30 dopo l’esclusione dei modelli con poco più di 2 miliardi di parametri. Il team afferma inoltre che ha risposto correttamente a tutti i compiti facili di JevBench. Questi risultati riguardano un benchmark circoscritto e non dimostrano che il modello possa sostituire un sistema più grande nei compiti aperti affidati agli agenti.
L’obiettivo è subordinare la prossima mossa dell’agente a una verifica
Strands indica come possibili impieghi l’instradamento verso i modelli, la scelta degli strumenti, le misure di protezione, le valutazioni e la gestione della memoria e del contesto. Il suo esempio pratico abbina un agente Strands locale a un modello Decider locale: quando un utente chiede che tempo fa senza indicare una città, l’agente più grande propone una chiamata a uno strumento usando una località ipotizzata. Decider verifica se gli argomenti proposti provengano dalla conversazione e se la chiamata debba attendere un chiarimento.
Nell’esempio, l’intervento blocca la chiamata priva di riscontro e rimanda l’agente a chiedere a quale città si riferisse l’utente. Il post sottolinea che le domande, le soglie e la policy dell’esempio sono state scelte manualmente; presenta il flusso di lavoro come un’illustrazione, non come una raccomandazione. Gli sviluppatori possono installare lo strumento da riga di comando strands-decider e accedere al repository del codice e ai pesi del modello.
I compiti complessi restano ai modelli più grandi
Decider è progettato come componente di supporto, non come assistente autonomo. Secondo l’annuncio di Strands, i suoi output limitati lo rendono inadatto alla programmazione, alle conversazioni, alla sintesi e ai problemi che richiedono un ragionamento in più passaggi. La divisione dei compiti proposta è concreta: usare un modello linguistico più grande per i compiti difficili o aperti e affidare a Decider verifiche circoscritte, come accertare, prima che venga eseguita, se una chiamata a uno strumento trovi riscontro nella conversazione.