The Pulse
AWS presenta un modello decisionale open source 2B per gli agenti di IA
AWS ha presentato Strands Decider 2B, un modello open source che sceglie tra risposte predefinite e restituisce punteggi di confidenza. Il modello è progettato per funzionare in locale e gestire le decisioni nei flussi di lavoro degli agent
AI.info Team · Scritto con l’IA ·
AWS affida a un modello le scelte ordinarie degli agenti
Il 1 ottobre Amazon Web Services ha presentato Strands Decider 2B, un modello open source progettato per scegliere tra risposte predefinite anziché generare testo. Secondo AWS, gli sviluppatori possono eseguirlo in locale e usarlo nei flussi di lavoro degli agenti, dove un modello linguistico di grandi dimensioni potrebbe non essere necessario a ogni passaggio.
Il modello restituisce una scelta e un punteggio di confidenza. È quindi adatto a compiti circoscritti, come decidere che cosa debba fare un agente al passaggio successivo, lasciando la conversazione aperta e i ragionamenti più complessi a un modello linguistico generalista. L’approccio mira a offrire agli sviluppatori un passaggio decisionale più rapido e potenzialmente meno costoso, senza chiedere a un generatore di testo di gestire ogni piccola valutazione.
Marc Brooker ha realizzato un prototipo dopo aver visto Jev
Marc Brooker, ingegnere di spicco di Amazon, ha avviato il progetto dopo aver visto Jev, un modello decisionale di TypeSafe, e aver tentato di crearne una propria versione. Il suo prototipo ha raggiunto per breve tempo il primo posto nella classifica Jevbench tra i modelli delle sue dimensioni; gli ingegneri di AWS lo hanno poi perfezionato per la pubblicazione tramite Strands Labs, che lavora a strumenti e protocolli per la messa in opera degli agenti di IA.
Brooker ha detto che le conversazioni con i clienti hanno contribuito a far emergere la necessità di uno strumento più specifico. «Ciò che inizialmente ha suscitato il mio interesse per questa categoria di modelli è che sono perfetti per decidere in un passaggio di un flusso di lavoro: ‹qual è la prossima cosa che devo fare qui, in base al punto in cui mi trovo?›», ha detto a TechCrunch. Ha spiegato che il vantaggio sta in un passaggio del flusso di lavoro che può essere più affidabile grazie ai punteggi di confidenza e a un insieme chiuso di risposte, con una latenza inferiore e costi potenzialmente più bassi.
Le scelte sostituiscono il testo generato
Strands Decider usa la struttura di base di un modello linguistico, ma invece di produrre una risposta scritta sceglie tra le opzioni fornite per il compito. Questa limitazione mantiene la risposta entro l’insieme definito dallo sviluppatore, ma non garantisce che la risposta scelta sia corretta. Il punteggio di confidenza offre al software che lo utilizza un ulteriore segnale da considerare per decidere se proseguire, chiedere una verifica o intraprendere un’altra azione.
Il modello è disponibile come progetto open source e, secondo AWS, è abbastanza piccolo da funzionare in locale. Il progetto riflette una divisione dei compiti: un modello decisionale gestisce scelte vincolate e ripetitive, mentre un modello linguistico più ampio può continuare a occuparsi dei compiti che richiedono un ragionamento più articolato o la generazione di contenuti.
TypeSafe mette in dubbio che il settore possa dare risultati
Strands Decider arriva mentre altri sviluppatori esplorano la stessa categoria di modelli, tra cui TypeSafe con Jev. Il numero crescente di implementazioni indica un interesse per scelte rapide e circoscritte nell’automazione del software, ma solleva anche la questione se risultati elevati nei benchmark si tradurranno in un comportamento utile in diversi compiti reali.
Diogo Almeida, fondatore e amministratore delegato di TypeSafe, ha messo in guardia dal considerare questa nuova attività una prova dell’esistenza di una concorrenza matura. «L’attuale ondata sembra composta più da persone del machine learning che vogliono implementare un’architettura interessante che da un team profondamente impegnato a rendere utile l’intelligenza», ha detto a TechCrunch.