The Pulse
Cohere aggiunge memoria per gli agenti e limiti di spesa a North 2
North 2 di Cohere aggiunge una memoria che conserva il contesto degli agenti tra sessioni, flussi di lavoro riutilizzabili e controlli per limitare l’utilizzo dell’IA per utente, gruppo e organizzazione. La piattaforma aziendale supporta an
AI.info Team · Scritto con l’IA ·
In un sondaggio di luglio, un’impresa su cinque non disponeva di un modo per fermare in tempo reale un agente di IA prima che accumulasse costi, anziché scoprirli solo all’arrivo dell’addebito. Cohere punta a colmare questa lacuna nel controllo dei costi con North 2, annunciato il 5 ottobre, aggiungendo limiti di spesa e una memoria che conserva il contesto degli agenti tra sessioni. Il sondaggio ha coinvolto 107 organizzazioni con almeno 100 dipendenti e i partecipanti si sono selezionati autonomamente: il dato descrive quindi quel gruppo, non l’intero mercato delle imprese. North 2 consente inoltre alle aziende di condividere agenti e flussi di lavoro, anziché ricrearli per ogni team.
North 2 affida agli amministratori i limiti sui token
North Admin offre agli amministratori controlli per impostare quote per utente, limiti alla frequenza delle richieste e tetti per l’intera organizzazione. I team possono definire fasce di consumo in base alla frequenza delle richieste e dei token per singoli utenti o gruppi, monitorare l’attività fino al livello del singolo utente o agente e impostare avvisi che segnalino quando si sta per raggiungere un limite. La console gestisce anche ruoli, autorizzazioni e i modelli che i team possono usare. Queste funzioni rendono più facile osservare e contenere la spesa degli agenti, anche se Cohere non ha pubblicato benchmark sulle prestazioni della piattaforma aggiornata.
North 2 è progettato per funzionare con i modelli di Cohere o con quelli che un cliente già utilizza. Questa possibilità di scelta è significativa per le organizzazioni che temono di vincolare i propri flussi di lavoro a un unico fornitore di modelli: secondo Cohere, i modelli, il sistema di orchestrazione, la ricerca e i componenti per gli embedding della piattaforma possono essere cambiati indipendentemente gli uni dagli altri. Le opzioni di distribuzione comprendono il cloud, installazioni on-premises e ambienti completamente isolati dalla rete, offrendo ai clienti diversi modi per mantenere dati e sistemi all’interno della propria infrastruttura.
Memoria condivisa e agenti riutilizzabili
La nuova versione aggiunge anche una memoria che permette agli agenti di conservare il contesto tra sessioni, oltre a librerie in cui i team possono archiviare conoscenze e risorse condivise. I dipendenti possono creare agenti e automazioni a partire da prompt e poi condividerli in tutta l’organizzazione. Le competenze riutilizzabili consentono agli agenti di richiamare funzionalità che altrimenti i team dovrebbero ricreare, mentre un editor visivo di flussi di lavoro e i modelli predefiniti supportano i processi ricorrenti.
Cohere elenca anche la creazione di documenti e app a partire da richieste in linguaggio naturale, con prototipi di elementi come presentazioni, dashboard e applicazioni leggere. I nuovi connettori includono Slack, SharePoint, OneDrive, Outlook, Exchange, Jira, Linear, Notion e GitHub. I connettori per fornitori di dati finanziari, tra cui PitchBook, Crunchbase, Daloopa, FiscalAI, S&P Global e FactSet, sono indicati come previsti, non come già disponibili.
Ai clienti servono ancora prove sui costi e sui risultati
Cohere presenta North 2 come un modo per usare gli agenti con controlli organizzativi più solidi, non come un aggiornamento delle prestazioni dei modelli. L’annuncio dell’azienda non riporta risultati di benchmark per la piattaforma. VentureBeat ha riferito che Cohere non aveva fornito benchmark né pubblicato i prezzi di North; l’azienda ha dichiarato alla testata che il costo di distribuzione dipende dalla scala e dalla complessità, comprese infrastruttura, utilizzo, assistenza e personalizzazione.
Una testimonianza di un cliente nell’annuncio di Cohere evidenzia il valore che attribuisce a quei controlli. «North offre alle imprese una base sicura e pratica per trasformare l’IA agentica in un valore concreto per il business», ha dichiarato Yohan Jin, responsabile dell’AI Center di LG CNS. Cohere afferma che LG CNS usa North internamente e lo propone ai clienti in Corea del Sud, ma l’annuncio non fornisce risultati quantificati di queste distribuzioni.
La governance è parte della proposta commerciale
I controlli dei costi di North Admin si affiancano alle funzioni di sicurezza descritte da Cohere, tra cui misure di protezione a livello di agente per filtrare i contenuti e verificare le risposte dei modelli. Le politiche sull’autonomia possono limitare gli agenti alle azioni autorizzate e sottoporre le decisioni critiche a revisori umani. Cohere afferma inoltre che North possiede le certificazioni SOC 2 Type 2, ISO 27001 e ISO 42001.
Il lancio affronta una debolezza misurabile: il sondaggio condotto da VentureBeat a luglio ha rilevato che il 21% dei partecipanti si affidava a registri consultabili a posteriori, senza un modo per fermare in tempo reale un utilizzo incontrollato degli agenti. La capacità dei controlli di North 2 di ridurre i costi imprevisti dipenderà da come i clienti configureranno i limiti e da quanto questi saranno adatti ai flussi di lavoro reali. Cohere non pubblica un prezzo fisso per North: i preventivi per la distribuzione, così come le prove indipendenti di riduzioni dei costi o miglioramenti delle prestazioni, restano dettagli concreti che i potenziali acquirenti dovranno chiedere all’azienda.