Vai al contenuto
AI.info

The Pulse

Microsoft Copilot SDK 2.0 supporta sessioni di agenti condivise

La versione aggiornata di Copilot SDK di Microsoft può ospitare più sessioni di agenti in un unico processo, anziché richiedere un container per ciascuna. L’aggiornamento aggiunge anche identità specifiche per sessione e opzioni per riprendere le conversazioni tra processi.

Microsoft Copilot SDK 2.0 supporta sessioni di agenti condivise

Microsoft Copilot SDK 2.0 consente agli sviluppatori di eseguire più sessioni di agenti in un unico processo, invece di richiedere un container separato per ogni sessione. Microsoft ha presentato l’aggiornamento a Ignite il 17 novembre, rinominando il precedente GitHub Copilot SDK e aggiungendo identità, strumenti e opzioni di archiviazione specifici per sessione.

In precedenza, ogni sessione usava il proprio container, anche quando il lavoro non lo richiedeva. Il nuovo runtime può supportare applicazioni che vanno dagli assistenti di chat a sistemi di agenti più complessi, mentre i container restano un’opzione per il lavoro che richiede una separazione più netta nell’esecuzione del codice o nella gestione dei file.

Sessioni condivise e prestazioni

Il runtime è stato ricostruito in Rust. Microsoft afferma che, a parità di carico già riscaldato, creare un client e una sessione e completare un turno ha richiesto 55,3 millisecondi con il core Rust in-process, contro 5,25 secondi con l’interfaccia a riga di comando TypeScript.

Nello stesso confronto, 10 client hanno usato 126 MB di memoria invece di 1.383 MB, mentre il throughput è salito da 7,55 a 120 sessioni al secondo. Questi dati sono misurazioni di Microsoft per il carico specificato.

L’SDK consente ora agli sviluppatori di fornire le credenziali di un utente quando creano una sessione, così le chiamate al modello e agli strumenti vengono attribuite a quell’utente anziché all’identità del server. Una callback del provider di token può richiedere credenziali aggiornate quando i token scadono.

Una modalità vuota avvia le sessioni senza accesso alla shell dell’host, al file system dell’host o agli strumenti predefiniti. Gli sviluppatori possono aggiungere strumenti e specificare quali può usare una sessione; questi vengono eseguiti nel processo dell’applicazione host.

Mantenere le sessioni tra processi

Un registro della sessione tiene traccia di messaggi, chiamate agli strumenti e risultati, piani e checkpoint. Un runtime in grado di leggere il registro può riprendere la sessione con la sua cronologia dopo un riavvio, da un’altra istanza del servizio o su un’altra macchina.

Per impostazione predefinita, lo stato della sessione viene archiviato sul disco del runtime. Un’applicazione può anche fornire il file system tramite sessionFs, collocando lo stato e i file specifici della sessione in un object storage, in un database o in percorsi specifici per tenant. Prima di riprendere una sessione tramite il suo ID, l’applicazione verifica che il chiamante ne sia il proprietario.

Per una sessione attiva condivisa da più client, l’SDK può essere eseguito dietro un host Agent Host Protocol. Il protocollo separato consente ai client di collegarsi a una sessione sincronizzata; Microsoft afferma che l’agent host di VS Code usa questo approccio.

Opzioni di distribuzione e disponibilità

Gli sviluppatori possono mantenere le sessioni in un processo condiviso, fornendo gli strumenti tramite API dell’applicazione, server Model Context Protocol o chiamate web. In questa configurazione, è l’applicazione a imporre l’isolamento, anziché un confine definito da un container, e non sono disponibili né la shell né l’accesso al file system locale.

In un’altra configurazione, un’applicazione può avviare una sessione sul runtime condiviso e spostarla in una sandbox quando serve lavorare con la shell o i file. La sessione mantiene il suo ID, la conversazione e gli strumenti, ma lo spostamento è unidirezionale e richiede un’attesa mentre si avvia la sandbox.

Il runtime predefinito viene eseguito all’interno del processo dell’applicazione tramite un’interfaccia binaria per applicazioni C. Il repository avverte che l’esecuzione nell’host in-process non offre né isolamento dai crash né una sandbox; restano supportate le connessioni tramite sottoprocessi e i server esterni.

L’SDK supporta TypeScript, Python, Go, .NET, Java e Rust. Il repository descrive l’SDK come disponibile a livello generale e afferma che il suo trasferimento all’organizzazione Microsoft fa parte di una transizione graduale. Gli utenti attuali non devono apportare modifiche immediate, anche se i nomi dei pacchetti e la documentazione potrebbero continuare a fare riferimento a GitHub Copilot SDK durante la transizione.

Secondo il repository, per l’uso standard è necessario un abbonamento a GitHub Copilot, ma gli sviluppatori possono invece usare le proprie chiavi API di provider di modelli supportati. Nella fatturazione standard, ogni prompt viene conteggiato ai fini della quota di utilizzo dell’utente e la pagina dei prezzi di Copilot include un piano gratuito con utilizzo limitato.

Fonti

  1. Microsoft
  2. GitHub

Aziende in questa notizia

Notizie correlate

Esplora

Altri articoli