The Pulse
Microsoft aggiunge i Guardian Agents a Project Perception
Microsoft afferma che i Guardian Agents aiuteranno i team di sicurezza a indagare sui cambiamenti nei rischi legati agli agenti di IA e a raccomandare o applicare misure di contenimento. L’annuncio del 19 ottobre descrive anche un ampliamen
AI.info Team · Scritto con l’IA · verificato ·
«Gli agenti saranno adottati su larga scala solo se saranno affidabili su larga scala.»
Terrell Cox, vicepresidente aziendale e vice responsabile della sicurezza informatica per la sicurezza dei clienti, Microsoft
Microsoft sta aggiungendo i Guardian Agents a Project Perception, il suo sistema di sicurezza per monitorare e affrontare i rischi legati agli agenti di IA usati all’interno delle organizzazioni. In un post pubblicato il 19 ottobre da Nadim Abdo, l’azienda descrive questi agenti come uno strumento per indagare sui cambiamenti del rischio e raccomandare o applicare misure di contenimento, senza sostenere che gli agenti già in uso siano intrinsecamente malevoli.
L’annuncio presenta gli agenti come potenziali «interni» perché possono ottenere accesso ai dati, alle applicazioni e agli strumenti aziendali. Possono commettere errori, reagire a input manipolati o cambiare i propri piani al mutare del contesto. La risposta proposta da Microsoft è monitorare continuamente l’attività degli agenti e adeguare i controlli al variare del rischio.
I Guardian Agents si occupano della risposta continua
Microsoft afferma che le organizzazioni possono usare playbook per definire gli obiettivi di sicurezza e coordinare le azioni di protezione, mentre le persone stabiliscono le policy, i limiti delle approvazioni e le regole di delega. I Guardian Agents indagherebbero sulle cause dei cambiamenti nel rischio di un agente, esaminerebbero gli elementi pertinenti e raccomanderebbero o applicherebbero misure di contenimento. Secondo l’azienda, possono anche usare quanto appreso dalle indagini per rafforzare le policy.
Microsoft presenta il sistema come un modo per gestire attività di sicurezza che sarebbe difficile coordinare manualmente tra migliaia, o centinaia di migliaia, di agenti. Le persone mantengono l’autorità sugli obiettivi e sulle decisioni dalle conseguenze rilevanti, si legge nel post. Il post non descrive un Guardian Agent che decida autonomamente quale debba essere la policy di sicurezza di un’organizzazione.
Microsoft estende il rilevamento a 60 tipi di agenti locali
L’annuncio afferma inoltre che Microsoft Security sta estendendo il rilevamento ad altri 35 tipi di agenti installati localmente, portando a 60 il totale dei tipi supportati. Tra gli esempi citati figurano Claude Code, OpenAI Codex e GitHub Copilot. Microsoft afferma che le organizzazioni possono aggiungere gli agenti rilevati a un registro unificato per seguirne la titolarità, l’attività e il rischio.
L’azienda sta inoltre estendendo Microsoft Entra Agent ID ad altre tipologie di agenti, tra cui gli agenti locali e quelli precedentemente sconosciuti individuati tramite i sensori di sicurezza. L’obiettivo è dare a ogni agente un’identità distinta da quella dell’utente umano o di chi lo promuove. Secondo Microsoft, tale identità può consentire di attribuire le azioni, stabilire la titolarità, gestire le autorizzazioni e applicare le policy, anche per gli agenti non originariamente integrati con Microsoft Security.
Autorizzazioni limitate al compito e controlli esterni
Le Dynamic Permissions proposte da Microsoft conferirebbero a un agente l’autorità necessaria per un compito specifico, limitandola al tempo necessario per completarlo. Una policy valida per l’intera organizzazione fisserebbe un limite massimo: un agente non potrebbe ottenere più autorità di quanta ne abbia il suo utente. Secondo il post, le azioni con un impatto maggiore possono richiedere l’approvazione verificata di una persona.
L’azienda sostiene inoltre che gli agenti dovrebbero operare in ambienti controllati, anziché ereditare un accesso illimitato a un dispositivo. Cita Microsoft Execution Container come mezzo per fornire un accesso alle risorse necessarie regolato da policy, mantenendo al contempo monitoraggio e applicazione delle regole fuori dalla portata dell’agente. Controlli separati, afferma Microsoft, dovrebbero mediare le chiamate di un agente a strumenti, API, risorse e altri agenti.
Il rischio può cambiare senza modificare le impostazioni
Il sistema Dynamic Agent Risk di Microsoft è progettato per combinare segnali relativi a identità, dati, endpoint, cloud, rete, ambiente di esecuzione e attività degli agenti. L’esempio fornito dall’azienda è un agente incaricato di approvare le spese che inizialmente dispone di un accesso appropriato, ma incontra una prompt injection in un documento esterno. La sua configurazione rimane invariata, mentre cambiano il suo comportamento e il rischio potenziale.
Microsoft afferma che Dynamic Conditional Access per gli agenti può adattare le protezioni in risposta a queste valutazioni. L’azienda propone inoltre di usare segnali a livello di modello, tra cui la chain-of-thought, come indizi di un possibile scostamento dagli intenti originari o di un’influenza esercitata da informazioni non attendibili. Sostiene che il modello stesso non possa fungere da proprio confine di sicurezza: devono essere sistemi indipendenti a stabilire e far rispettare ciò che gli è consentito fare.
Il post non fornisce prezzi né una data di disponibilità dei Guardian Agents per i clienti. Il suo ambito concreto è un’architettura di sicurezza basata sul rilevamento degli agenti, su identità distinte, su autorizzazioni limitate e su misure di contenimento basate sul rischio, con le persone che mantengono il controllo sulle decisioni dalle conseguenze rilevanti.