The Pulse
Microsoft introduce controlli delle policy aziendali per gli agenti di IA
Il servizio agent controls di Microsoft consente alle aziende di definire e valutare policy per gli agenti di IA tramite Azure. Durante l’esecuzione, gli host degli agenti ricevono decisioni che autorizzano, negano o trasformano azioni e contenuti in punti prestabiliti.

Le aziende possono usare un nuovo servizio Azure per definire e valutare policy per gli agenti di IA su diversi framework, piattaforme e cloud. Il 18 novembre Microsoft ha presentato agent controls, un servizio gestito che valuta le azioni e i contenuti proposti da un agente mentre è in esecuzione.
Il servizio è basato sull’Agent Control Specification (ACS) e su Agent Hooks, entrambi open source. Microsoft afferma che è pensato per offrire alle organizzazioni una governance centralizzata in fase di esecuzione, senza richiedere ai team applicativi di gestire una propria infrastruttura per la valutazione delle policy.
Decisioni durante l’esecuzione
Agent controls memorizza le policy come risorse Azure e le valuta tramite un’API ospitata. In punti prestabiliti dell’esecuzione di un agente, l’host dell’agente invia un’azione o un contenuto per la valutazione, insieme al contesto di esecuzione.
Il servizio restituisce una decisione che autorizza, nega o trasforma l’elemento, che l’host deve applicare. Una decisione di autorizzazione indica all’host di procedere; una decisione di diniego blocca l’azione; una decisione di trasformazione richiede che venga applicata e convalidata una modifica prima di procedere.
Ogni valutazione produce anche una ricevuta che identifica le policy e le versioni utilizzate. Le applicazioni registrano queste ricevute insieme agli esiti dell’esecuzione, consentendo ai team di ricondurre un’azione alla decisione presa in base alla policy.
Regole, classificatori e valutatori
Le policy possono combinare classificatori di Azure AI Content Safety, valutatori basati su modelli linguistici di grandi dimensioni e regole deterministiche. I classificatori rilevano le categorie di rischio supportate, mentre i valutatori esaminano i contenuti in base a criteri definiti dall’organizzazione.
Le regole Rego possono combinare questi risultati con il contesto della richiesta per produrre un verdetto tramite logica personalizzata. Tra gli esempi dell’azienda figurano limiti alle transazioni, restrizioni sull’uso degli strumenti e regole sulle destinazioni approvate per i dati.
Altri esempi combinano un classificatore con una regola per verificare la presenza di informazioni personali nelle risposte esterne, oppure usano un valutatore basato su un modello linguistico e una regola per stabilire se un impegno verso un cliente debba essere sottoposto a revisione. I controlli possono riguardare sia le azioni dell’agente sia i contenuti che produce.
Come si integrano i componenti open source
Agent Hooks definisce i punti di intervento nelle varie fasi del ciclo di vita di un agente, tra cui avvio, input, chiamate al modello, chiamate agli strumenti, output e arresto. In corrispondenza di questi punti, il runtime si interrompe e richiede una decisione.
ACS specifica il contratto di richiesta e decisione. Raccoglie elementi tramite componenti come classificatori, valutatori basati su modelli, regole aziendali o API esterne, quindi li passa a un motore di policy che prende una decisione.
In un esempio bancario, Microsoft descrive una policy che invia i trasferimenti superiori a 10.000 dollari a una revisione umana. Nell’esempio, un cliente chiede un trasferimento di 25.000 dollari, spingendo l’host a inviare la chiamata allo strumento proposta per la valutazione prima che venga eseguita.
Lo stesso esempio prevede altri controlli in punti diversi. In fase di input, un valutatore esamina il messaggio del cliente in base a criteri relativi alle difficoltà finanziarie; in fase di output, un classificatore controlla se una risposta proposta contiene informazioni personali e la policy è configurata per negarla o trasformarla in modo da oscurare tali informazioni.
Fonte
Aziende in questa notizia
Notizie correlate
- Microsoft e i partner avviano un’iniziativa per la trasparenza dell’IA nelle imprese
- FlowForma lancia un hub per monitorare e controllare gli agenti di IA
- Microsoft rende Copilot Home disponibile a tutti mentre Autopilot viene distribuito
- Microsoft Copilot SDK 2.0 supporta sessioni di agenti condivise
- Release malevole di Microsoft Agent Framework rimosse da PyPI