The Pulse
Microsoft e i partner avviano un’iniziativa per la trasparenza dell’IA nelle imprese
Microsoft collabora con oltre 40 organizzazioni a proposte di standard aperti per la trasparenza, la sicurezza e la governance dell’IA. L’azienda intende integrare il lavoro in Microsoft AI, Foundry e Copilot.

Standard tra diversi fornitori
Microsoft e oltre 40 organizzazioni stanno lavorando a standard aperti pensati per offrire alle imprese maggiore visibilità sui modelli e sugli agenti di IA. Il presidente e amministratore delegato Satya Nadella ha annunciato l’AI Transparency Initiative durante Microsoft Ignite il 17 novembre, secondo il comunicato dell’azienda.
L’azienda afferma che i controlli esistenti possono osservare gran parte dell’attività che riguarda i modelli, ma non vedere cosa accade al loro interno né verificare in modo indipendente i resoconti che i modelli fanno del proprio comportamento. Descrive questa lacuna come una fonte di rischi per la sicurezza, la conformità, l’audit e la responsabilità, man mano che gli agenti ottengono accesso ai dati, agli strumenti e alle credenziali aziendali.
Il piano in tre parti
Microsoft amplierà la propria partecipazione alla SI Agent Standards Initiative del National Institute of Standards and Technology e attingerà alle proprie ricerche per sviluppare standard di settore per la trasparenza, la sicurezza e la governance dell’IA. Collaborerà inoltre con organizzazioni come Accenture, Adobe, KPMG, Mastercard e Volvo Cars allo sviluppo di standard aperti per diversi modelli e fornitori.
Microsoft intende integrare il lavoro in Microsoft AI, Microsoft Foundry e Microsoft Copilot. L’azienda afferma che le prove risultanti potranno essere utilizzate con gli strumenti di sicurezza e conformità dei clienti, compresi quelli di altri fornitori.
L’iniziativa è pensata per funzionare sia con i modelli chiusi sia con quelli open-weight. Microsoft afferma che questo design consentirebbe agli sviluppatori di cambiare o aggiornare i modelli alla base degli agenti senza compromettere la capacità dei team di sicurezza di governare gli agenti né quella dei team di conformità di sottoporre ad audit le loro azioni.
Osservare e verificare l’attività
La chief security officer di Adobe, Aanchal Gupta, ha affermato che i team di sicurezza hanno bisogno di visibilità su ciò a cui accedono gli agenti, sulle azioni che compiono e su come tali azioni possano essere verificate. Ha detto che un approccio comune a tutto il settore è importante per la sicurezza e la responsabilità.
Microsoft descrive l’approccio auspicato come un modo per consentire alle organizzazioni di osservare, verificare e controllare l’attività dell’IA. Per garantire la visibilità, afferma che le organizzazioni dovrebbero sapere che cosa è stato chiesto a un sistema di IA e che cosa è stato autorizzato a fare, quale modello e runtime ha utilizzato, a quali dati e strumenti ha avuto accesso e quali azioni ha compiuto. L’attività degli agenti e i segnali di rischio dovrebbero essere monitorati rispetto a policy e soglie.
Per la verifica, Microsoft afferma che le prove relative all’identità di un agente, all’intento delegato e alle sue azioni dovrebbero indicarne la fonte. Questa potrebbe essere il modello, il runtime che lo circonda oppure sistemi indipendenti, come quelli di identità e di policy, consentendo di confrontare i segnali riportati dal modello con registrazioni rilevate in modo indipendente.
Secondo l’azienda, le organizzazioni dovrebbero poter verificare l’attività dell’IA con i propri sistemi di sicurezza e conformità, senza fare affidamento esclusivamente sul resoconto di un fornitore di modelli.
Controllo e partecipazione
L’azienda vuole inoltre che le organizzazioni mantengano il controllo sui dati a cui gli agenti possono accedere e sulle modalità di governance di tale accesso, a prescindere dal modello o dal fornitore. Afferma che le prove relative allo scopo, al responsabile, ai dati e all’autorità delegata di un flusso di lavoro possono aiutare le organizzazioni ad applicare le policy e a ricostruire gli eventi durante indagini e audit.
John Israel, global chief information security officer di KPMG International, ha affermato che la fiducia nell’IA richiede trasparenza, spiegabilità e supervisione responsabile. Le organizzazioni interessate a contribuire a definire l’iniziativa o a seguirne i progressi possono registrarsi tramite la pagina dell’iniziativa di Microsoft.
Fonte
Aziende in questa notizia
Notizie correlate
- Microsoft introduce controlli delle policy aziendali per gli agenti di IA
- FlowForma lancia un hub per monitorare e controllare gli agenti di IA
- Microsoft rende Copilot Home disponibile a tutti mentre Autopilot viene distribuito
- Microsoft e Salesforce portano i flussi di lavoro commerciali in Copilot in anteprima
- Microsoft lancia sette modelli di IA a Ignite