The Pulse
I governi australiani adottano un quadro nazionale per la valutazione dell’IA
I governi del Commonwealth, degli Stati e dei Territori hanno concordato un quadro nazionale per valutare l’intelligenza artificiale nei servizi pubblici, definendo aspettative comuni per lo sviluppo, l’acquisto, l’impiego e la supervisione
AI.info Team ·
Il 21 giugno 2024 i governi del Commonwealth, degli Stati e dei Territori hanno concordato un quadro nazionale per valutare l’intelligenza artificiale, definendo aspettative comuni sulle modalità con cui gli enti pubblici sviluppano, acquistano e impiegano l’IA.
I ministri responsabili dei dati e del digitale hanno pubblicato il quadro dopo essersi riuniti a Darwin. L’accordo si basa sui Principi etici australiani sull’IA ed è concepito per offrire ai governi un approccio comune senza imporre a ogni giurisdizione procedure identiche.
Il quadro si concentra sulla valutazione: le prove, la supervisione e i controlli di cui gli enti si servono per stabilire se un sistema di IA sia conforme alla legge, sicuro e adatto allo scopo previsto. Copre l’intero ciclo di vita di un sistema, dalla progettazione e selezione dei dati ai test, all’impiego, al monitoraggio e all’eventuale ritiro.
La dichiarazione congiunta dei ministri delinea un approccio condiviso all’uso sicuro e responsabile dell’IA da parte dei governi australiani.
I ministri legano l’adozione dell’IA alla fiducia dei cittadini
La senatrice Katy Gallagher, ministra australiana delle Finanze e della Funzione pubblica al momento dell’annuncio, ha descritto il quadro come un passo verso una maggiore fiducia dei cittadini nell’uso dell’IA da parte del governo.
«Oggi abbiamo concordato, a tutti i livelli di governo, che i diritti, il benessere e gli interessi delle persone debbano venire prima di tutto ogni volta che una giurisdizione valuta l’uso dell’IA nelle politiche e nell’erogazione dei servizi.»
Katy Gallagher, ministra delle Finanze e della Funzione pubblica
La ministra ha affermato che le persone non dovrebbero riscontrare differenze inspiegate nel funzionamento dei sistemi di IA governativi a seconda di dove vivono. Il quadro mira quindi a creare aspettative coerenti in materia di supervisione, lasciando spazio alle leggi, alle politiche e ai requisiti operativi locali.
Ed Husic, allora ministro dell’Industria e della Scienza, ha affermato che i governi avrebbero dovuto usare l’IA per lavorare più rapidamente e con maggiore efficienza, ma anche preservare la fiducia dei cittadini nel funzionamento della tecnologia. Jihad Dib, ministro del Nuovo Galles del Sud per i servizi ai cittadini e il governo digitale, ha affermato che l’approccio basato sui principi avrebbe consentito flessibilità al mutare dei sistemi di IA e dei rischi a essi associati.
Cinque pilastri guidano la valutazione degli enti
Il quadro individua cinque meccanismi, o pilastri, che i governi dovrebbero considerare nel definire i processi di valutazione: governance, governance dei dati, approccio basato sul rischio, standard e acquisti.
I requisiti di governance comprendono una chiara attribuzione delle responsabilità per l’uso dell’IA, strutture decisionali aggiornate, gestione del rischio e accesso a competenze tecniche, giuridiche e sociali. Ci si aspetta che gli enti formino il personale a usare l’IA nel rispetto della legge, a valutare i suoi risultati con giudizio, a individuare i problemi e a spiegare gli esiti influenzati dall’IA.
Alla governance dei dati è riservata una trattazione distinta, perché la qualità e la rappresentatività dei dati incidono sui risultati di un sistema di IA. Ci si aspetta che gli enti gestiscano i dataset in modo da rispettare gli obblighi di legge e garantire informazioni affidabili, autenticate e appropriate.
Il quadro non prescrive lo stesso livello di scrutinio per ogni caso d’uso. Prevede valutazioni proporzionate al danno potenziale, con controlli più rigorosi per i sistemi ad alto rischio e un onere amministrativo minore per le applicazioni a rischio più basso.
I test proseguono dopo l’impiego
La valutazione non si esaurisce con l’approvazione prima del lancio. Secondo il quadro, gli enti dovrebbero valutare i rischi durante la progettazione, la verifica e la validazione, l’impiego, il funzionamento e il monitoraggio, effettuando nuove revisioni quando un sistema cambia o passa da una fase all’altra.
Tra le pratiche raccomandate figurano studi pilota, test delle prestazioni, red-teaming, validazione umana e monitoraggio continuo. Gli enti dovrebbero inoltre prepararsi a disattivare rapidamente un sistema di IA se provoca una violazione dei dati, un accesso non autorizzato, una compromissione della sicurezza o un altro problema irrisolto.
Le regole sugli acquisti fanno parte dello stesso processo. I contratti pubblici potrebbero dover specificare le responsabilità, la trasparenza dei dati, l’accesso alle informazioni pertinenti, i test delle prestazioni e le prove che il sistema continui a funzionare come previsto per tutto il suo ciclo di vita.
Trasparenza e possibilità di ricorso fanno parte del modello
Secondo il quadro, le persone dovrebbero essere informate quando un sistema di IA viene usato in modi che incidono significativamente su di loro. I governi dovrebbero conservare documentazione sullo scopo, gli usi previsti e i limiti di un sistema di IA, nonché informazioni affidabili sulle decisioni, sui test e sui dati utilizzati.
Quando l’IA influisce su una decisione amministrativa, il quadro richiede spiegazioni chiare e responsabilità umana. Le spiegazioni dovrebbero riguardare i dati forniti al sistema, i fattori che ne hanno influenzato l’affidabilità, i risultati dei test e il ruolo della supervisione umana.
Le persone interessate da un sistema di IA dovrebbero inoltre poter contestare tempestivamente il suo uso o i suoi risultati. Ci si aspetta che i governi comunichino chiaramente diritti e tutele, offrano canali per obiezioni e reclami e garantiscano, ove opportuno, l’accesso a una revisione da parte di persone, alla risoluzione delle controversie o a un’indagine.
Una base nazionale comune, non un unico manuale operativo
Il quadro è concepito come riferimento sovraordinato alle singole politiche federali, statali e territoriali. Il Dipartimento delle Finanze afferma che le giurisdizioni possono elaborare regole più specifiche che rispecchino le proprie leggi, strutture amministrative e condizioni operative.
Gli otto Principi etici sull’IA su cui si fonda riguardano il benessere umano, sociale e ambientale; i valori incentrati sulla persona; l’equità; la tutela della privacy e la sicurezza; l’affidabilità e la sicurezza; la trasparenza e la spiegabilità; la possibilità di contestazione; e la responsabilità.
Questa impostazione offre agli enti una base comune, lasciando loro la responsabilità di decidere quale livello di valutazione richieda un determinato sistema. Il quadro prevede inoltre che i governi condividano quanto appreso dai propri sistemi e migliorino le loro pratiche di valutazione man mano che emergono nuovi rischi e nuovi usi.