The Pulse
Hong Kong progetta un registro degli agenti di IA e meccanismi di arresto d’emergenza per le banche
L’autorità monetaria di Hong Kong ha delineato possibili controlli per gli agenti di IA usati dalle banche, tra cui responsabilità più chiare, un inventario degli agenti rilevanti e meccanismi di intervento umano. Le idee sono preliminari:
AI.info Team · Scritto con l’IA ·
«Il passaggio dall’IA generativa all’IA agentica rappresenta una nuova, importante fase di innovazione per il settore bancario».
Arthur Yuen, vicedirettore generale della Hong Kong Monetary Authority
L’autorità monetaria di Hong Kong sta valutando nuovi controlli di vigilanza sugli agenti di IA delle banche, tra cui un possibile registro dei sistemi rilevanti e meccanismi per interromperne le azioni. Le proposte rientrano in una più ampia iniziativa per un’IA responsabile annunciata il 15 ottobre, ma la Hong Kong Monetary Authority (HKMA) sottolinea che le sue idee sulla governance degli agenti sono preliminari, non requisiti vincolanti.
La responsabilità segue l’obiettivo aziendale
Il documento programmatico della HKMA descrive l’IA agentica come sistemi in grado di pianificare e svolgere attività in più fasi, accedere a dati e strumenti e interagire con sistemi interni o esterni. Alcune applicazioni possono coinvolgere più agenti impegnati in attività collegate. L’autorità vede possibili impieghi nella gestione del rischio, nella prevenzione delle frodi e nell’esperienza dei clienti, ma avverte che una maggiore autonomia richiede un adeguamento delle strutture di governance.
Un principio proposto, la «responsabilità ancorata all’obiettivo», collegherebbe le azioni di un agente all’obiettivo aziendale assegnatogli e individuerebbe la persona o la funzione responsabile del suo utilizzo. Secondo l’autorità, in generale ci si aspetterebbe che la funzione aziendale da cui deriva l’obiettivo risponda dei risultati dell’agente; i team tecnologici possono fornire supporto al sistema senza esserne i responsabili. L’approccio mira ad aiutare le banche a valutare se un agente sia rimasto entro i limiti dello scopo per cui è stato autorizzato.
Un registro è allo studio, ma non è ancora una norma
La HKMA sta valutando un registro a livello di settore per gli agenti di IA rilevanti utilizzati dagli istituti autorizzati. Un inventario potrebbe registrare quali agenti svolgono funzioni significative, operano con un’elevata autonomia o accedono a informazioni sensibili e sistemi importanti. Secondo l’autorità, questa visibilità potrebbe aiutare le banche a monitorare i sistemi, chiarire le responsabilità e individuare le dipendenze tecnologiche condivise.
Queste dipendenze contano perché gli agenti possono fare ricorso a modelli, dati, strumenti, infrastrutture e servizi di terzi interconnessi. In caso di incidente, questa rete di componenti può complicare la ricostruzione delle cause e degli effetti. Il documento programmatico indica quindi una chiara tracciabilità dei componenti come elemento per rafforzare la resilienza operativa.
La supervisione umana è un’altra misura di salvaguardia proposta. La HKMA descrive il passaggio da un modello con «l’essere umano nel processo» a uno con «l’essere umano a supervisione del processo», in cui monitoraggio e intervento sono commisurati al potenziale impatto dell’attività. Le banche potrebbero dover stabilire quando una persona debba approvare un’azione, sospendere l’accesso di un agente a uno strumento o a un sistema, oppure attivare un arresto d’emergenza prima di un’azione con conseguenze rilevanti per i clienti.
Le linee guida ART più ampie sono già state pubblicate
Le idee sulla governance degli agenti rientrano nel più ampio quadro «ART» della HKMA: responsabilità, resilienza e fiducia. Il 15 ottobre l’autorità ha pubblicato linee guida di vigilanza aggiornate sull’adozione responsabile dell’IA, che sostituiscono i suoi principi generali sull’IA del 2019. Le linee guida chiedono agli istituti autorizzati di applicare i principi in modo proporzionato e di aggiornare tempestivamente politiche, procedure e controlli.
Le linee guida aggiornate richiedono un responsabile designato per ogni caso d’uso dell’IA adottato, un inventario aggiornato a livello di istituto e una supervisione umana commisurata al rischio. Per le applicazioni rilevanti o a rischio più elevato, richiedono inoltre procedure più rigorose di verifica e approvazione, monitoraggio continuo, risposta agli incidenti e registrazioni verificabili. Le linee guida affermano che le banche restano responsabili dei risultati prodotti dall’IA, comprese le azioni, anche quando si affidano a fornitori esterni.
Le sperimentazioni nella Sandbox mostrano che le banche stanno testando gli agenti
La HKMA ha dichiarato che oltre il 60% dei casi d’uso esaminati nella seconda tornata della sua Generative AI Sandbox riguardava l’IA agentica. Le sperimentazioni comprendevano sistemi progettati per pianificare ed eseguire attività in più fasi entro limiti e controlli definiti. L’autorità ha inoltre annunciato, insieme a Hong Kong Cyberport e alla University of Hong Kong, una piattaforma per la condivisione di dati di addestramento per l’IA, con la garanzia della qualità dei dati come principio fondamentale di progettazione.
Il prossimo passo per la vigilanza sugli agenti è un documento di consultazione che la HKMA afferma pubblicherà a breve, con le opzioni per eventuali requisiti di vigilanza, sul quale raccoglierà i pareri delle banche e di altre parti interessate. Fino ad allora, il registro, i meccanismi di intervento e la responsabilità basata sull’obiettivo restano proposte da discutere con il settore; le distinte linee guida ART sono il documento che espone le attuali aspettative di vigilanza dell’autorità.