The Pulse
Z.ai e Concordia delineano sei fasi per gestire i rischi dell’IA a pesi aperti
Z.ai e Concordia AI hanno pubblicato un quadro per la gestione dei rischi dell’IA a pesi aperti, articolato in sei fasi che vanno dall’identificazione dei rischi alla governance. Il quadro aggiunge la resilienza della società come quarta di
AI.info Team · Scritto con l’IA ·
Z.ai e Concordia AI hanno pubblicato il Frontier Open-Weight AI Risk Management Framework, una guida per gli sviluppatori che rilasciano i pesi dei modelli e per il più ampio ecosistema che li scarica, li modifica e li esegue. Secondo Concordia AI, il quadro è stato annunciato per la prima volta il 21 settembre 2026, in occasione dell’UN Digital Cooperation Day.
Il quadro prende le mosse da tre difficoltà legate al rilascio dei pesi: un rilascio non può essere annullato, le misure di sicurezza possono essere rimosse tramite fine-tuning e nessun soggetto, da solo, può monitorare l’uso del modello o ritirarlo. Gli autori descrivono il documento come complementare al Frontier AI Risk Management Framework 2.0 e ne adattano l’approccio alla gestione dei rischi ai rilasci in cui gli sviluppatori non controllano più l’impiego del modello.
«Il Framework non risolve ogni tensione tra apertura e sicurezza».
Gli autori del Frontier Open-Weight AI Risk Management Framework
Un complemento al Framework 2.0
Il nuovo quadro prevede sei fasi: identificazione dei rischi, soglie di rischio, analisi dei rischi, valutazione dei rischi, mitigazione dei rischi e governance dei rischi. In ciascuna fase esamina quali protocolli del quadro precedente dipendano dal controllo degli accessi o dal monitoraggio dell’uso da parte degli sviluppatori e propone adattamenti per il rilascio dei pesi.
Il quadro è destinato ai modelli di uso generale a pesi aperti con capacità prossime o pari a quelle dei modelli più avanzati in ambiti rilevanti per il rischio, anziché all’ecosistema aperto nel suo complesso. Hanno contribuito Brian Tse, Oskar Galeev, Weibing Wang, Yuan Cheng e Liang Fang di Concordia AI, e Wenbin Qiao, Xiaochen Wang e Chen Zhang di Z.AI.
Una quarta dimensione per le soglie
Il quadro precedente analizzava il rischio attraverso tre dimensioni: ambiente di impiego, origine della minaccia e capacità abilitante. Il quadro per i modelli a pesi aperti ne aggiunge una quarta: la resilienza della società, ovvero la sua capacità di assorbire i danni resi possibili dall’IA e di reagire. Secondo la descrizione di Concordia, questa aggiunta amplia la prospettiva di analisi del quadro precedente.
Le quattro dimensioni riguardano il contesto in cui opera un modello, chi potrebbe farne un uso improprio, quali capacità rende possibili e quanto la società sia in grado di resistere ai danni che ne derivano. L’approccio del rapporto riconosce che i modelli a pesi aperti possono essere modificati dopo il rilascio: valutare il rischio richiede quindi più che esaminare un modello nella sua forma originale. Il quadro definisce soglie di rischio e prevede analisi in diversi momenti dello sviluppo e del processo di rilascio di un modello.
Valutazione e mitigazione dei rischi
Nella fase di valutazione, il quadro suddivide i modelli in zone di rischio verde, gialla e rossa. A queste corrispondono, rispettivamente, il rilascio completo, il rilascio limitato o graduale e la sospensione. Per i modelli nella zona gialla, il rapporto descrive opzioni come il rilascio graduale o l’accesso strutturato, invece di ridurre la scelta alla sola alternativa tra apertura e chiusura.
Il rapporto cita GLM-5.3 di Z.ai come esempio di accesso graduale: partner selezionati per la sicurezza hanno valutato il modello in ambienti controllati prima di un accesso più ampio e della disponibilità tramite API; i pesi completi sono stati rilasciati dopo le valutazioni di sicurezza. Indica inoltre misure applicabili prima del rilascio o che restano pertinenti anche in seguito, tra cui la selezione dei dati di addestramento nelle prime fasi dello sviluppo.
Il processo in sei fasi del quadro si conclude con la mitigazione e la governance. Nel loro insieme, le fasi affrontano i rischi dall’identificazione dei potenziali danni fino alla definizione di supervisione e responsabilità per modelli i cui pesi possono circolare al di fuori del controllo dei loro sviluppatori.