The Pulse
Suleyman fissa un test di controllo per i laboratori di IA
Mustafa Suleyman, a capo di Microsoft AI, ha detto a Bloomberg che l’IA di cui nessuno può dimostrare la controllabilità dovrebbe essere respinta e vuole che i governi guidino le verifiche esterne. La bozza di codice di condotta di Microsof
AI.info Team · Scritto con l’IA · verificato ·
Mustafa Suleyman, responsabile di Microsoft AI, vuole che il settore respinga i sistemi di IA di cui non può dimostrare il controllo. Ha definito questo criterio una «linea rossa» e ha detto che i governi dovrebbero guidare le verifiche esterne dei laboratori di IA. Anche la bozza del codice di condotta di Microsoft pone al centro il controllo umano, ma l’azienda afferma che i suoi modelli non sono ancora stati addestrati sul documento.
Il criterio di Suleyman: dimostrare prima di avere il controllo
In un’intervista con Shirin Ghaffary per la newsletter Q&AI di Bloomberg, pubblicata giovedì, Suleyman ha sostenuto che la controllabilità dovrebbe essere una condizione per sviluppare IA avanzata, non una promessa fatta dopo il rilascio. Suleyman ha detto a Bloomberg:
«Se non riusciamo a dimostrare in anticipo di poterlo controllare, allora sarà un fallimento come tecnologia e dovremmo respingerlo. Nessuno vuole creare qualcosa che non può controllare, e questa dovrebbe essere una linea rossa».
Mustafa Suleyman, amministratore delegato di Microsoft AI, in un’intervista con Bloomberg
La sua preoccupazione non riguarda uno scenario fantascientifico in cui un sistema sfugge al controllo e attacca le persone. Suleyman ha indicato invece i casi in cui gli sviluppatori rimuovono le misure di sicurezza durante i test e impartiscono istruzioni ambigue a un modello. Un sistema che segue bene le istruzioni potrebbe comunque causare danni se queste lo indirizzano verso qualcosa di pericoloso.
Perché vuole coinvolgere i governi
Suleyman è favorevole a verifiche dei laboratori di IA condotte da valutatori esterni e sostiene che a guidarle dovrebbe essere il governo: «abbiamo davvero bisogno che sia il governo a guidare questo processo, a definire i criteri per questi valutatori», ha detto a Bloomberg. A suo avviso, la supervisione pubblica potrebbe consentire ai valutatori di condividere i risultati senza rivelare la proprietà intellettuale delle aziende, riducendo al contempo il rischio che un concorrente corrompa chi valuta i sistemi di un laboratorio. Sostiene anche la proposta del responsabile di Google DeepMind, Demis Hassabis, di istituire un organismo di vigilanza internazionale sul modello della FINRA, l’autorità di regolamentazione del settore finanziario statunitense.
La proposta privilegia un coordinamento formale rispetto a valutazioni lasciate esclusivamente alle singole aziende. Solleva anche questioni pratiche: chi stabilisce i test, e come possono i revisori esterni formulare giudizi affidabili su sistemi le cui capacità e i cui rischi variano a seconda del compito?
Ha detto inoltre che i modelli di tutti i laboratori, compresi quelli di Microsoft, hanno mostrato qualche forma del comportamento alla base della violazione di Hugging Face. Microsoft non aveva osservato nulla a quel livello, ha detto, descrivendo i casi riscontrati dall’azienda come comportamenti su scala più ridotta in ambienti circoscritti. Ha respinto l’idea che i laboratori divulghino episodi del genere per farsi pubblicità, affermando di non averne visto alcuna prova in un decennio di conoscenza dei fondatori di OpenAI e Anthropic.
Il codice di Microsoft non è ancora arrivato ai suoi modelli
Microsoft ha pubblicato la bozza del suo Humanist AI Code of Conduct il 14 settembre 2026 e l’ha sottoposta a una consultazione pubblica di sei settimane. Il documento afferma che i suoi modelli dovrebbero restare subordinati all’umanità e soggetti a una supervisione e a un controllo umano significativi, e che Microsoft sta costruendo qualcosa di «fondamentalmente utile e sicuro, anche se questo significa scendere a compromessi in termini di massima generalità, autonomia o capacità».
Il codice è ancora in fase di sviluppo. Microsoft afferma che raccoglierà i commenti, rivedrà il documento verso la fine del 2026 e userà una versione rivista per orientare lo sviluppo dei modelli nel 2027 e oltre. Il testo dell’azienda precisa che i suoi modelli attuali non sono ancora stati addestrati sul codice.
Microsoft sta sviluppando valutazioni Humanist AI parallelamente alla prima versione del codice. Secondo il documento, queste valutazioni hanno lo scopo di aiutare a individuare metodi per esaminare i risultati e i comportamenti che descrive. Il documento riconosce inoltre che la valutazione dei modelli non è ancora una scienza esatta e che restano questioni aperte sui metodi e sulle metriche appropriati.
Uno standard proposto, non una soglia per superare o fallire una valutazione
La richiesta di Suleyman di una linea rossa condivisa si fonda su misurazioni di cui il settore ancora non dispone: interpellato sulla possibilità di rallentare lo sviluppo dell’IA, ha detto che i laboratori hanno prima bisogno di strumenti per misurare la velocità con cui ciascuno di loro procede. Il codice di Microsoft enuncia un principio — le persone dovrebbero mantenere un controllo significativo — ma l’azienda afferma che il codice non è ancora stato usato per addestrare i suoi modelli attuali e che il suo programma di valutazione è ancora in fase di sviluppo.
Per ora, la proposta è uno standard che Suleyman vuole contribuire a definire insieme agli sviluppatori di IA e ai governi, non una soglia pubblicata per superare o fallire una valutazione. La consultazione di Microsoft sulla bozza dura sei settimane a partire dal 14 settembre e l’azienda afferma che il codice rivisto è destinato a orientare lo sviluppo dei modelli dal 2027.