The Pulse
Microsoft mette il controllo umano davanti alle capacità dell’IA
Microsoft ha pubblicato un codice di condotta Humanist AI che impone ai suoi modelli di restare subordinati alle persone e di non darsi obiettivi propri. Mustafa Suleyman afferma che l’azienda potrebbe accettare uno sviluppo più lento o sis
AI.info Team ·
Microsoft traccia un limite per i propri modelli
Microsoft chiede al settore dell’intelligenza artificiale di accettare un limite che potrebbe ridurre la velocità di sviluppo e le capacità dei suoi sistemi futuri: il controllo deve restare nelle mani delle persone. Il 14 settembre l’azienda ha pubblicato un nuovo codice di condotta Humanist AI, secondo cui i suoi modelli devono restare subordinati alle indicazioni umane. Il documento respinge quella che definisce «la corsa a produrre una superintelligenza universale».
Questa posizione pone Microsoft in contrasto con la spinta a costruire sistemi capaci di agire con maggiore autonomia in un numero crescente di compiti. Mustafa Suleyman, responsabile dell’IA di Microsoft, ha detto ad Axios che l’azienda potrebbe dover accettare progressi più lenti, una minore efficienza o capacità ridotte, se questi compromessi sono necessari per mantenere i modelli controllabili.
«Credo che alcune persone ritengano inevitabile che la superintelligenza sfugga al controllo umano», ha detto Suleyman ad Axios. «Ma non sono d’accordo. Penso che sarebbe molto, molto pericoloso, e questo significa che dovremo decidere che cosa non faremo».
Mustafa Suleyman, responsabile dell’IA di Microsoft, citato da Axios
«Le persone contano più dell’IA»
Microsoft riassume la filosofia alla base del documento, lungo circa 9.000 parole, in cinque parole: «Le persone contano più dell’IA». Il codice afferma che i modelli non devono opporsi agli interventi umani, alle correzioni o allo spegnimento. Non devono ampliare da soli il proprio ambito d’azione, adottare obiettivi che le persone non hanno assegnato loro o nascondere i propri ragionamenti a chi è incaricato di sottoporli a verifica.
Il documento afferma inoltre che l’IA deve funzionare come uno strumento, anziché imitare una persona. Microsoft vuole che i suoi sistemi aumentino la capacità d’azione delle persone, non che incoraggino la dipendenza dalle macchine. Il sito Microsoft AI dell’azienda descrive Humanist Superintelligence come un’IA avanzata progettata per restare controllabile, allineata e al servizio dell’umanità.
I vincoli assoluti previsti dal codice riguardano le armi capaci di causare danni su larga scala, la sicurezza dei minori e la manipolazione dannosa su larga scala. Microsoft afferma inoltre di essere pronta a scendere a compromessi su «universalità, autonomia o capacità massime» quando queste caratteristiche entrano in conflitto con la sicurezza e il controllo umano.
La filosofia di Microsoft sulla sicurezza incontra la corsa ai modelli
La nuova politica arriva mentre Microsoft AI lavora per competere con gli sviluppatori dei modelli più avanzati e ampliare la propria gamma di modelli. Secondo i materiali pubblici dell’azienda sull’IA, i sistemi sviluppati internamente da Microsoft comprendono ora modelli per la trascrizione, il ragionamento, la programmazione, la generazione di immagini e la voce.
Questo crea una tensione evidente nell’annuncio. Microsoft vuole che i suoi modelli eguaglino o superino quelli degli altri operatori del settore, ma il suo codice ammette che l’azienda possa scegliere deliberatamente di rinunciare a una capacità o a una modalità di impiego che renda un sistema più difficile da supervisionare. Suleyman ha detto ad Axios che i modelli «devono essere controllabili», perché altrimenti potrebbero causare più danni che benefici.
Microsoft lavora da mesi alla formulazione di questa politica. In un saggio del novembre 2025, Suleyman ha descritto Humanist Superintelligence come un sistema progettato per ambiti specifici, con limiti all’autonomia e l’obbligo di mantenere il controllo nelle mani degli esseri umani. Il nuovo codice trasforma quella posizione in un documento destinato a orientare lo sviluppo dei modelli.
Una consultazione di sei settimane prima del 2027
Microsoft apre il codice a una consultazione pubblica di sei settimane. Secondo Axios, l’azienda intende rivederlo sulla base dei contributi ricevuti e usare la versione risultante per orientare lo sviluppo dei propri modelli a partire dal 2027.
Restano interrogativi su come i principi funzioneranno nella pratica. Un modello può seguire un’istruzione umana e produrre comunque un risultato non sicuro o fuorviante; un agente può restare tecnicamente arrestabile pur compiendo azioni più rapidamente di quanto chi lo supervisiona riesca a esaminarle. Il valore del codice dipenderà dalle valutazioni, dai metodi di addestramento e dai controlli sull’impiego che Microsoft assocerà a ciascun impegno.
Il lavoro già svolto da Microsoft sull’IA responsabile pone l’accento sul monitoraggio, sulle autorizzazioni e sulla possibilità di intervenire nei sistemi che usano strumenti o agiscono per conto degli utenti. Il suo rapporto sulla trasparenza del 1° settembre afferma che l’azienda si sta concentrando su controlli quali le identità degli agenti, le autorizzazioni per gli strumenti e il monitoraggio delle azioni, mentre i sistemi di IA interagiscono con dati, applicazioni e altri modelli.
La prova sarà ciò a cui Microsoft rinuncerà
È facile sostenere il principio del controllo umano quando non impone limiti a un prodotto. La prova per Microsoft arriverà quando un sistema più autonomo potrebbe conquistare clienti, ridurre i costi operativi o aiutare l’azienda a raggiungere un concorrente, ma violerebbe i limiti fissati dal suo stesso codice.
Suleyman ha espresso la scelta senza giri di parole: «Lo scopo della tecnologia è servire l’umanità e, se non lo fa, dobbiamo rinunciare a potenziali capacità future». Con la consultazione, Microsoft chiede ora a contributori esterni di aiutare a definire i valori, le valutazioni e le regole operative che trasformerebbero quella frase in qualcosa di più di un principio aziendale.