The Pulse
Brad Smith di Microsoft chiede regole globali per l’IA e freni d’emergenza
Il presidente di Microsoft Brad Smith ha chiesto regole globali per la sicurezza dell’IA, tra cui freni d’emergenza, segnalazioni degli incidenti e valutazioni indipendenti. La sua proposta si contrappone alla preferenza del presidente Dona
AI.info Team · Scritto con l’IA ·
Il presidente di Microsoft Brad Smith vuole che i governi stabiliscano regole globali per la sicurezza dell’IA; il presidente Donald Trump sostiene invece che il settore dovrebbe vigilare su se stesso. In un’intervista alla BBC pubblicata lunedì 12 ottobre, Smith ha affermato che l’IA è soggetta a meno requisiti di sicurezza dei beni di uso quotidiano e ha chiesto freni d’emergenza, segnalazioni degli incidenti e valutazioni esterne. Il disaccordo riguarda chi debba fissare i limiti: le aziende stesse o regole valide per tutto il settore.
«Al momento, la vostra lavatrice è soggetta a più regole di sicurezza dell’IA. Ogni cartone di latte che vedete al supermercato è soggetto a regole di sicurezza e a ispezioni».
Brad Smith, presidente di Microsoft
Nell’intervista rilasciata alla BBC, Smith ha illustrato le ragioni a favore di una vigilanza più rigorosa. Anche Reuters ha riferito delle proposte, tra cui l’obbligo legale per le aziende di presentare segnalazioni degli incidenti e di avvisare le persone i cui sistemi vengono violati da agenti di IA fuori controllo.
Le regole proposte da Smith vanno oltre un pulsante di arresto
I «freni d’emergenza» proposti da Smith consentirebbero alle aziende di fermare o rallentare i sistemi di IA se sfuggissero al controllo. La BBC osserva che nel settore sono noti anche come «kill switch». Smith non ha presentato un progetto tecnico per un simile meccanismo: ha chiesto un modo per interrompere i sistemi quando si comportano in modi che i loro operatori non riescono a controllare.
Smith vuole inoltre che le aziende redigano segnalazioni degli incidenti e informino le persone coinvolte quando un agente di IA sfugge al controllo e viola i loro sistemi. Ha suggerito che valutatori governativi indipendenti esaminino le nuove tecnologie di IA prima del rilascio. Si tratta di proposte, non di regole già in vigore.
«Sappiamo come farlo per altri prodotti», ha detto Smith. «Dovremmo partire da queste conoscenze e riflettere su come applicarle all’IA». Il paragone con la sicurezza dei prodotti è centrale nella sua argomentazione: vuole che la vigilanza sull’IA comprenda verifiche e obblighi simili a quelli già previsti per i beni di consumo.
Smith indica l’AI Security Institute britannico
Smith ha affermato che il Regno Unito è nella posizione migliore per contribuire a guidare la definizione di regole globali per l’IA, perché dispone di un AI Security Institute, istituito sotto l’ex primo ministro Rishi Sunak con il nome di AI Safety Institute. Ha sostenuto che Washington vede Londra in modo diverso da Bruxelles, il cui AI Act regolamenta i sistemi in base al rischio. Secondo Smith, questa distinzione potrebbe rendere gli standard promossi dal Regno Unito più accettabili per i funzionari statunitensi.
Questa è la valutazione di Smith, non un impegno del governo ad adottare il suo piano. La BBC ha riferito che, grazie ad accordi volontari, l’istituto britannico ha accesso ai principali modelli di IA prima del loro impiego, così da poterne valutare le capacità e i rischi. Il ministro britannico per l’IA Kanishka Narayan ha detto a Reuters che il Regno Unito prenderebbe in considerazione la regolamentazione dei modelli avanzati se il sistema attuale si rivelasse insufficiente.
Un impegno alla Casa Bianca non basta, dice Smith
Alla fine di settembre, Trump ha ospitato alla Casa Bianca i dirigenti di OpenAI, Anthropic, Nvidia, SpaceX, Meta e Google, che hanno firmato un documento «moralmente vincolante». Le aziende si sono impegnate a collaborare con revisori indipendenti per valutare se i loro sistemi funzionino come previsto ed evitino accessi non intenzionali ai sistemi tecnici, ha riferito la BBC.
Smith ha detto che Microsoft è stata «lieta di firmare» la dichiarazione e l’ha definita «un buon passo» e «un passo necessario». Ma ha aggiunto: «Non credo che sia più sufficiente». La sua preoccupazione è che gli impegni volontari dipendano dalla scelta delle aziende di rispettarli: «le aziende responsabili faranno ciò che volete», ha detto, mentre quelle meno responsabili pongono il problema di vigilanza più difficile.
La proposta di Smith porterebbe questa responsabilità oltre gli impegni volontari: tra le misure che vuole siano prese in considerazione dai governi figurano segnalazioni degli incidenti, avvisi alle persone coinvolte, valutazioni indipendenti e un mezzo per fermare o rallentare i sistemi di IA.