Vai al contenuto
AI.info

The Pulse

OpenAI esorta gli Stati Uniti a guidare gli standard globali per l’IA di frontiera

OpenAI chiede standard internazionali guidati dagli Stati Uniti che riguardino l’auto-miglioramento ricorsivo, la misurazione dell’IA di frontiera, le misure di sicurezza e la segnalazione degli incidenti.

OpenAI esorta gli Stati Uniti a guidare gli standard globali per l’IA di frontiera

AI.info Team · Scritto con l’IA · verificato ·

OpenAI chiede agli Stati Uniti di guidare un sistema globale di standard per l’IA di frontiera, proponendo metodi comuni per misurare le capacità dei modelli, valutare le misure di sicurezza e segnalare gli incidenti che coinvolgono sistemi sempre più autonomi.

La proposta del 21 settembre 2026 dell’azienda ruota attorno all’auto-miglioramento ricorsivo, o RSI: un processo in cui i sistemi di IA assumono una parte maggiore del lavoro necessario a sviluppare le generazioni successive di IA. OpenAI afferma che oggi non esiste un RSI completamente autonomo e che non si dovrebbe procedere in questa direzione se non è possibile mantenere un controllo umano significativo sul processo di ricerca.

«Per questo crediamo che gli Stati Uniti debbano guidare uno sforzo di collaborazione con i paesi di tutto il mondo per sviluppare standard tecnici globali per l’IA di frontiera, compreso l’RSI».
OpenAI, il team Global Affairs dell’azienda

OpenAI non propone un organismo di regolamentazione globale né un sistema unico di approvazione. Il suo piano prevede la creazione di standard tecnici attraverso la collaborazione tra gli istituti nazionali per la sicurezza dell’IA, il Center for AI Standards and Innovation, i gruppi di settore, gli esperti indipendenti e i ricercatori accademici.

Gli standard proposti da OpenAI misurerebbero più dei punteggi dei modelli

La proposta chiede definizioni e metodi di misurazione condivisi che i paesi possano usare per confrontare i sistemi di frontiera e valutare se le loro misure di sicurezza siano sufficienti. Gli standard dovrebbero riguardare sia i modelli aperti sia quelli chiusi e non dovrebbero favorire una specifica azienda, un paese o un modello di business, afferma OpenAI.

OpenAI individua tre problemi che il coordinamento internazionale potrebbe affrontare: norme nazionali di valutazione e segnalazione in conflitto tra loro, incentivi per i paesi ad agire in modo indipendente anche quando il risultato danneggia tutti e accesso disomogeneo alle competenze tecniche. Questi problemi potrebbero diventare più gravi se la ricerca automatizzata sull’IA accelerasse più rapidamente della capacità delle istituzioni di valutarne gli effetti, afferma l’azienda.

Gli standard proposti riguarderebbero i progressi dei sistemi di IA nei compiti legati all’RSI, la quantità di ricerca autonoma svolta all’interno di un’azienda di IA e la supervisione umana applicata a questi processi. Potrebbero anche definire quando un’attività di ricerca automatizzata debba far scattare una revisione umana immediata.

La segnalazione degli incidenti affianca i test sulle capacità

OpenAI chiede anche regole comuni per classificare, monitorare e segnalare i problemi di allineamento e altri problemi derivanti dalla ricerca automatizzata sull’IA. L’azienda indica livelli di gravità e soglie di segnalazione condivisi come esempi delle informazioni di cui governi e sviluppatori avrebbero bisogno per confrontare gli incidenti e rispondere oltre i confini nazionali.

La proposta chiede canali di comunicazione sicuri tra governi e operatori di infrastrutture critiche per scambiare informazioni su questioni di sicurezza nazionale, vulnerabilità emergenti e minacce. OpenAI definisce in particolare il dialogo tra Stati Uniti e Cina in questi ambiti un passo positivo, affermando che i prossimi colloqui si svolgono in un momento opportuno.

CAISI sarebbe il punto di riferimento per l’impegno statunitense

OpenAI propone di fare leva sulla rete di istituti per la sicurezza dell’IA istituiti in Australia, Canada, Germania, Francia, Kenya, Giappone, Corea, Singapore, India e Regno Unito. Queste istituzioni potrebbero collaborare con CAISI e con gli organismi di settore nazionali per sviluppare standard per i modelli di frontiera e la ricerca automatizzata sull’IA.

L’azienda richiama anche l’International Network for Advanced AI Measurement, Evaluation, and Science, creato attraverso CAISI nel 2024. Questa collaborazione già esistente potrebbe fornire una base per benchmark condivisi sulle capacità, valutazioni dei rischi e giudizi sull’adeguatezza delle misure di sicurezza, afferma OpenAI.

Secondo la proposta, gli standard che ne deriverebbero non costituirebbero di per sé licenze, revisioni obbligatorie prima del rilascio o requisiti per l’approvazione dei modelli. I singoli governi deciderebbero se e come recepirli nel diritto nazionale, preservando la propria autorità e offrendo al tempo stesso ai paesi un punto di riferimento tecnico comune.

OpenAI collega le regole globali alla leadership statunitense

OpenAI sostiene che gli Stati Uniti siano ben posizionati per assumere un ruolo di guida perché la loro industria dell’IA è alla frontiera tecnologica e il paese occupa una posizione di forza nella finanza, nel commercio, nella difesa, nella tecnologia e nei sistemi informativi.

La leadership statunitense potrebbe determinare se il paese contribuirà a definire un quadro globale per l’IA o lascerà che si sviluppi un sistema frammentato e disomogeneo, afferma l’azienda. OpenAI presenta una solida governance nazionale, collegata attraverso una cooperazione internazionale concreta, come un modo per sostenere le misure di sicurezza, la prosecuzione dell’innovazione e un ampio accesso ai benefici dell’IA.

Gli standard internazionali dovrebbero essere sviluppati in modo trasparente, con il contributo di sviluppatori di modelli aperti, sviluppatori di modelli chiusi, esperti tecnici indipendenti e università, afferma OpenAI. L’azienda raccomanda anche la collaborazione con organizzazioni di normazione e gruppi di settore, tra cui ISO, il Frontier Model Forum, l’Agentic AI Foundation, l’Open Secure AI Alliance e l’Appia Foundation.

La questione irrisolta è l’adozione

Il piano di OpenAI offre un quadro per la cooperazione tecnica, ma non chiarisce come i governi farebbero rispettare gli standard, quali sistemi sarebbero considerati modelli di frontiera o quali evidenze farebbero scattare un obbligo di segnalazione. I benchmark delle capacità potrebbero aiutare a definire quali sviluppatori e modelli rientrino nell’ambito di applicazione, afferma l’azienda, che però nell’annuncio non stabilisce una soglia.

La proposta lascia inoltre ai governi nazionali il compito di stabilire se gli standard comuni resteranno volontari o entreranno a far parte di una regolamentazione vincolante. Questa distinzione determinerà se il sistema funzionerà principalmente come un linguaggio di misurazione condiviso o come base per una supervisione formale.

Per ora, OpenAI chiede a Washington di organizzare il processo e di usare le istituzioni statunitensi per collegare gli organismi nazionali per la sicurezza oltre i confini. La proposta immediata dell’azienda è una rete di standard, protocolli comuni per gli incidenti e uno sforzo diplomatico guidato dagli Stati Uniti, non un regime globale di licenze.

Fonte

Notizie correlate

Esplora

Altri articoli