The Pulse
OpenAI coinvolge Cathedral nello sprint di sicurezza e aumenta le ricompense per i bug
OpenAI ha in programma uno sprint di sicurezza con Cathedral, che userà i suoi modelli per testare i sistemi dell’azienda insieme ai team interni. L’azienda aumenta anche le ricompense del programma Security Bug Bounty: le scoperte critiche
AI.info Team · Scritto con l’IA · verificato ·
«Siamo entusiasti di collaborare con i team di OpenAI, combinando i loro modelli e le loro competenze in materia di sicurezza con la nostra ricerca per individuare punti deboli, testare le correzioni e rafforzare questo approccio alla difesa continua».
Gavin Kliger, amministratore delegato e cofondatore, Cathedral
OpenAI intende coinvolgere i ricercatori di Cathedral nel suo prossimo sprint di sicurezza interno: lavoreranno insieme ai team dell’azienda e useranno i modelli di OpenAI per testarne i sistemi. L’annuncio, pubblicato il 2 novembre, segnala anche un forte aumento delle ricompense per l’individuazione di bug: le scoperte critiche eccezionali relative ai prodotti principali potrebbero fruttare fino a 172.000 dollari, bonus inclusi.
Il piano combina i test interni con il contributo di ricercatori esterni e segnalazioni indipendenti. OpenAI afferma che lo sprint si concentrerà sull’individuazione dei punti deboli e sul test delle difese, ma non indica una data di inizio, non elenca i sistemi coinvolti né riferisce risultati del lavoro previsto.
Cathedral partecipa al prossimo sprint di sicurezza di OpenAI
OpenAI afferma che i ricercatori di Cathedral useranno i suoi modelli insieme ai team dell’azienda per mettere alla prova le sue difese. L’azienda descrive l’iniziativa come parte di un impegno già in corso per usare l’IA nell’individuazione e nella correzione dei punti deboli, e non come una verifica una tantum. Il lavoro di Cathedral porterà ricercatori esterni in un processo che OpenAI afferma di aver già utilizzato internamente.
Per lo sprint precedente, OpenAI afferma di aver assegnato il 25% dei suoi ingegneri di prodotto all’individuazione e alla correzione dei punti deboli. Gli ingegneri hanno usato Codex per analizzare le segnalazioni, riprodurre le vulnerabilità in ambienti isolati e preparare patch da sottoporre a revisione. L’azienda non ha comunicato quante segnalazioni abbia prodotto lo sprint, quante patch siano state rilasciate o come il lavoro abbia inciso sui risultati in termini di sicurezza.
Le ricompense per le vulnerabilità critiche possono arrivare a 172.000 dollari
In un annuncio separato del 2 novembre, OpenAI ha dichiarato che sta aumentando le ricompense del programma Security Bug Bounty. Il valore intermedio degli intervalli di ricompensa per le segnalazioni di gravità media, alta e critica aumenterà in media di oltre quattro volte, ha spiegato l’azienda. Una vulnerabilità critica in un prodotto principale come ChatGPT, Codex o API Platform può fruttare fino a 30.000 dollari; le scoperte critiche eccezionali relative a questi prodotti restano idonee a una ricompensa fino a 100.000 dollari prima dei bonus, o fino a 172.000 dollari includendoli.
I nuovi incentivi comprendono un moltiplicatore di qualità per le segnalazioni corredate da una prova di concetto affidabile che isoli il bug, spieghi come possa essere sfruttato e ne dimostri l’impatto. OpenAI introduce anche un bonus fedeltà su cinque livelli e fondi dedicati ai bonus per campagne a breve termine legate a funzionalità appena lanciate. Con queste aggiunte, l’importo pagato dipende non solo dalla gravità della scoperta, ma anche dalla segnalazione e dalla campagna.
Gli esempi pubblicati da OpenAI sono illustrativi e non costituiscono una promessa che una particolare scoperta riceverà l’importo indicato. Un esempio calcola una ricompensa di 51.577 dollari per una segnalazione critica relativa alla presa di controllo di un account ChatGPT, dopo i bonus per qualità, campagna e fedeltà; un altro indica 171.925 dollari per una scoperta eccezionale che compromette un confine di sicurezza. L’azienda afferma che alle segnalazioni ancora in attesa di ricompensa saranno applicati i nuovi intervalli e che le ricompense idonee assegnate nei 30 giorni precedenti l’annuncio potrebbero ricevere un’integrazione pari alla differenza.
Un ciclo di test più ampio, senza dati pubblicati sui risultati
L’approccio di OpenAI collega i test interni assistiti dai modelli al lavoro dei ricercatori esterni e a un programma pubblico di ricompense. Nel precedente sprint, l’azienda ha descritto un flusso di lavoro che prevedeva l’analisi delle segnalazioni, la loro riproduzione in ambienti isolati e la preparazione di patch da sottoporre a revisione. Il nuovo annuncio non chiarisce se Cathedral seguirà lo stesso processo o come OpenAI valuterà i risultati del partner.
Le modifiche alle ricompense offrono condizioni concrete ai ricercatori indipendenti, mentre lo sprint previsto rimane meno definito: OpenAI non ne ha pubblicato il calendario, l’ambito dei test o i criteri di successo. Il prossimo appuntamento pubblico per i ricercatori sarà un’occasione in presenza a PROMPT2PWN, a Oakland, il 20–21 novembre, dove OpenAI afferma che il suo team di sicurezza permetterà ai partecipanti di testare bersagli.