Vai al contenuto
AI.info

The Pulse

GitHub e Microsoft sperimentano un processo che trasforma i risultati dell’IA in 99 segnalazioni verificate

Un progetto pilota ha inviato 99 segnalazioni private di vulnerabilità a sei progetti open source, dopo un triage dell’IA e una revisione umana. Al 15 novembre, i maintainer avevano corretto 55 dei problemi segnalati, afferma GitHub.

GitHub e Microsoft sperimentano un processo che trasforma i risultati dell’IA in 99 segnalazioni verificate

Un progetto pilota di GitHub e Microsoft ha trasformato migliaia di possibili problemi di sicurezza segnalati dall’IA in 99 segnalazioni private verificate, destinate a sei progetti open source, secondo GitHub. Al 15 novembre, i maintainer avevano corretto 55 dei problemi segnalati, e 14 di queste correzioni erano già state incluse in una release.

Fonte github.blog

Il progetto pilota ha utilizzato Codename MDASH, un sistema di Microsoft Security, per esaminare i progetti con il modello MAI Cyber di Microsoft e suggerire correzioni. I progetti erano AutoGPT, Caddy, Express, FastMCP, ImageMagick e Netty.

Dalla scansione alla segnalazione privata

Secondo GitHub, i maintainer stanno ricevendo una valanga di risultati di sicurezza generati dall’IA, tra cui duplicati e segnalazioni che non descrivono vulnerabilità. Il progetto pilota è stato ideato per tenere i risultati grezzi delle scansioni lontani dai maintainer e fornire correzioni suggerite insieme a segnalazioni verificate.

Un agente di triage basato sull’IA del GitHub Security Lab, realizzato con competenze Copilot personalizzate, ha rimosso i duplicati, verificato la validità e dato priorità ai bug ad alto impatto. In seguito, sette ricercatori del Microsoft FORGE Lab hanno esaminato manualmente i risultati rimanenti.

Le segnalazioni risultanti sono state inviate ai maintainer tramite la funzione di segnalazione privata delle vulnerabilità di GitHub, ciascuna corredata da una prova di concetto e da una correzione suggerita. I maintainer hanno deciso se e come correggere i problemi e quando farlo; segnalazioni e correzioni sono rimaste su GitHub.

Le correzioni dei maintainer

Secondo GitHub, le prime correzioni sono state rilasciate circa una settimana dopo la scansione iniziale. I maintainer di Caddy hanno corretto tutte le 22 segnalazioni ricevute in una settimana o meno. Alcune correzioni suggerite sono state usate così come erano, mentre altre sono state modificate.

Secondo l’azienda, AutoGPT aveva da poco rilasciato un nuovo controllo che non funzionava. La segnalazione è arrivata tre giorni dopo e indicava la riga pertinente; i maintainer sono andati oltre la patch suggerita, hanno scritto una correzione entro un giorno e l’hanno messa in produzione meno di una settimana dopo.

ImageMagick, mantenuto da un team di due persone, ha ricevuto 22 segnalazioni. Per uno dei problemi, il riepilogo della segnalazione indicava le righe di codice pertinenti e i maintainer hanno applicato una correzione in 15 minuti, afferma GitHub. Un maintainer di Express ha dichiarato: «Codename MDASH è molto utile per districarsi nel rumore delle segnalazioni di vulnerabilità».

Il costo della verifica

L’azienda ha avvertito che sei progetti costituivano un campione ridotto e ha descritto i risultati come prime indicazioni. I sette ricercatori hanno impiegato circa due giorni per progetto per verificare manualmente i risultati e GitHub ha affermato che questo lavoro non è ancora scalabile.

GitHub raccomanda a chi invia segnalazioni di vulnerabilità generate dall’IA di verificare i risultati alla luce delle conoscenze esistenti del progetto, del suo modello di minaccia e delle sue policy di sicurezza, di inviarle privatamente e di includere una correzione suggerita. Afferma inoltre che i maintainer devono poter testare le correzioni su fork privati e usare modelli con capacità in ambito cyber per verificare le prove di concetto prima e dopo una correzione.

Piani per gli ex partecipanti al fondo

GitHub e Microsoft stanno lavorando per ampliare la revisione da parte dei ricercatori e GitHub intende offrire scansioni di sicurezza dell’IA verificate a tutti i progetti che hanno partecipato al GitHub Secure Open Source Fund. I risultati saranno verificati prima di essere segnalati privatamente; gli ex partecipanti ricevono anche GitHub Copilot Max.

Tutti e sei i progetti pilota hanno partecipato al fondo. Ciascun progetto riceve 10.000 dollari tramite GitHub Sponsors, oltre a formazione sulla sicurezza e accesso a una community di ex partecipanti; GitHub afferma che estenderà il supporto alle scansioni alle prossime edizioni del fondo.

Microsoft ha annunciato MAI Cyber 2 il 17 novembre. Il progetto pilota ha utilizzato il precedente modello MAI Cyber.

Fonte

  1. The GitHub Blog

Aziende in questa notizia

Notizie correlate

Esplora

Altri articoli