The Pulse
Anthropic offre scansioni gratuite delle vulnerabilità con l’IA ai progetti open source
Anthropic ha lanciato OSS Scanner l’8 ottobre, offrendo ai progetti open source idonei scansioni periodiche gratuite delle vulnerabilità eseguite dai suoi modelli più avanzati. I report, che i progetti possono scegliere di ricevere, arrivan
AI.info Team · Scritto con l’IA ·
Anthropic consegna ai manutentori risultati non sottoposti a revisione
Anthropic ha lanciato OSS Scanner l’8 ottobre, offrendo ai progetti open source idonei scansioni ricorrenti e gratuite delle vulnerabilità eseguite dai suoi modelli di IA più avanzati. Il servizio, a cui si aderisce volontariamente, invia i report direttamente ai manutentori senza revisione umana: un percorso più rapido rispetto alla procedura già adottata dall’azienda, che verifica i risultati prima di comunicarli.
I report includono una procedura autonoma che mostra come riprodurre un bug, una spiegazione e, quando disponibile, una proposta di patch. Anthropic afferma che possono includere anche una ricerca per bisezione per individuare quando è stato introdotto il bug. L’azienda avverte che i report generati dai modelli possono contenere errori, anche nella valutazione della gravità.
Il lancio risponde a un problema di capacità che Anthropic afferma di aver incontrato durante la scansione di software nell’ambito di Project Glasswing. Nell’arco di sei mesi, l’azienda ha individuato oltre 29.000 potenziali vulnerabilità, ma ne ha esaminate e classificate manualmente circa 6.000. Secondo Anthropic, i manutentori hanno chiesto sempre più spesso di ricevere i risultati rimanenti, anche quando non erano stati convalidati.
Un percorso più rapido, con un onere diverso
OSS Scanner è rivolto ai manutentori in grado di valutare autonomamente i report ricevuti. Anthropic afferma che i progetti che non hanno la capacità di gestire risultati non sottoposti a revisione continueranno a ricevere segnalazioni verificate da persone attraverso la sua procedura di divulgazione coordinata delle vulnerabilità. Alle segnalazioni dello scanner non si applica una scadenza di 90 giorni per la divulgazione finché restano non convalidate; secondo Anthropic, quel termine potrebbe applicarsi se l’azienda verificasse successivamente un risultato attraverso la sua procedura standard.
I manutentori principali possono presentare domanda inviando una pull request al repository di Anthropic per le iscrizioni. I progetti vengono valutati singolarmente secondo criteri simili a quelli di OSS-Fuzz di Google: il loro impatto sull’infrastruttura e sulla sicurezza degli utenti, l’esposizione ad attacchi remoti e il numero di utenti o altri progetti che dipendono da essi. Anthropic afferma di verificare manualmente che i richiedenti siano manutentori principali.
Le scansioni si ripetono dopo l’iscrizione, ma la loro frequenza può variare in base al numero di progetti nel programma e a quanto è diffuso l’uso di ciascuno. I manutentori possono sospendere i report o rimuovere un progetto inviando un’altra pull request. Anthropic afferma che i suoi agenti di scansione operano in sandbox rafforzate, senza accesso a Internet.
Anthropic segnala un risultato non valido in un test iniziale
Per valutare una prima versione, i penetration tester di Anthropic hanno esaminato 97 risultati dello scanner, classificati come critici o di gravità elevata, relativi a 48 progetti. L’azienda afferma che 85 soddisfacevano i criteri della sua procedura di divulgazione coordinata. Degli altri 12, ne ha classificati 11 come reali ma duplicati o comunque sovrapposti ad altri risultati della scansione; uno non era valido.
Questo risultato non garantisce che i report futuri saranno corretti. Anthropic afferma che alcuni manutentori hanno riscontrato valutazioni della gravità esagerate o casi in cui lo scanner ha frainteso il modello di minaccia di un progetto. Nel post che annuncia il lancio, l’azienda afferma di aspettarsi un tasso di veri positivi superiore al 90%, pur riconoscendo che i report possono contenere inesattezze.
Alcuni manutentori che hanno provato il servizio hanno apprezzato i report. «Dei 74 report che abbiamo ricevuto, tutti tranne due erano validi e cinque sono diventati CVE», ha scritto Todd Ouska di wolfSSL. Ha affermato che le patch allegate si integravano nella procedura già adottata dal progetto per verificare e correggere i problemi.
Le candidature si concentrano sul codice da cui molti dipendono
Anthropic afferma che lo scanner si basa sul lavoro svolto nell’ambito di Project Glasswing, con cui ha esaminato centinaia di progetti ampiamente utilizzati: in quel caso, le potenziali vulnerabilità venivano esaminate da persone prima di essere segnalate privatamente. OSS Scanner trasferisce parte di quel lavoro a un canale automatizzato e più rapido per i progetti che scelgono di ricevere i risultati grezzi dei modelli. L’azienda afferma di aver già inviato quasi 5.000 report direttamente ai manutentori che avevano chiesto di ricevere risultati non convalidati.
Il servizio gratuito è sostenuto dal Defender Advantage Fund di Anthropic, che finanzia anche organizzazioni open source e gruppi che coordinano le segnalazioni di vulnerabilità. L’azienda offre inoltre ai manutentori idonei abbonamenti Claude Max gratuiti attraverso Claude for Open Source. Per OSS Scanner, il compromesso concreto è tra rapidità e verifica: i manutentori ricevono i report prima, ma spetta a loro, e non a un revisore umano di Anthropic, decidere quali risultati siano reali e cosa correggere.