The Pulse
GitHub presenta in anteprima la scansione dei rischi legati agli agenti di IA accanto a CodeQL
GitHub ha reso disponibile in anteprima pubblica la scansione delle applicazioni di IA per le pull request, mirata a rischi come la prompt injection indiretta. Il rilevatore si basa su un approccio che usa un LLM, è distinto da CodeQL e ric
AI.info Team · Scritto con l’IA · verificato ·
Il nuovo scanner di GitHub per le applicazioni di IA non si basa su CodeQL: usa un rilevatore basato su un LLM per segnalare rischi nei percorsi di esecuzione del codice degli agenti di IA, tra cui la prompt injection indiretta. Annunciata il 28 ottobre, la funzionalità è in anteprima pubblica e analizza le pull request. Secondo il changelog di GitHub, opera accanto all’analisi CodeQL già esistente, ma la documentazione chiarisce che il rilevatore è distinto sia da CodeQL sia da AI Scan di GitHub, dedicato alle vulnerabilità tradizionali del codice.
Un rilevatore distinto per i rischi specifici degli agenti
Lo scanner cerca schemi e flussi di dati che potrebbero consentire a contenuti non attendibili di influenzare un modello di IA con accesso a strumenti, dati o sistemi aziendali. Un’istruzione malevola in una pagina web, un documento o una risposta API potrebbe indurre un agente a compiere azioni non previste. L’annuncio di GitHub cita anche la divulgazione di informazioni sensibili e l’eccessiva autonomia tra i rischi che la funzionalità intende affrontare.
Questa descrizione più ampia ha però un limite importante: secondo la documentazione di GitHub, l’anteprima pubblica rileva soltanto le vulnerabilità di prompt injection indiretta negli agenti di IA. La stessa documentazione precisa che il rilevatore usa un approccio basato su un LLM, anziché l’analisi statica specifica per linguaggio di CodeQL. Secondo GitHub, questo approccio non ha limitazioni relative a linguaggi o framework, anche se la copertura di rilevamento dichiarata per l’anteprima resta più ristretta dell’insieme dei rischi descritti nell’annuncio.
Solo pull request, senza bloccare le modifiche
Secondo la documentazione di GitHub, le scansioni vengono eseguite all’apertura di una pull request e dopo ogni nuovo commit. I problemi rilevati compaiono come commenti alla pull request e includono suggerimenti di Copilot Autofix. Hanno valore consultivo: non impediscono il merge e non possono essere usati nei ruleset per imporre requisiti per il merge.
Il rilevatore non analizza un intero repository né le segnalazioni preesistenti alla ricerca di rischi nelle applicazioni di IA. Esclude inoltre le pull request provenienti da fork e quelle create da Dependabot. Questo perimetro rende la funzionalità uno strumento di supporto alla revisione delle modifiche in fase di sviluppo, non un audit dell’intero repository degli agenti già distribuiti.
Attivazione separata e costi in crediti IA
Le organizzazioni devono attivare la scansione delle applicazioni di IA separatamente da AI Scan per le pull request, anche se le due funzionalità condividono una policy a livello enterprise. La funzionalità richiede una licenza GitHub Advanced Security e consuma crediti IA in aggiunta a tale licenza; secondo GitHub, lo stesso requisito di fatturazione si applica ai repository pubblici idonei. Il changelog indica che l’anteprima è disponibile su github.com ma non su GitHub Enterprise Server, mentre la documentazione specifica GitHub Enterprise Cloud, comprese le distribuzioni con residenza dei dati.
Per i team di sicurezza, la distinzione conta: attivare CodeQL o l’altro scanner di codice basato sull’IA di GitHub non attiva automaticamente questo rilevatore. Gli amministratori devono consentire la funzionalità a livello enterprise, le organizzazioni devono attivarla per i repository idonei e gli amministratori dei repository possono scegliere di disattivarla. Nell’anteprima, ciò che lo scanner può offrire in concreto si limita a individuare la prompt injection indiretta nelle modifiche alle pull request, e i problemi segnalati restano suggerimenti, non meccanismi che controllano il merge.