The Pulse
L’IA riduce il tempo necessario per trovare e sfruttare le vulnerabilità
Un sondaggio di CTech condotto su 30 ricercatori di sicurezza rileva che gli strumenti commerciali di IA stanno accorciando il percorso dalla scoperta di una vulnerabilità alla realizzazione di exploit funzionanti. I ricercatori avvertono i
AI.info Team ·
Quasi un terzo delle aziende di sicurezza intervistate da CTech afferma che gli strumenti commerciali di IA stanno comprimendo il tempo necessario per scoprire e sviluppare exploit, trasformando un lavoro che un tempo richiedeva mesi in un processo che può durare giorni. I risultati emergono da interviste a 30 ricercatori di sicurezza che operano nel settore cyber israeliano e indicano un divario sempre più ridotto tra la scoperta di una falla e il suo sfruttamento.
I ricercatori descrivono questo cambiamento come una svolta per entrambi i fronti della contesa sulla sicurezza. L’IA aiuta i difensori ad analizzare il codice, generare attacchi proof of concept e cercare in ampie superfici d’attacco, ma gli stessi strumenti possono offrire ai team più piccoli capacità che in passato richiedevano ingenti finanziamenti, competenze specialistiche o risorse a livello statale. Il sondaggio di CTech individua inoltre i rischi legati agli agenti di IA, ai software di terze parti e ai costi dell’analisi automatizzata della sicurezza.
Un ricercatore, un giorno, un modello commerciale
Avital Leshem, Group Manager of Exposure Management di Check Point, afferma che oggi gli aggressori possono automatizzare in pochi minuti attacchi che in passato richiedevano risorse disponibili solo a organizzazioni altamente sofisticate. Il suo avvertimento inquadra la preoccupazione centrale emersa dal sondaggio: il tempo a disposizione per individuare, correggere e verificare una vulnerabilità potrebbe ridursi più rapidamente di quanto i team di sicurezza riescano ad adattarsi.
Shoham Danino, Senior Researcher di Surf AI, afferma che storicamente il principale collo di bottiglia era l’implementazione. Trasformare una debolezza teorica in una prova di concetto funzionante poteva richiedere mesi; con l’aiuto dell’IA, il suo team può riuscirci «nel giro di pochi giorni».
Secondo cinque delle aziende intervistate da CTech, piccoli team o singoli ricercatori hanno individuato falle zero-day in software commerciali molto diffusi, tra cui Zoom, Google Cloud e Microsoft Copilot. Alex Mor, Security Research Manager di A Security, ha dichiarato che un membro del team ha trovato una vulnerabilità zero-day in Zoom in un giorno, usando modelli di IA disponibili in commercio. «Realizzare un attacco del genere contro un software commerciale chiuso richiedeva un tempo un governo, un team di esperti e mesi di lavoro», ha detto Mor.
L’IA trova prima le falle più facili
I ricercatori non descrivono l’IA come un sostituto degli analisti esperti. Un quinto delle aziende intervistate afferma che la tecnologia è efficace nell’individuare le debolezze superficiali, ma spesso perde il contesto, genera risultati falsi o insiste troppo a lungo su un’ipotesi errata.
Idan Revivo, Head of Security Research di Island, ha riassunto senza mezzi termini il compromesso: «Con l’IA è diventato economico produrre una risposta e costoso fidarsene». Uri Katz, Director of Research di Oligo Security, ha paragonato il momento alla diffusione del fuzzing automatizzato, che ha reso più facile trovare i bug di base prima di passare a problemi più difficili.
«Per ora basta dare in pasto un progetto all’IA e troverà i frutti più facili da raccogliere», ha detto Katz. Si aspetta che quella superficie d’attacco di base venga coperta sempre più a fondo, lasciando ai ricercatori umani il compito di indagare interazioni più complesse tra software, autorizzazioni e controlli di rete.
Gli agenti aprono una nuova via per aggirare le credenziali
Il sondaggio rileva che il rischio per le aziende va oltre il furto di nomi utente e password. Un quinto degli intervistati afferma che gli aggressori prendono sempre più di mira le autorizzazioni concesse agli agenti di IA fidati e tentano di influenzare i contenuti che questi sistemi utilizzano.
«La minaccia creata dall’IA non riguarda ciò che dicono i modelli di IA, ma ciò che fanno gli agenti», ha detto Tamir Ishay Sharbat, Director of Security Research di Zenity. Il suo team ha dimostrato un attacco di prompt injection indiretto ai danni di Microsoft Copilot al Black Hat USA 2024. Nello scenario descritto da Sharbat, un aggressore potrebbe usare un’email per manipolare l’assistente, trarre in inganno una vittima, condurre un attacco di phishing e ottenere informazioni sensibili.
Zenity era una delle quattro aziende del sondaggio ad aver pubblicato ricerche che mostravano l’esfiltrazione di dati o la presa di controllo senza clic, attraverso agenti di IA che utilizzavano documenti condivisi, email o pagine web. Omer Nissim, ricercatore di sicurezza presso Sweet Security, ha descritto un caso distinto in cui un assistente interno basato sull’IA ha divulgato informazioni che proteggevano un ambiente dagli accessi esterni.
L’automazione della sicurezza ha un prezzo
L’IA offre anche agli aggressori un modo per colpire i costi operativi dei team di sicurezza. I centri operativi di sicurezza utilizzano sempre più spesso modelli per leggere, arricchire e analizzare gli avvisi prima che li esamini una persona, e ogni passaggio consuma token.
Tre intervistati hanno individuato una forma di attacco economico in cui gli avversari inondano i sistemi automatizzati di sicurezza con grandi quantità di dati privi di significato. Ido Shtrauch, Security Research Team Lead di Conifers AI, ha detto che gli aggressori possono costringere le aziende a spendere i propri budget per l’IA elaborando rumore.
«Gran parte di quel volume non nascondeva proprio nulla», ha detto Shtrauch. «Analizzarlo ci costa ogni singola volta. Inviatene decine di migliaia e l’azienda avrà speso il suo budget per l’IA in spazzatura... A volte è proprio questa l’arma».
I punteggi di gravità non colgono la catena d’attacco
Più di un quarto delle aziende intervistate ha respinto l’idea che i punteggi delle singole vulnerabilità forniscano informazioni sufficienti sul rischio concreto. Secondo loro, i team di sicurezza dovrebbero esaminare la raggiungibilità, la posizione nella rete e il modo in cui diverse debolezze relativamente contenute possono combinarsi fino a causare una compromissione grave.
In cinque aziende sono state descritte catene d’attacco in cui vulnerabilità minori, errori di configurazione e lacune nei controlli di sicurezza si sono combinati fino a consentire l’accesso amministrativo completo. Amir Shavitt, Head of Research di Zafran, ha definito la catena trascurata il suo «Moby Dick»: una sequenza in cui nessuna singola debolezza sembra abbastanza pericolosa da richiedere una risposta urgente.
La stessa preoccupazione riguarda i software che si trovano al di fuori del perimetro aziendale tradizionale. Quasi un terzo degli intervistati ha indicato le infrastrutture di IA open source, i bridge MCP, GitHub e le estensioni del browser come fonti di rischio in crescita. Mor Weinberger, ricercatore di sicurezza presso Echo, ha detto che le aziende monitorano gli endpoint e gli ambienti cloud, ma spesso non controllano le piattaforme da cui proviene il loro codice.
L’avvertimento pratico del sondaggio è circoscritto e misurabile: le organizzazioni hanno meno tempo per passare dalla scoperta alla correzione, mentre i loro sistemi di IA aggiungono nuove autorizzazioni, dipendenze e costi operativi. Una vulnerabilità non viene più valutata soltanto in base alla sua gravità su una singola macchina; i ricercatori la giudicano sempre più spesso in base al percorso che apre nel sistema più ampio.