The Pulse
Il 59% delle organizzazioni che utilizzano agenti di IA segnala incidenti o mancati incidenti
In un sondaggio di VentureBeat Intelligence, il 59% delle organizzazioni che utilizzano agenti di IA ha dichiarato che, nell’ultimo anno, un agente ha causato un incidente di sicurezza o un mancato incidente. Il sondaggio ha inoltre rilevat
AI.info Team · Scritto con l’IA ·
Quasi sei organizzazioni su 10 che utilizzano agenti di IA affermano che nell’ultimo anno un agente ha causato un incidente di sicurezza o un mancato incidente, secondo un sondaggio di VentureBeat Intelligence pubblicato il 5 ottobre. Il 30% ha segnalato un incidente accertato; il 28% ha dichiarato che un controllo ha intercettato un mancato incidente prima che si verificassero danni.
64 organizzazioni su 109 che utilizzano agenti hanno segnalato un incidente o un mancato incidente
Il sondaggio ha coinvolto 137 partecipanti idonei, appartenenti a organizzazioni con almeno 100 dipendenti. I dati sugli incidenti riguardano 109 organizzazioni i cui agenti erano in produzione o in fase pilota. In questo gruppo, il 37% non ha segnalato né incidenti né mancati incidenti.
«Conteggiamo insieme gli incidenti accertati e i mancati incidenti, perché entrambi sono eventi di sicurezza causati da un agente».
— VB Staff, VentureBeat Intelligence
VentureBeat non ha classificato né come casi accertati né come organizzazioni senza incidenti i partecipanti che hanno dichiarato di non monitorare gli incidenti o hanno indicato che la domanda non era applicabile. Queste risposte rappresentavano il 5% del campione di riferimento. Escluderle porterebbe la quota di incidenti o mancati incidenti segnalati dal 59% al 62%, afferma il rapporto.
La percentuale era del 54% tra le organizzazioni con agenti in produzione e del 66% tra quelle ancora in fase pilota. VentureBeat ha affermato che la differenza era troppo esigua per trarre conclusioni. Il sondaggio non ha inoltre rilevato variazioni statisticamente chiare rispetto a luglio, quando il 55% delle organizzazioni che utilizzavano agenti aveva segnalato un incidente o un mancato incidente.
Le credenziali condivise complicano l’attribuzione delle responsabilità
Tra le organizzazioni con agenti in produzione, solo il 38% ha dichiarato che ogni agente disponeva di una propria identità gestita, con autorizzazioni delimitate. Il restante 62% ha dichiarato che alcuni o tutti gli agenti utilizzavano chiavi API, credenziali di accesso personali o credenziali di account di servizio condivise. Secondo il rapporto, le credenziali condivise possono rendere più difficile ricondurre un’azione a un agente specifico o disabilitare un agente senza influire sugli altri.
Le pratiche di sicurezza mostravano inoltre una discrepanza tra le politiche dichiarate e l’uso delle credenziali. Tra le organizzazioni con agenti in produzione che affermavano di applicare le autorizzazioni degli agenti durante l’esecuzione, il 59% segnalava comunque che alcuni agenti, o la maggior parte, condividevano le credenziali. Solo il 41% di questo gruppo ha dichiarato che ogni agente aveva una propria identità gestita.
Appena il 9% di tutti i partecipanti ha dichiarato che l’isolamento degli agenti ad alto rischio in sandbox descriveva meglio il proprio programma di sicurezza. Nessun partecipante ha indicato uno strumento di sandboxing durante l’esecuzione tra le piattaforme utilizzate per la sicurezza degli agenti.
La maggior parte prevede nuovi controlli, ma i budget restano limitati
Tra le organizzazioni che utilizzavano agenti e avevano subito un incidente o un mancato incidente, il 91% prevedeva di adottare misure di sicurezza per gli agenti entro 12 mesi. La quota corrispondente tra le organizzazioni che non avevano segnalato né l’uno né l’altro era del 45%. La differenza riguarda i piani, non le implementazioni completate: i nuovi controlli devono ancora essere selezionati, testati e collegati agli agenti esistenti.
La spesa per la sicurezza era più contenuta. Il 76% delle organizzazioni che utilizzavano agenti destinava il 10% o meno del proprio budget per la sicurezza alla sicurezza dell’IA e degli agenti. I risultati del sondaggio descrivono le esperienze e i piani riferiti dai partecipanti; non dimostrano che un determinato fornitore di soluzioni di sicurezza abbia causato o prevenuto incidenti.
I controlli dei fornitori dominano l’infrastruttura di sicurezza
Tra le 106 organizzazioni che hanno indicato il principale livello di sicurezza per gli agenti, il 40% ha scelto i guardrail e gli strumenti di moderazione integrati di OpenAI, contro il 22% che ha scelto Microsoft Azure. VentureBeat ha riferito che la quota di OpenAI è salita dal 21% di luglio, mentre quella di Anthropic è scesa dal 26% al 13%. La testata ha precisato che i suoi sondaggi mensili hanno interpellato partecipanti diversi.
Il sondaggio ha rilevato che il 43% delle organizzazioni che si affidavano principalmente a OpenAI riteneva che gli aggressori che utilizzano l’IA fossero più avanti delle proprie difese, contro il 16% di quelle che si affidavano principalmente a un altro livello di sicurezza. Questo risultato misura le opinioni dei partecipanti, non la loro effettiva esposizione. VentureBeat ha affermato che i tassi di incidenti erano troppo simili per trarre conclusioni confrontando il gruppo OpenAI con le altre organizzazioni e che il sondaggio non poteva spiegare perché i gruppi valutassero in modo diverso il vantaggio degli aggressori.