The Pulse
AIUC raccoglie 40 milioni di dollari per certificare gli agenti di IA aziendali
Artificial Intelligence Underwriting Company ha raccolto 40 milioni di dollari in un round Serie A guidato da Ribbit Capital per testare e certificare gli agenti di IA destinati all’uso aziendale. La startup afferma che il suo standard AIUC
AI.info Team ·
Il test da 40 milioni di dollari di AIUC per gli agenti aziendali
Artificial Intelligence Underwriting Company ha raccolto 40 milioni di dollari in un round Serie A guidato da Ribbit Capital, portando una nuova attività di certificazione al centro della corsa per rendere i software autonomi accettabili per le grandi organizzazioni. Al round ha partecipato anche First Harmonic, secondo TechCrunch.
La startup di San Francisco, fondata da Rune Kvist e Rajiv Dattani, ha raccolto finora 55 milioni di dollari. Il precedente round seed da 15 milioni di dollari era stato finanziato, tra gli altri, dal fondo NFDG di Nat Friedman, da Emergence e Terrain e dal cofondatore di Anthropic Ben Mann. AIUC afferma che tra i suoi clienti figurano Cursor, Lovable, Harvey ed ElevenLabs.
AIUC sta creando un livello indipendente di test e certificazione per gli agenti di IA, anziché un’altra piattaforma per agenti. Il suo obiettivo dichiarato è offrire alle aziende un modo per esaminare il comportamento di un agente prima di consentirgli di accedere ai dati dei clienti, ai sistemi interni o ai flussi di lavoro aziendali.
Da Anthropic e METR a una società di audit per gli agenti
Kvist è stato tra i primi dipendenti di Anthropic. Dattani è stato direttore operativo dell’organizzazione di ricerca sulla sicurezza dell’IA METR dal 2024 al 2025 e ne è tuttora membro del consiglio di amministrazione. METR ha verificato se i sistemi di IA all’avanguardia siano in grado di completare compiti in modo affidabile, mentre AIUC applica un modello di valutazione affine ai rischi aziendali, come l’uso non sicuro degli strumenti, l’esposizione dei dati e risultati inaffidabili.
«Banche, ospedali, governi e forze armate non rinunciano più a usare l’IA perché un modello non è abbastanza intelligente. Rinunciano perché hanno assunto impegni con i propri clienti su ciò che un sistema farà e non farà, e al momento nessuno può garantirlo».
Rune Kvist, cofondatore di Artificial Intelligence Underwriting Company, citato da TechCrunch
La distinzione è importante per i team che si occupano degli acquisti. Le verifiche sui software tradizionali possono esaminare i controlli degli accessi, il codice e le procedure operative, ma un agente di IA può produrre risultati diversi a partire da istruzioni simili, interagire con strumenti esterni e commettere errori difficili da prevedere basandosi soltanto sulla documentazione.
AIUC-1 sottopone gli agenti a migliaia di scenari
Lo standard di AIUC, chiamato AIUC-1, si ispira in parte a SOC 2 e copre sei aree: dati e privacy, sicurezza informatica, sicurezza operativa, affidabilità, responsabilità e rischi per la società. L’azienda afferma che lo standard è stato definito insieme a un consorzio di circa 250 responsabili della sicurezza e della gestione dei rischi che acquistano o supervisionano sistemi di IA.
AIUC sottopone gli agenti a una serie di circa 5.000 test su jailbreak, allucinazioni e fughe di dati. Il processo produce un rapporto di circa 100 pagine che descrive in quali ambiti un agente opera in modo sicuro e affidabile, oltre a indicare dove fallisce o necessita di ulteriori misure di protezione.
L’azienda usa agenti di IA per eseguire i test e l’IA per analizzare i dati risultanti, ma la verifica finale è affidata a persone. Questa divisione del lavoro è centrale nella proposta di AIUC: i test automatizzati possono coprire un gran numero di casi, mentre la decisione sulla certificazione resta responsabilità dei revisori umani.
La descrizione di AIUC-1 fornita dalla stessa AIUC afferma che la certificazione comprende valutazioni tecniche, un audit dei controlli operativi e delle politiche e un certificato valido per un anno. La documentazione dell’azienda specifica che le valutazioni tecniche vengono ripetute ogni trimestre, mentre i controlli più ampi sono riesaminati ogni anno.
La certificazione non è una garanzia
AIUC-1 non promette che un agente non fallirà mai. Nelle sue FAQ sulla certificazione, l’azienda afferma che nessuno standard può eliminare i rischi legati all’impiego di sistemi probabilistici e descrive la certificazione come una valutazione dei controlli in un determinato momento, non come una garanzia del comportamento futuro.
Questo limite è significativo man mano che gli agenti ottengono accesso alla posta elettronica, ai sistemi di pagamento, ai dati dei clienti e agli strumenti di sviluppo software. Un certificato può facilitare il confronto tra fornitori, ma non può dire a un’azienda se un agente sia adatto a ogni flusso di lavoro, né impedire errori dovuti a cambiamenti del modello, degli strumenti, delle autorizzazioni o delle condizioni di impiego.
Dattani ha dichiarato a TechCrunch che i rapporti di AIUC intendono mostrare agli acquirenti sia gli ambiti in cui un agente supera i test sia quelli in cui permangono criticità. La startup vende quindi tanto un insieme di evidenze quanto un marchio: risultati dei test, conclusioni dell’audit e una descrizione precisa di ciò che ci si può e non ci si può fidare che il sistema certificato faccia.
La scommessa di Ribbit sul livello di fiducia
L’investimento di Ribbit Capital sostiene un modello di business che unisce standard, test e certificazione per una categoria che ancora non dispone di un unico processo di verifica riconosciuto. AIUC afferma che il suo elenco di clienti comprende già prodotti per la programmazione, l’ambito legale, la voce e l’automazione, dando all’azienda accesso a diverse tipologie di comportamento degli agenti.
La domanda immediata è se le aziende considereranno AIUC-1 un requisito significativo per gli acquisti o un altro marchio volontario tra SOC 2, ISO 42001, i rapporti interni dei team red team e le dichiarazioni dei fornitori. Il round da 40 milioni di dollari offre ad AIUC le risorse per ampliare le attività di test, la rete di auditor e la base clienti, ma il valore del certificato dipenderà dalla quantità di dettagli forniti agli acquirenti e dalla costanza con cui lo standard individua gli errori.