Vai al contenuto
AI.info

The Pulse

Aikido rilascia un modello di sicurezza open-weight da 328 GB per l’analisi locale

Aikido ha rilasciato Altar, un modello di sicurezza open-weight progettato per funzionare su infrastrutture controllate dai clienti, compresi gli ambienti air-gapped. Secondo l’azienda, il pruning e la quantizzazione hanno ridotto lo spazio

Aikido rilascia un modello di sicurezza open-weight da 328 GB per l’analisi locale

AI.info Team · Scritto con l’IA · verificato ·

Aikido sta rilasciando un modello di sicurezza open-weight rivolto alle organizzazioni che non possono inviare codice sorgente, risultati sulle vulnerabilità o dettagli dell’infrastruttura a un servizio di IA esterno. Altar può funzionare su infrastrutture controllate dai clienti, compresi gli ambienti completamente air-gapped, ma la sua specializzazione nella sicurezza comporta requisiti hardware considerevoli: anche dopo la compressione, i pesi del modello occupano 328 GB di spazio di archiviazione.

Il rilascio mette in luce una tensione che ha influenzato l’adozione dell’IA nelle aziende. Mantenere l’analisi all’interno della rete aziendale riduce i timori legati all’esposizione dei dati e favorisce l’utilizzo in ambienti regolamentati o disconnessi; d’altra parte, i modelli più grandi e capaci possono richiedere centinaia di gigabyte di memoria prima ancora che un’organizzazione avvii una singola indagine. L’approccio di Aikido consiste nel ridurre le dimensioni del modello anziché spostare il carico di lavoro nel cloud.

Aikido ha annunciato Altar il 21 settembre 2026, descrivendolo come il suo primo modello di sicurezza open-weight. L’annuncio è stato scritto da Selim Decamps e Tiburce Gridello.

Altar riduce GLM-5.3 da 1,51 TB a 328 GB

Aikido è partita da GLM-5.3, un modello mixture-of-experts che, secondo l’azienda, ha ottenuto risultati elevati nelle sue valutazioni interne di sicurezza. Nella versione BF16 non compressa, i pesi del modello occupano 1.506,7 GB. La quantizzazione AWQ INT4 riduce questa dimensione a 488,2 GB, mentre il successivo pruning di Aikido produce un checkpoint W4A16 da 328,0 GB.

Il modello finale occupa quindi il 78,2% di spazio in meno rispetto alla versione completa a 16 bit e il 32,8% in meno rispetto al modello di partenza già quantizzato. La quantizzazione memorizza i pesi del modello usando meno bit. Il pruning rimuove blocchi di esperti selezionati dal modello mixture-of-experts, lasciando 168 dei 256 esperti originali instradati in ciascun livello di esperti del backbone. Il router continua a selezionare otto esperti per ogni token.

Aikido ha selezionato gli esperti rimanenti usando Router-weighted Expert Activation Pruning, o REAP, di Cerebras. Il processo di selezione ha utilizzato tracce provenienti dall’ambiente interno di pentesting dell’azienda, tra cui codice, chiamate agli strumenti e risposte del modello. Secondo Aikido, non sono stati utilizzati dati dei clienti ed è stato aggiunto testo multilingue per contribuire a preservare la capacità del modello di interpretare la documentazione delle applicazioni e le regole aziendali in lingue tra cui il francese e l’olandese.

Il benchmark mostra un divario più ridotto rispetto a un modello più piccolo

Aikido ha testato Altar su un benchmark interno contenente 32 vulnerabilità note in 30 repository, con tre esecuzioni per ogni caso. Il modello ha raggiunto un recall medio del 60,4% per esecuzione e ha individuato nuovamente 23 delle 32 vulnerabilità almeno una volta nel corso delle tre esecuzioni.

Il modello quantizzato GLM-5.3 AWQ ha registrato un recall medio del 61,5% e ha coperto anch’esso 23 vulnerabilità. Il modello GLM-5.3 a precisione piena ha raggiunto un recall medio del 65,6% e ne ha coperte 25. Rispetto al modello quantizzato usato come riferimento, Altar ha quindi perso circa un punto percentuale di recall medio, mantenendo la stessa copertura delle vulnerabilità nel test dell’azienda.

Aikido presenta il risultato come il mantenimento del 92% della copertura delle vulnerabilità del modello di partenza, con circa un terzo in meno di spazio di archiviazione. Il benchmark non dimostra che Altar sia in grado di scoprire vulnerabilità sconosciute in un’intera base di codice. Il benchmark misura la capacità di individuare nuovamente CVE note attraverso ricerche mirate, all’interno di una pipeline che utilizza altri modelli per le fasi circostanti; non misura la scoperta alla cieca, la validazione degli exploit o le proposte di correzione.

L’utilizzo in locale è un requisito del prodotto

L’impiego previsto è in Aikido Machine, il dispositivo autonomo di pentesting dell’azienda. Secondo Aikido, il dispositivo funziona all’interno dell’infrastruttura del cliente, anche in ambienti air-gapped, ed è in grado di rilevare, sfruttare e validare le vulnerabilità senza inviare le informazioni contestuali più sensibili dell’organizzazione a un fornitore di inferenza esterno.

Questo posizionamento si rivolge alle aziende con regole rigorose sulla residenza dei dati, reti di tecnologia operativa disconnesse e politiche interne che vietano al codice sorgente di uscire dall’organizzazione. Trasferisce inoltre il costo dell’inferenza sull’hardware del cliente. Altar può essere messo in servizio su un nodo con quattro GPU H200 usando la versione più recente di vLLM.

Aikido ha distribuito Altar sull’intero parco di dispositivi Aikido Machine dopo aver completato le valutazioni. Poco dopo, secondo Aikido, il modello ha identificato una vulnerabilità valida di gravità critica durante un pentest nell’ambiente di produzione di un cliente. L’annuncio non fornisce dettagli tecnici sulla vulnerabilità né identifica il cliente.

I pesi sono disponibili, ma il modello non è leggero da scaricare

Aikido ha reso disponibili i pesi di Altar attraverso la propria organizzazione, insieme a una scheda del modello, alla licenza, ai flag per la messa in servizio e alle istruzioni per la distribuzione. Il rilascio rimanda anche a uno studio pubblico sulla fedeltà e a un toolkit per il pruning, senza però rendere disponibili le conversazioni grezze degli agenti.

Aikido sta testando formati con un numero inferiore di bit, come EXL3, e ulteriori ottimizzazioni per la messa in servizio su H200. Il prossimo passo nello sviluppo riguarda l’addestramento anziché la compressione: fine-tuning per i flussi di lavoro di sicurezza, un uso migliore degli strumenti e indagini più lunghe, con benchmark interni a guidare i modelli successivi.

Per ora, la proposta pratica di Altar è specifica. Le organizzazioni disposte a gestire un sistema con quattro H200 possono eseguire un modello di sicurezza open-weight all’interno della propria rete: il test di Aikido mostra 23 vulnerabilità individuate nuovamente su 32 e pesi che occupano 328 GB di spazio di archiviazione.

Fonte

Notizie correlate

Esplora

Altri articoli