Vai al contenuto
AI.info

The Pulse

Aikido rilascia un modello a pesi aperti da 328 GB per l’analisi della sicurezza in locale

Aikido ha rilasciato Altar, un modello a pesi aperti per la sicurezza progettato per funzionare nell’infrastruttura controllata dal cliente, anche in ambienti completamente isolati dalla rete. Secondo l’azienda, la potatura e la quantizzazi

Aikido rilascia un modello a pesi aperti da 328 GB per l’analisi della sicurezza in locale

AI.info Team ·

Aikido rilascia un modello a pesi aperti per la sicurezza destinato alle organizzazioni che non possono inviare codice sorgente, vulnerabilità individuate o dettagli della propria infrastruttura a un servizio di IA esterno. Secondo l’azienda, Altar può funzionare nell’infrastruttura controllata dal cliente, anche in ambienti completamente isolati dalla rete. Questa scelta, però, comporta requisiti hardware notevoli: i pesi del modello compresso occupano comunque 328 GB.

Il rilascio mette in luce una tensione che ha condizionato l’adozione dell’IA nelle imprese. Mantenere l’analisi all’interno della rete aziendale riduce le preoccupazioni legate all’esposizione dei dati e permette di operare in ambienti regolamentati o scollegati dalla rete. I modelli più grandi e capaci, però, possono richiedere centinaia di gigabyte di memoria ancora prima di avviare una singola indagine. L’approccio di Aikido consiste nel ridurre il modello anziché spostare il carico di lavoro nel cloud.

Aikido ha annunciato Altar il 21 settembre 2026, presentandolo come il suo primo modello a pesi aperti per la sicurezza. L’annuncio è stato scritto da Selim Decamps e Tiburce Gridello.

Altar riduce GLM-5.3 da 1,51 TB a 328 GB

Aikido è partita da GLM-5.3, un modello mixture-of-experts che, secondo l’azienda, ha ottenuto buoni risultati nelle sue valutazioni interne di sicurezza. Nella versione BF16 non compressa, i pesi del modello occupano 1.506,7 GB. La quantizzazione AWQ INT4 riduce questa cifra a 488,2 GB, mentre la successiva potatura effettuata da Aikido produce un checkpoint W4A16 da 328,0 GB.

Il modello finale occupa quindi il 78,2% di spazio in meno rispetto alla versione completa a 16 bit e il 32,8% in meno rispetto al modello di partenza già quantizzato. La quantizzazione memorizza i pesi del modello usando meno bit. La potatura rimuove blocchi di esperti selezionati dal modello mixture-of-experts, lasciando 168 dei 256 esperti instradati originali in ogni livello di esperti del backbone. Il router continua a selezionare otto esperti per ogni token.

Aikido afferma di aver selezionato gli esperti rimanenti con Router-weighted Expert Activation Pruning, o REAP, di Cerebras. Il processo di selezione ha usato tracce generate dall’ambiente interno dell’azienda per i test di penetrazione, tra cui codice, chiamate agli strumenti e risposte del modello. Aikido afferma di non aver usato dati dei clienti e di aver aggiunto testi multilingui per contribuire a preservare la capacità del modello di interpretare la documentazione delle applicazioni e le regole aziendali in lingue tra cui il francese e l’olandese.

Il benchmark mostra un divario più ridotto di quello di un modello più piccolo

Aikido ha testato Altar su un benchmark interno contenente 32 vulnerabilità note distribuite in 30 repository, con tre esecuzioni per ciascun caso. Il modello ha registrato un richiamo medio del 60,4% per esecuzione e ha ritrovato 23 delle 32 vulnerabilità almeno una volta nelle tre esecuzioni.

Il modello GLM-5.3 quantizzato con AWQ ha registrato un richiamo medio del 61,5% e ha individuato anch’esso 23 vulnerabilità. La versione a piena precisione di GLM-5.3 ha registrato un richiamo medio del 65,6% e ne ha individuate 25. Rispetto al modello quantizzato di riferimento, Altar ha quindi perso circa un punto percentuale di richiamo medio, mantenendo la stessa copertura delle vulnerabilità nel test dell’azienda.

Aikido presenta il risultato come il mantenimento del 92% della copertura delle vulnerabilità del modello di partenza, con uno spazio di archiviazione inferiore di circa un terzo. Il benchmark non dimostra che Altar possa scoprire vulnerabilità sconosciute in un’intera base di codice. Secondo Aikido, misura il ritrovamento mirato di CVE note all’interno di una pipeline che usa altri modelli per le fasi circostanti; non misura la scoperta senza indicazioni preliminari, la verifica degli exploit o la proposta di correzioni.

L’esecuzione in locale è un requisito del prodotto

L’impiego previsto è in Aikido Machine, il dispositivo autonomo dell’azienda per i test di penetrazione. Secondo Aikido, il dispositivo funziona nell’infrastruttura del cliente, anche in ambienti completamente isolati dalla rete, e può rilevare, sfruttare e verificare vulnerabilità senza inviare le informazioni più sensibili dell’organizzazione a un fornitore esterno di servizi di inferenza.

Questa impostazione si rivolge alle aziende con regole rigorose sulla residenza dei dati, reti di tecnologia operativa scollegate e politiche interne che vietano di far uscire il codice sorgente dall’organizzazione. Sposta inoltre il costo dell’inferenza sull’hardware del cliente. Secondo Aikido, Altar può essere eseguito su un nodo con quattro GPU H200 usando l’ultima versione di vLLM.

L’azienda afferma di aver distribuito Altar su tutta la propria flotta di Aikido Machine dopo aver completato le valutazioni. Poco dopo, secondo Aikido, il modello ha identificato una vulnerabilità valida di gravità critica durante un test di penetrazione nell’ambiente di produzione di un cliente. L’annuncio non fornisce dettagli tecnici sulla vulnerabilità né identifica il cliente.

I pesi sono disponibili, ma il modello non è leggero da scaricare

Aikido ha reso disponibili i pesi di Altar tramite il proprio account dell’organizzazione, insieme a una scheda del modello, una licenza, parametri per l’esecuzione e istruzioni per la distribuzione. Il rilascio rimanda anche a uno studio pubblico sulla fedeltà del modello e a un toolkit per la potatura, mentre non rende disponibili le conversazioni grezze degli agenti.

L’azienda afferma di stare sperimentando formati con meno bit, come EXL3, e ulteriori ottimizzazioni per l’esecuzione su H200. Il passo successivo dello sviluppo sarà l’addestramento, non la compressione: fine-tuning per i flussi di lavoro della sicurezza, un migliore uso degli strumenti e indagini più lunghe, con i benchmark interni a guidare i modelli successivi.

Per ora, la proposta pratica di Altar è precisa. Le organizzazioni disposte a gestire un sistema con quattro H200 possono eseguire un modello a pesi aperti per la sicurezza all’interno della propria rete. Nel test di Aikido, il modello ha ritrovato 23 vulnerabilità su 32 e i suoi pesi occupano 328 GB.

Fonte

Esplora

Altri articoli