Vai al contenuto
AI.info

The Pulse

Sakana AI crea un gruppo di ricerca sulla sicurezza incentrato sulla difesa dell’IA

Sakana AI sta creando un gruppo di ricerca per studiare la difesa informatica collettiva e la sicurezza dei sistemi di IA. Il team intende pubblicare ricerche, benchmark riproducibili e indicazioni pratiche, separatamente dall’attività commerciale dell’azienda.

Sakana AI crea un gruppo di ricerca sulla sicurezza incentrato sulla difesa dell’IA

Sakana AI sta formando un gruppo di ricerca per studiare come gli agenti di IA potrebbero coordinarsi nella difesa informatica e come proteggere i sistemi di IA stessi. Il gruppo è separato dall’attività commerciale dell’azienda, ha dichiarato Sakana in un post del 20 novembre.

Il team è guidato da Akihiro Umegai e David Ha. Tra i suoi piani ci sono la pubblicazione di ricerche, benchmark riproducibili e linee guida pratiche, oltre alla collaborazione con governi, industria e mondo accademico.

Prevenire le vulnerabilità in fase iniziale

Il gruppo si occuperà della qualità dei prodotti, della progettazione e configurazione dei sistemi, del funzionamento e dell’applicazione delle patch, nonché del rilevamento e della risposta. Nel lungo periodo, si concentrerà soprattutto sulle prime due aree: prevenire le vulnerabilità durante la progettazione e lo sviluppo, anziché affidarsi a correzioni dopo il rilascio.

Tra le questioni che affronterà ci sono come definire e verificare le qualità che un sistema deve mantenere, come rendere inaccessibili intere classi di vulnerabilità e come verificare le correzioni automatizzate rispetto a criteri che l’automazione non può modificare. Il gruppo vuole inoltre approfondire come annullare rapidamente le correzioni se qualcosa va storto.

Sakana afferma che l’IA potrebbe contribuire a verificare la qualità durante la progettazione, la costruzione e il funzionamento. L’azienda sostiene che un modello di frontiera, da solo, non basta: senza strumenti di supporto adattati a un ambiente e una visione dell’intero sistema, può produrre falsi positivi e correzioni non sicure.

Pressione crescente sui difensori

L’azienda cita dati del NIST secondo cui le segnalazioni di CVE sono aumentate del 263% tra il 2020 e il 2025, mentre nei primi mesi del 2026 il dato è stato quasi di un terzo superiore rispetto allo stesso periodo dell’anno precedente. Le voci di JVN iPedia, un servizio giapponese di informazioni sulle vulnerabilità, sono state quasi il doppio nell’ultimo trimestre rispetto a un anno prima; la maggior parte proveniva dall’NVD, afferma Sakana.

L’azienda afferma che si sospetta ampiamente che l’IA stia contribuendo all’aumento, anche se resta ancora molto da confermare. Indica inoltre gli attacchi condotti con agenti di IA contro più obiettivi e l’aumento delle attività di scansione degli endpoint dei servizi di IA registrato da NICT nel primo trimestre del 2026.

Coordinare gli agenti di IA

Il team intende anche esplorare se gli agenti difensivi distribuiti tra diverse organizzazioni possano restare sincronizzati, così che un’osservazione di un agente possa influenzare il modo in cui gli altri si difendono. L’idea si basa sulla condivisione di analisi di sicurezza tra organizzazioni già in corso in Giappone.

Tra le questioni da affrontare ci sono quali informazioni possano essere condivise e con il consenso di chi, come garantire l’affidabilità dei segnali tra organizzazioni e fornitori diversi e chi sia responsabile quando gli agenti agiscono sulla base di tali segnali. Il gruppo intende inoltre studiare la sicurezza degli stessi agenti difensivi, compreso come limitarne l’autorità e tracciarne le azioni.

Sakana afferma che, nelle sue ricerche sull’IA che migliora sé stessa, è capitato che gli agenti trovassero modi per aggirare i vincoli loro assegnati. Il gruppo considera questi fallimenti un problema tecnico centrale.

Basi della ricerca e divulgazione

Il team si baserà su precedenti progetti di Sakana, tra cui Digital Red Queen, che ha fatto evolvere programmi scritti da modelli linguistici mettendoli alla prova contro i loro predecessori, e ShinkaEvolve, che fa evolvere codice con budget di valutazione limitati. Cita inoltre Fugu-Cyber, che coordina modelli specializzati.

Fugu-Cyber ha ottenuto l’86,9% su CyberGym e il 72,1% su CTI-REALM, risultati che Sakana descrive come paragonabili a quelli dei principali modelli di frontiera specializzati nella cybersicurezza. L’azienda avverte che le prestazioni nei benchmark non si trasferiscono necessariamente agli ambienti aziendali e afferma che misurare questa differenza è una questione di ricerca.

In base alle sue linee guida operative, la ricerca sulla sicurezza sarà in genere tenuta separata dalla promozione dei prodotti. Il gruppo sta ancora definendo la propria politica di pubblicazione; per ora, i principi dichiarati sono condividere white paper, benchmark e playbook difensivi, non divulgare materiale sugli exploit utilizzabile per agire e segnalare le vulnerabilità scoperte attraverso canali di coordinamento.

Fonti

  1. Fonte originale Sakana AI sakana.ai

Aziende in questa notizia

Notizie correlate

Esplora

Altri articoli