The Pulse
I laboratori cinesi di IA hanno pubblicato risultati sulla sicurezza per il 3,6% dei modelli rilasciati
SemiAnalysis ha trovato risultati sulla sicurezza riferiti a modelli specifici per 31 degli 857 modelli rilasciati da nove importanti sviluppatori cinesi di IA. Solo per nove erano disponibili risultati al momento del lancio, mentre il rapp
AI.info Team · Scritto con l’IA ·
Il più recente quadro cinese per la sicurezza dell’IA avverte che i modelli potrebbero ingannare chi li valuta, nascondere le proprie capacità e aggirare le misure di sicurezza. Eppure, esaminando nove importanti sviluppatori cinesi, SemiAnalysis ha trovato risultati pubblici sulla sicurezza riferiti a modelli specifici per appena 31 degli 857 modelli rilasciati, il 3,6%, e risultati disponibili entro il lancio per soli nove. Il rapporto, pubblicato l’8 ottobre, misura ciò che le aziende hanno reso noto, non se abbiano condotto test privati.
Il Framework 3.0 avverte dei rischi; per pochi modelli rilasciati risultano disponibili dati sulla sicurezza
L’analisi riguarda i modelli rilasciati dal 2021 al 15 settembre 2026 da Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Zhipu (Z.ai), MiniMax e StepFun. Il dataset comprende 741 modelli di prodotto e 116 modelli di ricerca. Gli autori hanno esaminato le schede dei modelli, le note di rilascio e i rapporti tecnici degli sviluppatori alla ricerca di risultati riconducibili a un modello rilasciato e identificato per nome.
SemiAnalysis ha conteggiato i risultati quantitativi o sostanziali relativi a output dannosi, jailbreak, tossicità, privacy, comportamento di rifiuto o capacità pericolose. Non bastavano affermazioni generiche secondo cui un modello era stato «addestrato per la sicurezza» o «valutato»; né il risultato di un test su un modello veniva attribuito automaticamente a un’altra dimensione o versione. Gli autori avvertono inoltre che «non trovato» si riferisce soltanto ai materiali esaminati e non significa che il modello non sia stato sottoposto a test.
Per nove modelli i risultati erano disponibili entro il lancio
Dei 31 modelli rilasciati per i quali è stato pubblicato un risultato, nove ne avevano uno disponibile al momento del rilascio o prima, pari all’1,1% dell’intero dataset. Altri 16 risultati sono comparsi successivamente, con un ritardo mediano di 42 giorni e uno massimo di 349 giorni. Per sei modelli rilasciati, i ricercatori hanno trovato risultati, ma non sono riusciti a stabilire quando fossero comparsi né ad associarli con certezza al modello specifico.
Il rapporto suddivide gli altri 826 modelli rilasciati in tre gruppi: 10 per i quali si afferma che sia stata condotta una valutazione, ma senza fornire dati numerici; tre la cui valutazione era nota soltanto attraverso resoconti della stampa o destinati agli investitori, senza documentazione degli sviluppatori che i ricercatori siano riusciti a reperire; e 813 per i quali nei materiali esaminati non figurava alcuna informazione sulla sicurezza. Quest’ultimo gruppo rappresenta il 94,9% di tutti i modelli rilasciati nel dataset.
Le startup hanno pubblicato risultati più spesso dei colossi tecnologici cinesi
Le startup hanno pubblicato risultati per 20 dei 317 modelli rilasciati, pari al 6,3%, contro 11 su 540, pari al 2%, delle quattro maggiori aziende tecnologiche. Il divario non significa che pubblicare i risultati sia una prassi abituale: SemiAnalysis ha rilevato che nessuna azienda lo ha fatto sistematicamente. Alibaba aveva risultati per sette dei suoi 238 modelli rilasciati; Tencent per uno su 133, ByteDance per due su 120 e Baidu per uno su 49.
Secondo il rapporto, Zhipu è stato l’unico sviluppatore del campione con un risultato in ogni anno dal 2022 in poi. Nell’intero dataset, i modelli rilasciati con un qualsiasi risultato non hanno mai superato quota sette in un trimestre, anche se l’analisi registra un aumento dei modelli rilasciati da tre nel primo trimestre del 2023 a 101 nel terzo trimestre del 2025. SemiAnalysis ha inoltre rilevato che il 93% dei modelli di ragionamento non aveva risultati pubblicati sulla sicurezza.
Pubblicare i risultati non equivale a effettuare i test
Il rapporto mette il suo censimento dei modelli rilasciati a confronto con l’AI Safety Governance Framework 3.0 della Cina, pubblicato il 14 settembre dal comitato per gli standard TC260, che opera sotto l’Amministrazione cinese del cyberspazio. Il quadro individua rischi legati ai modelli, tra cui l’accesso non autorizzato alle risorse di sistema, l’inganno di chi li valuta e le capacità nascoste. SemiAnalysis sostiene che le norme vincolanti cinesi disciplinano soprattutto le applicazioni di IA e i loro effetti sugli utenti, anziché imporre agli sviluppatori di modelli di frontiera di pubblicare valutazioni dei rischi legate alle capacità dei modelli.
«Tuttavia, riteniamo che il vero approccio della Cina alla sicurezza dell’IA si basi sulla velocità, non sulla sicurezza», scrivono gli autori. È la loro interpretazione delle politiche e dei dati sui modelli rilasciati, non una constatazione che i modelli privi di risultati pubblicati non siano stati sottoposti a test. Il rapporto non fornisce un conteggio comparabile per gli sviluppatori statunitensi: il dato del 3,6% descrive quindi le nove aziende cinesi e i materiali esaminati da SemiAnalysis, non un confronto diretto tra paesi.