The Pulse
Ricercatore afferma che sei modelli di IA cinesi presentano tracce dei chip Blackwell
Will DePue afferma che gli schemi rilevati in sei modelli di IA pubblicati corrispondono a layout associati alle GPU Nvidia Blackwell. La sua analisi riguarda la creazione dei pesi iniziali e non permette di stabilire dove si trovassero i chip né se siano state violate le restrizioni all’esportazione.

Sei modelli cinesi di IA presentano schemi numerici corrispondenti alle GPU Nvidia Blackwell utilizzate per creare i loro pesi iniziali, afferma il ricercatore Will DePue. I modelli provengono da DeepSeek, Moonshot AI, MiniMax e Ant Group, secondo il suo rapporto di analisi forense dei checkpoint, come riferisce The Agent Times.
Il rapporto di DePue è stato pubblicato il 12 novembre. La scoperta riguarda l’hardware utilizzato per inizializzare i pesi dei modelli, non l’identificazione diretta delle macchine impiegate nel resto dell’addestramento.
Quali modelli hanno corrisposto
L’analisi indica configurazioni Blackwell B200 o B300 per DeepSeek-V4-Flash e MiniMax-M3, riferisce The Agent Times. Gli altri modelli corrispondenti nel rapporto sono DeepSeek-V4-Pro, Kimi K3 e Kimi K3.1-Pro di Moonshot e Ling-3.1-flash di Ant Group, associati alla configurazione GB200 o GB300.
Il rapporto confronta inoltre questi risultati con modelli precedenti delle stesse aziende. DePue associa DeepSeek-V3, Kimi K2 e K2.5, MiniMax-M2.7 e Ling-3.0-flash alla precedente generazione Hopper di Nvidia, secondo The Agent Times.
Il repository di codice di DePue permette di ripetere i controlli su cinque modelli delle quattro aziende, compreso il confronto con il precedente DeepSeek-V3. Utilizza righe copiate dai pesi dei modelli pubblicati e le confronta con hash registrati.
Esame dei pesi iniziali
I pesi sono i valori numerici che un modello modifica durante l’addestramento. Prima dell’addestramento, il software crea i loro valori iniziali usando un numero di partenza noto come seed.
Il metodo esamina righe di embedding associate a token mai comparsi durante l’addestramento. Queste righe non ricevono gradienti di addestramento, quindi possono conservare i valori iniziali, spiega il repository.
La disposizione di questi valori dipende dal numero di streaming multiprocessor, o SM, nella GPU utilizzata per crearli. Il codice del repository per ripetere i controlli ricostruisce le righe usando diversi numeri possibili di SM e cerca una corrispondenza con i pesi pubblicati.
Per DeepSeek-V4-Flash, il repository segnala una corrispondenza per 461 righe su 469 usando la configurazione a 148 SM associata ai chip B200 e B300. Le otto righe restanti, afferma, sono state addestrate in parte. Per Kimi K3, il repository segnala che 13 righe su 13 corrispondono alla configurazione a 152 SM associata ai chip GB200 e GB300.
Verifiche sull’hardware e limiti
Il repository descrive anche verifiche su GPU fisiche usando PyTorch. Segnala corrispondenze su una B300 per DeepSeek-V4-Flash e MiniMax-M3 e su una GB200 per Kimi K3. Un controllo con un seed diverso non ha trovato corrispondenze su nessuna delle GPU testate.
Un repository pubblico separato dichiara di aver riprodotto le configurazioni proposte per tutti e sei i modelli e per DeepSeek-V3 usando un’unità centrale di elaborazione, riferisce JetsonsAge. Le sue verifiche non comprendono test su hardware fisico, il confronto con AMD né le tracce meno evidenti negli strati addestrati.
Anche una AMD MI300X configurata appositamente può produrre le configurazioni pertinenti, secondo il rapporto citato da JetsonsAge. L’ulteriore confronto numerico di DePue favorisce Nvidia per DeepSeek-V4-Flash, mentre l’alternativa AMD resta possibile per gli altri cinque modelli.
I risultati non stabiliscono dove si trovassero i chip, come sia stato ottenuto l’accesso né se siano state violate le restrizioni all’esportazione, riferisce The Agent Times. Anche il repository di codice precisa che il suo controllo identifica la GPU che ha creato i pesi iniziali, non il luogo in cui è avvenuto l’addestramento successivo.
Fonti
Notizie correlate
- Bessent illustra i colloqui sui rischi dell’IA tra Stati Uniti e Cina e il canale di allerta previsto
- Uno studio rileva parolacce in una minoranza delle esecuzioni di benchmark dei modelli di IA
- Dyania e Nvidia collaborano per portare l’IA clinica nelle reti ospedaliere
- Gigabyte lancia un desktop compatto per l’IA con fino a 128 GB di memoria
- Jensen Huang si dimette da CEO di Nvidia; Colette Kress assume l’incarico ad interim