The Pulse
L’upload su Hugging Face presentato come un checkpoint Anthropic da 14 trilioni di parametri era rumore generato con un seme
Un repository su Hugging Face pubblicizzato come un checkpoint Anthropic da 14 trilioni di parametri è finito sotto esame dopo che alcuni utenti hanno dimostrato che i suoi tensori potevano essere rigenerati a partire dai loro nomi mediante
AI.info Team · Scritto con l’IA · verificato ·
Un upload da 7,72 terabyte e una notizia che si diffonde rapidamente
Un repository su Hugging Face presentato come un checkpoint Anthropic da circa 14 trilioni di parametri ha attirato l’attenzione il 1° novembre, per poi essere messo in discussione sul piano tecnico: gli autori di un audit hanno scoperto che i suoi tensori potevano essere ricreati a partire dai loro nomi usando un generatore di numeri casuali inizializzato con un seme. CellCog, che quella sera ha pubblicato una propria verifica, ha riferito che i valori testati coincidevano esattamente. Le evidenze indicano che si tratta di dati sintetici, non di pesi di un modello addestrato; non stabiliscono chi abbia caricato i file né perché.
Il repository, chiamato burner22/numbat, si presentava come un checkpoint intermedio dell’addestramento del prossimo modello di classe Mythos di Anthropic. La sua scheda dichiarava circa 14 trilioni di parametri, 114 livelli e un’architettura mixture-of-experts, ed elencava 772 frammenti di file per un totale di circa 7,72 terabyte. Chi ha caricato i file ha anche definito «numbat» un nome in codice di Anthropic, ma CellCog ha dichiarato di non aver verificato il riferimento citato a una precedente fuga di codice sorgente di Claude Code.
I nomi dei tensori hanno permesso di riprodurre i valori
Il primo audit dettagliato, pubblicato nella discussione del repository su Hugging Face il 1° novembre, ha riferito che 43 tensori completi di normalizzazione e convoluzione — 730.368 valori — potevano essere rigenerati bit per bit. La procedura calcola l’hash del nome di ogni tensore con SHA-256, usa i primi otto byte come seme per il generatore PCG64 di NumPy, quindi applica determinate trasformazioni e converte i risultati nel formato memorizzato nei file. L’autore dell’audit ha dichiarato che lo script ha scaricato circa 90 kilobyte e non ha eseguito codice fornito dal repository.
Nella discussione, FloxUnder, l’utente di Hugging Face che ha pubblicato l’audit, ha scritto:
«Ho verificato questo repository attraverso un audit riproducibile assistito dall’IA e ho trovato nei pesi pubblicati un’impronta esatta di generazione deterministica.»
— FloxUnder, utente di Hugging Face e autore dell’audit
CellCog ha riferito di una verifica separata del primo frammento: tutti e nove i tensori testati coincidevano, per un totale di 147.968 valori, mentre un controllo con un seme diverso non ha dato lo stesso risultato.
Le verifiche successive hanno raggiunto le grandi matrici
L’audit iniziale aveva un limite: aveva esaminato un sottoinsieme dei file, non ogni tensore, e il suo autore aveva osservato che quelle sole corrispondenze non potevano escludere un’ipotetica configurazione di addestramento che avesse deliberatamente congelato i parametri testati. Una successiva discussione su Hugging Face ha esteso l’analisi alle grandi matrici a 4 bit. Il suo autore ha riferito di aver ottenuto una corrispondenza dei segni di 162.246.496 valori in 5.503 tensori, presenti in 770 dei 772 frammenti.
La verifica successiva ha inoltre ricostruito dieci matrici dei livelli dal 2 al 108 e ha riferito che 465.566.255 codici a quattro bit su 465.567.744 coincidevano. Questi controlli danno maggior portata all’analisi rispetto al campione iniziale, sebbene non costituiscano una ricostruzione completa, byte per byte, di ogni tensore del repository. La conclusione di CellCog secondo cui l’upload non è un checkpoint addestrato si basa su questi schemi riproducibili, anziché sulle dimensioni del repository, sulla sua configurazione o su dettagli insoliti della sua implementazione.
L’upload non autentica un modello Anthropic
I file elencati nel repository includevano codice di modellazione personalizzato e CellCog ha consigliato ai lettori di non eseguire codice proveniente da un upload anonimo. La presenza di file architetturali plausibili e di dati quantizzati internamente coerenti non può stabilire che Anthropic abbia creato o addestrato i pesi; le verifiche sui tensori forniscono invece indicazioni del fatto che gran parte del contenuto sia stata generata con una procedura deterministica.
CellCog ha riferito che Anthropic non aveva commentato il repository entro le 20:20 UTC del 1° novembre. Ha inoltre dichiarato che non esisteva alcuna pagina ufficiale del fornitore, scheda del modello o dichiarazione che corroborasse la fuga di dati. Il repository non offriva quindi alcun collegamento verificato con Anthropic, mentre gli audit pubblici dei tensori hanno dato ai lettori indipendenti un modo conciso per verificare il contenuto dei suoi file.