The Pulse

Tether pubblica un dataset STEM da 191 miliardi di token per modelli più piccoli

Tether AI Research ha pubblicato QVAC Genesis III, un dataset sintetico da 191,43 miliardi di token per addestrare modelli più piccoli al ragionamento nelle discipline STEM. Secondo l’azienda, i modelli addestrati sul corpus hanno superato

AI.info Team · Scritto con l’IA · verificato · 2026-09-23

Tether punta su dati migliori, non su modelli più grandi

Tether AI Research ha pubblicato QVAC Genesis III il 23 settembre, presentando un dataset sintetico da 191,43 miliardi di token come alternativa alla continua spinta del settore verso modelli più grandi e sistemi di calcolo più potenti.

Secondo l’azienda, Genesis III aiuta i modelli più piccoli a rispondere a domande sulle discipline STEM, spiegando anche il ragionamento alla base delle risposte. L’obiettivo dichiarato è l’IA locale: tutor, assistenti tecnici e strumenti di ricerca in grado di funzionare su portatili, telefoni e server locali, anziché inviare ogni richiesta a un modello nel cloud.

«Gran parte del settore dell’IA si è concentrata sull’ingrandire i modelli e dare loro più potenza di calcolo», ha dichiarato nell’annuncio Paolo Ardoino, CEO di Tether. «Genesis III mostra cosa può accadere quando ci si concentra invece sul migliorare i dati da cui apprendono i modelli più piccoli».

La pubblicazione è accompagnata da un articolo di ricerca presentato ad arXiv il 17 settembre. L’articolo è stato anche accettato per la presentazione alla Conference on Language Modeling del 2026.

Cosa aggiunge Genesis III alle precedenti pubblicazioni di QVAC

Genesis III si basa su QVAC Genesis I e Genesis II, pubblicati a ottobre e dicembre 2025. Il nuovo corpus contiene 159,6 milioni di documenti che coprono 19 aree STEM, tra cui biologia, chimica, fisica, matematica, informatica, medicina, astronomia, ingegneria elettrica, statistica e machine learning.

Il dataset è disponibile attraverso la piattaforma aperta Genesis di QVAC ed è distribuito con una licenza CC-BY-NC 4.0 per la ricerca e l’istruzione. La pagina di QVAC fornisce un esempio di caricamento in una sola riga che utilizza la libreria datasets di Hugging Face, permettendo ai ricercatori di accedere al materiale in streaming o scaricarlo per le sessioni di addestramento.

Il progetto è costruito attorno a due forme di dati sintetici di ragionamento. Failure Analysis prende gli errori commessi da un modello studente più piccolo e li trasforma in spiegazioni correttive. Un modello insegnante più potente individua l’errore, spiega il fraintendimento ed elabora una soluzione.

Option-Level Reasoning utilizza le domande a cui il modello studente ha risposto correttamente. Genera spiegazioni del perché la risposta selezionata è giusta e le altre opzioni sono sbagliate. L’approccio mira a fornire ai modelli più informazioni sugli errori e sulle alternative rispetto a una coppia convenzionale di domanda e risposta.

I miglioramenti dichiarati rispetto a Cosmopedia-v2

L’articolo valuta modelli da 1,7 miliardi di parametri addestrati da zero e confronta Genesis III con Cosmopedia-v2, un corpus sintetico aperto per l’addestramento. Secondo Tether, il dataset Option-Level ha prodotto miglioramenti su diverse architetture di modelli, tra cui Qwen, Llama, SmolLM e Gemma.

Rispetto a un modello Cosmopedia-v2 addestrato con lo stesso numero di token, i risultati di Genesis III hanno migliorato i punteggi di 28,57 punti percentuali su ARC-Easy, 21,35 punti su ARC-Challenge e 15,03 punti sul benchmark MMLU STEM. Secondo l’articolo, un modello Genesis III ha anche superato il modello Cosmo-1B, distribuito pubblicamente, che è più grande ed è stato addestrato con ulteriori dati matematici e di codice.

Nella valutazione dello studio, un modello da 1,7 miliardi di parametri addestrato con i dati Option-Level ha raggiunto un tasso di risposte valide del 99,45%. L’articolo descrive questa misura come un protocollo di analisi delle risposte che rileva se un modello produce una risposta finale valida, anziché basarsi soltanto sull’accuratezza esatta nei benchmark.

I risultati riportati provengono dall’articolo e dall’annuncio di Tether. Mostrano le prestazioni nei benchmark nelle condizioni di addestramento e valutazione dichiarate dallo studio, non costituiscono una garanzia generale che ogni piccolo modello addestrato su Genesis III raggiungerà gli stessi risultati.

Perché Tether punta sul ragionamento sul dispositivo

L’iniziativa QVAC di Tether è incentrata sull’esecuzione locale dell’IA, con l’inferenza che avviene su hardware controllato dall’utente. Genesis III si inserisce in questa strategia concentrandosi sui dati di addestramento usati dai modelli più piccoli, anziché limitarsi ad aumentare il numero di parametri.

L’esecuzione locale potrebbe ridurre la necessità di inviare domande sensibili a un servizio esterno e può aiutare gli strumenti a funzionare dove la connettività è limitata. Tether indica l’istruzione come una possibile applicazione: un tutor locale potrebbe risolvere un problema di fisica, spiegare un passaggio matematico errato e individuare dove il ragionamento di uno studente ha fallito.

La stessa impostazione potrebbe supportare assistenti specializzati per ricercatori e professionisti. Tether descrive questi sistemi come strumenti che potrebbero funzionare localmente senza trasmettere continuamente domande tecniche o altre informazioni sensibili a server esterni.

Accesso aperto, con una licenza riservata alla ricerca

La disponibilità del dataset offre ai ricercatori indipendenti l’accesso a un ampio corpus sintetico STEM organizzato esplicitamente per livelli di difficoltà, stili didattici e tracce di ragionamento. QVAC descrive Genesis III come la sua pubblicazione più ampia fino a oggi e indica Genesis I a 41 miliardi di token e Genesis II a 107 miliardi di token.

La licenza non commerciale limita il modo in cui le aziende possono utilizzare il materiale pubblicato, pur consentendone l’uso per la ricerca e l’istruzione. Questa distinzione è importante per gli sviluppatori che potrebbero voler creare tutor o assistenti tecnici commerciali a partire dal corpus: il dataset è aperto alla consultazione e all’uso per la ricerca, ma la licenza non concede diritti commerciali illimitati.

Per ora, l’affermazione più solida su Genesis III è specifica, non universale. Negli esperimenti riportati dai suoi autori, spiegazioni generate con cura e ragionamento contrastivo aiutano modelli da 1,7 miliardi di parametri a competere con sistemi più grandi o addestrati in modo diverso su una selezione di test STEM. Il dataset è disponibile attraverso la pagina Genesis di QVAC e la pubblicazione su Hugging Face a cui la pagina rimanda.