The Pulse

Transformers 5.23 aggiunge il supporto a Inkling 2 Small

Transformers 5.23 di Hugging Face supporta Inkling 2 Small, il modello di Thinking Machines Lab che elabora testo e immagini e genera testo. La release modifica anche l’esportazione dei modelli e aggiunge il supporto per diverse altre famiglie di modelli.

AI.info Team · · verificato · su 3 fonti ↓ · Pubblicato 13 nov 2026

Transformers 5.23 supporta Inkling 2 Small, un modello di Thinking Machines Lab che riceve testo e immagini e genera testo. La release del 13 novembre aggiunge anche altre famiglie di modelli e modifica il modo in cui i modelli esportati vengono salvati e caricati, secondo le note di rilascio di Hugging Face.

Inkling 2 Small è pensato per l’inglese e altre lingue, oltre che per diversi linguaggi di programmazione. Il suo backbone linguistico ha 48 layer decoder mixture-of-experts, ognuno dei quali instrada i token verso 8 dei 384 esperti. Il modello ha 594 miliardi di parametri totali e 17 miliardi di parametri attivi.

Testo e immagini, ma non audio

A differenza del modello Inkling Small di prima generazione, il nuovo modello non accetta input audio, afferma Hugging Face in un post tecnico separato. Il modello precedente ha 276 miliardi di parametri totali e 12 miliardi di parametri attivi.

Il nuovo modello mantiene le caratteristiche del decoder Inkling, tra cui attenzione relativa appresa, convoluzioni causali corte e layer mixture-of-experts. Aggiunge residui di attenzione a blocchi, attenzione gated con un sink appreso e convoluzioni dinamiche di chiavi e valori.

Per le immagini, il modello utilizza un vision transformer basato sul Perception Encoder e proietta le feature risultanti nel modello linguistico. L’encoder visivo suddivide le immagini in patch di 20 × 20 pixel e unisce ogni gruppo di 2 × 2, producendo un embedding del modello linguistico per ogni regione di 40 × 40 pixel.

Il modello supporta una finestra di contesto fino a 1 milione di token. Thinking Machines lo ha rilasciato il 5 novembre con una licenza Apache 2.0, rendendo disponibili per il download i pesi aperti.

Usare il modello

L’esempio di Hugging Face per Inkling 2 Small utilizza le stesse classi Auto del precedente modello Inkling: AutoProcessor e AutoModelForMultimodalLM. L’esempio carica il modello, prepara un messaggio contenente un’immagine e una domanda testuale e genera una risposta testuale.

Thinking Machines distribuisce i pesi in due formati di checkpoint. La scheda del modello afferma che il checkpoint principale NVFP4 richiede un cluster di GPU con almeno 500GB di VRAM complessiva; il checkpoint alternativo MXFP8 richiede almeno 800GB di VRAM complessiva.

È possibile accedere al modello anche tramite la piattaforma di fine-tuning Tinker di Thinking Machines e tramite provider di inferenza di terze parti. La scheda del modello elenca diversi framework di inferenza, tra cui Hugging Face, per eseguire i pesi direttamente sull’hardware GPU.

Altre novità della versione 5.23

La release aggiunge anche il supporto per LFM3 e LFM3-VL, famiglie di modelli di Liquid AI che includono un modello testuale e un modello visione-linguaggio. LFM3-VL riceve immagini e video alla loro risoluzione nativa, oltre al testo.

Un’altra novità è JEV, una testa decisionale che assegna punteggi a etichette composte da un singolo token. JEV e la relativa pipeline decisionale sono sperimentali; le loro API, configurazione e comportamento potrebbero cambiare. Le note di rilascio raccomandano cautela nell’uso in produzione.

L’aggiornamento modifica le esportazioni in modo che ogni esportazione restituisca un ExportedModel, che può essere chiamato come il modello originale, caricato sull’Hub e caricato nel runtime del backend. La stessa API di esportazione copre Dynamo, ONNX Runtime, OpenVINO ed ExecuTorch.

La release include anche correzioni per la visione, tra cui correzioni per le posizioni di Qwen VL quando una cache testuale viene riutilizzata con una nuova immagine e per la gestione delle immagini in Emu3. Le pipeline di classificazione di immagini e video ora rispettano l’impostazione problem_type.