The Pulse
Transformers 5.21 aggiunge il supporto per MiniCPM-OCR e Flint MoE
Hugging Face ha pubblicato Transformers 5.21.0 il 26 ottobre, aggiungendo il supporto per MiniCPM-OCR di OpenBMB e per Flint, il modello a miscela di esperti di Recursive. L’aggiornamento modifica anche i piani di parallelismo dei tensori e
AI.info Team · Scritto con l’IA · verificato ·
Transformers 5.21.0 aggiunge il supporto nativo per MiniCPM-OCR e Flint, ma l’aggiornamento modifica anche le regole del parallelismo, che possono costringere i responsabili della manutenzione a rivedere le configurazioni personalizzate. Hugging Face ha pubblicato la release il 26 ottobre, affiancando alle integrazioni dei modelli modifiche alla gestione degli embedding nel parallelismo dei tensori e alla suddivisione degli esperti nei modelli a miscela di esperti.
Le novità sono destinate a impieghi diversi: MiniCPM-OCR legge immagini ricche di testo, mentre Flint porta nella libreria il modello linguistico a miscela di esperti di Recursive. Per i team che già usano piani personalizzati di parallelismo dei tensori o degli esperti, le note di rilascio segnalano la necessità di adeguamenti oltre al supporto per i nuovi modelli.
MiniCPM-OCR è pensato per le immagini ricche di testo
MiniCPM-OCR appartiene alla famiglia MiniCPM-V di OpenBMB e mantiene l’architettura di MiniCPM-V 4.6, secondo le note di rilascio. Questa architettura combina un encoder visivo SigLIP e un modulo di fusione basato sull’attenzione a finestre con un modello linguistico Qwen3.5. Il modello è specializzato nella lettura di immagini contenenti testo fitto, tra cui pagine scansionate, schermate, ricevute e tabelle.
La release aggiunge il modello a Transformers: non presenta un nuovo benchmark né annuncia il lancio di un nuovo modello. Sul piano pratico, gli sviluppatori possono usare il supporto nativo della libreria per queste attività di comprensione dei documenti. Hugging Face elenca documentazione e un paper insieme all’integrazione.
Flint instrada i token attraverso un sistema di esperti sparso
Flint è il modello linguistico a miscela di esperti di Recursive. La sua architettura di attenzione combina l’attenzione a finestra mobile con quella completa: la maggior parte dei livelli usa embedding rotazionali sul token corrente e sui 512 token precedenti, mentre i livelli rimanenti usano l’attenzione completa senza codifica posizionale. Le note di rilascio descrivono anche attention sink appresi e query e chiavi normalizzate tramite RMS per ciascuna testa.
In ogni livello sparso, Flint instrada un token verso sei dei 256 esperti usando punteggi sigmoidali, poi aggiunge un esperto condiviso senza gating; i suoi primi due livelli sono densi. Questa modalità di instradamento è il dettaglio implementativo che distingue il modello in questa release, non un’affermazione sulle prestazioni. Transformers aggiunge il supporto al modello grazie a un contributo attribuito a Lovish Madaan.
Sei aggiunte, dal recupero dei documenti alla sintesi vocale
MiniCPM-OCR e Flint sono due delle sei aggiunte elencate nella release. Le altre sono UltraVBert per la comprensione e il recupero di documenti visivi, Gradium Phonon TTS, Pocket TTS e il tokenizer audio di Pocket TTS. L’insieme comprende applicazioni relative ai documenti basati su immagini, alla modellazione linguistica e alla generazione vocale.
Pocket TTS è descritto come un modello text-to-speech da 100 milioni di parametri che su una CPU funziona più velocemente del tempo reale. Gradium Phonon TTS è una famiglia di modelli vocali che funzionano sul dispositivo. La release aggiunge anche il tokenizer di Pocket TTS, che converte l’audio in rappresentazioni latenti continue e viceversa.
I piani di parallelismo personalizzati richiedono attenzione
Per i team che si occupano dell’infrastruttura, le modifiche più importanti della release potrebbero riguardare aspetti diversi dalle integrazioni dei nuovi modelli. Il parallelismo dei tensori ha ora uno stile dedicato agli embedding e, per impostazione predefinita, suddivide gli embedding di input, anche quando le loro dimensioni non sono divisibili per il grado di parallelismo. Secondo le note di rilascio, i piani personalizzati che applicavano ColwiseParallel o RowwiseParallel agli embedding devono passare al nuovo stile dedicato agli embedding.
Tutti i piani di parallelismo dei tensori e degli esperti per i modelli MoE devono ora suddividere gli esperti. I piani personalizzati o a valle che mantengono gli esperti replicati tra i rank devono essere aggiornati per soddisfare il nuovo requisito. Transformers 5.21 aggiunge inoltre un backend FP8 per QuantizedCache, offrendo agli utenti un’altra opzione per conservare gli stati chiave-valore in una cache quantizzata.
La release offre quindi sia nuove integrazioni di modelli sia modifiche alle configurazioni distribuite esistenti. I team che adottano Flint o altri modelli MoE dovrebbero verificare i propri piani di parallelismo; quelli con piani personalizzati per gli embedding devono sostituire sugli embedding i vecchi stili destinati ai livelli lineari.