The Pulse
Meta pubblica i pesi aperti di Muse Spark Open, con 816 miliardi di parametri
Meta ha pubblicato Muse Spark Open, un modello da 816 miliardi di parametri, di cui 42 miliardi attivi, con una finestra di contesto da un milione di token. L’annuncio comprende una sezione dedicata ai principali benchmark e un link a un ra
AI.info Team · Scritto con l’IA ·
Il nuovo Muse Spark Open di Meta ha 816 miliardi di parametri, ma per ogni token ne sono attivi solo 42 miliardi. Il 15 ottobre l’azienda ha pubblicato i pesi del modello, che dispone di una finestra di contesto da un milione di token e supporta input di testo, immagini, audio e video. Meta afferma che il modello è pensato per la programmazione e le attività svolte da agenti, comprese quelle che richiedono ragionamenti prolungati e più passaggi.
La pubblicazione rende Muse Spark Open disponibile tramite fornitori di servizi di inferenza ospitata e scaricabile da Hugging Face e dai cataloghi di modelli cloud. Gli sviluppatori possono eseguirlo con software di inferenza tra cui SGLang, vLLM, TensorRT-LLM, Transformers, MLX e llama.cpp. Meta lo descrive come il modello a pesi aperti statunitense più capace finora; l’annuncio comprende una sezione «Principali benchmark» e un link a un rapporto sulla metodologia di valutazione.
Pesi aperti, ma con condizioni
«Oggi pubblichiamo i pesi di Muse Spark Open, il modello a pesi aperti statunitense più capace finora.»
Scrive Meta AI Research. Meta AI Research
Meta distribuisce il modello con la Muse Model License, che descrive come una licenza dalle condizioni commerciali limitate, grazie alle quali molti sviluppatori possono usarlo gratuitamente. Si tratta di una pubblicazione dei pesi, non di una pubblicazione senza restrizioni di ogni aspetto dello sviluppo del modello. Meta afferma inoltre che il modello è stato sottoposto a un ulteriore addestramento successivo in materia di sicurezza e ha raggiunto le soglie previste per la pubblicazione dal suo Superintelligence Scaling Framework; rimanda i lettori a una scheda del modello per i dettagli e dice che un rapporto completo sulla valutazione arriverà prossimamente.
La distinzione conta per i team che devono decidere se possono adattare, ospitare e distribuire il modello alle proprie condizioni. Secondo la documentazione di Meta per gli sviluppatori, l’uso è soggetto anche a una Acceptable Use Policy. L’annuncio non illustra queste restrizioni nel dettaglio, quindi gli sviluppatori dovranno esaminare la licenza e la policy prima di fare affidamento sui pesi in un prodotto commerciale.
816 miliardi di parametri e requisiti hardware considerevoli
Il modello usa un’architettura sparsa mixture-of-experts: ogni token viene indirizzato a un sottoinsieme del modello, perciò il calcolo riguarda i 42 miliardi di parametri attivi. Per erogare il modello, però, occorre comunque caricare in memoria l’intero insieme di 816 miliardi di parametri. La documentazione di Meta indica un checkpoint BF16 di circa 1,65 terabyte e una versione compressa NVFP4 di circa 537 gigabyte; la versione BF16 può richiedere all’incirca due terabyte di memoria GPU includendo cache, attivazioni e overhead di esecuzione.
Questi requisiti di memoria rendono l’esecuzione in locale ben oltre le possibilità di un normale computer desktop. Meta afferma che il modello può funzionare su due Mac Studio con chip M5 Ultra usando il framework MLX di Apple, ciascuno con un massimo di 512 gigabyte di memoria unificata. Per l’esecuzione su GPU, le configurazioni pubblicate dall’azienda comprendono otto GPU B300 per BF16 e un sistema Blackwell con quattro GPU per NVFP4. I fornitori di servizi ospitati offrono un’altra possibilità agli sviluppatori che non dispongono di quell’hardware.
Le dimostrazioni di Meta su desktop si concentrano su codice e video
Meta afferma di aver testato flussi di lavoro direttamente sul dispositivo tramite Muse Code, il suo strumento di programmazione basato su Muse Spark Open. In un esempio, il modello ha corretto bug e modificato funzionalità di Ice Cubes, un client open source per Mastodon, poi ha completato una build. In un altro, ha usato DaVinci Resolve ed esaminato le riprese fotogramma per fotogramma per individuare alcuni momenti e ritagliarli in verticale.
L’azienda riferisce inoltre di kernel GPU Helion personalizzati e regolabili automaticamente per SGLang. Secondo Meta, questi kernel hanno fornito prestazioni da 1,03 a 3,95 volte superiori a livello di kernel su GPU NVIDIA e AMD, mentre la velocità complessiva è aumentata del 3% su AMD MI350. I miglioramenti a livello di kernel misurano una componente dell’inferenza, non l’esperienza d’uso dell’intera applicazione; il dato più contenuto relativo alla velocità complessiva offre un’indicazione più diretta del beneficio in quello specifico test.
Disponibilità tramite API ospitate e checkpoint scaricabili
Al lancio, Meta indica Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter e Together AI come opzioni per l’inferenza. Indica inoltre Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face e Microsoft Foundry come piattaforme da cui accedere ai pesi. La documentazione definisce il modello multimodale, con output testuale e input di testo, immagini, audio e video, e afferma che i dati di addestramento comprendevano più di 100 lingue.
La pubblicazione di Meta combina un ampio accesso ai pesi con requisiti hardware considerevoli e una licenza soggetta a condizioni. Per i singoli sviluppatori, la configurazione annunciata con due Mac Studio è la via più chiara per eseguire il modello in locale; per molti altri, le opzioni praticabili sono un checkpoint compresso su un server con più GPU o un’API ospitata.