The Pulse
Minions di Apple trasforma i Mac inattivi in capacità GPU condivisa
I ricercatori di Apple descrivono Minions, un sistema che riunisce i Mac con Apple Silicon inattivi per eseguire attività di inferenza nell’apprendimento automatico. Secondo lo studio, alcune attività che prima restavano in coda per oltre 1
AI.info Team · Scritto con l’IA ·
Lunghe code per le GPU, Mac inattivi
I ricercatori di Apple presentano Minions come risposta a uno squilibrio preciso: alcune attività di inferenza aspettano ore per accedere a GPU centralizzate, mentre i Mac con Apple Silicon hanno spesso capacità GPU inutilizzata. Il sistema riunisce questi computer in una risorsa condivisa per l’inferenza nell’apprendimento automatico, usando hardware di cui i team già dispongono anziché richiedere l’acquisto di nuove GPU. Secondo i ricercatori, alcune attività che prima aspettavano oltre 10 ore ora possono iniziare nel giro di pochi minuti.
Minions non è un servizio cloud pubblico, né lo studio sostiene che un insieme di Mac possa sostituire un cluster GPU dedicato. Lo studio descrive un sistema usato da più team in contesti in cui le risorse GPU centralizzate sono limitate. I risultati riportati sono osservazioni operative, non un benchmark che confronti la velocità dell’inferenza o la qualità degli output sui Mac con quelle dei servizi GPU commerciali.
Gli executor prelevano le attività e possono disconnettersi
Il sistema suddivide le attività inviate in compiti più piccoli e ne registra lo stato in PostgreSQL. I Minion Executor in esecuzione sui Mac con Apple Silicon richiedono a un server centrale i compiti che possono svolgere, li eseguono in locale e inviano i risultati a un archivio di oggetti come Amazon S3. Per i carichi di lavoro supportati, lo studio cita la generazione di embedding con modelli transformer open source di Hugging Face e il completamento di testi con modelli linguistici tramite Ollama.
Questa architettura tiene conto dei computer che possono andare offline senza preavviso. Gli executor inviano segnali di attività ogni cinque minuti; se un dispositivo entra in sospensione, perde la connessione di rete o viene spento, un watchdog rilascia il compito incompiuto affinché un altro executor possa prenderlo in carico. Questo approccio evita di considerare ogni Mac continuamente disponibile, ma significa anche che il completamento dei compiti dipende dalla presenza online di un numero sufficiente di computer partecipanti in grado di svolgerli.
I team mantengono il controllo sulla partecipazione
Gli executor possono essere configurati per dare la precedenza a un determinato team, progetto o compito e attingere alla coda generale quando non ci sono attività preferite disponibili. Lo studio afferma che i proprietari dei dispositivi possono impostare queste preferenze e descrive team che coordinano temporaneamente la partecipazione tramite messaggi su Slack. Questo rende flessibile la risorsa condivisa, ma indica anche un limite pratico: aumentare la capacità può dipendere dalla scelta dei colleghi di eseguire l’executor.
La riservatezza è un altro vincolo individuato dai ricercatori. Le organizzazioni potrebbero esitare a eseguire carichi di lavoro su dispositivi al di fuori del loro controllo diretto. Minions supporta quindi installazioni limitate a un team o a un’organizzazione, con database PostgreSQL separati e gruppi di executor isolati. Lo studio descrive questi controlli, ma non fornisce una valutazione dettagliata della sicurezza né quantifica quanto riducano l’esposizione dei dati.
Minuti anziché ore, secondo i dati di un’installazione
Nel riepilogo operativo, lo studio indica code per le GPU fino a 10 ore o più prima di Minions e attese di pochi minuti con il sistema. Riporta inoltre nessuna nuova richiesta di GPU, un costo infrastrutturale pari a zero e una crescita «organica» anziché manuale. Questi dati descrivono l’esperienza riferita dai team; lo studio non fornisce il numero di dispositivi, la capacità di elaborazione complessiva, i risparmi in dollari o un confronto controllato che mostri come i risultati varino tra le diverse installazioni.
Gli autori presentano Minions come una soluzione complementare per le organizzazioni che hanno dispositivi con Apple Silicon sottoutilizzati e una capacità centralizzata limitata, non come un sostituto universale delle infrastrutture GPU convenzionali. Il prossimo passo che indicano è il supporto all’addestramento distribuito dei modelli, oltre ai carichi di inferenza gestiti dal sistema attuale. Per ora, il risultato misurato riportato nello studio è più circoscritto: alcune attività che aspettavano oltre 10 ore per accedere alle GPU centralizzate sono iniziate nel giro di pochi minuti quando i Mac inattivi si sono aggiunti alla risorsa condivisa.
«Minions è composto da quattro componenti principali: Minion Server, PostgreSQL Metadata Store, Minion Executor e Minion Watchdog.»
Scrivono gli autori dello studio, Jianhua Li, Yun Xing, Girisha De Silva, Ryan Flint, Kai Yuan e Sean Suchter.