Vai al contenuto
AI.info

The Pulse

Satlyt esegue il modello Gemma 3 1B di Google su un satellite

Satlyt ha installato a bordo di un satellite una versione quantizzata del modello Google Gemma 3 1B per analizzare telemetria, log di sistema e guasti software in orbita. Nei test con iniezione di guasti, il sistema di bordo ha ridotto di c

Satlyt esegue il modello Gemma 3 1B di Google su un satellite

AI.info Team ·

Nei test con iniezione di guasti, il sistema di IA a bordo di Satlyt ha ridotto due pacchetti diagnostici satellitari del 64,4% e del 64,8%, trasformando oltre 1.300 byte di dati grezzi per la risoluzione dei problemi in meno di 470 byte di informazioni riassuntive. L’azienda ha ottenuto questi risultati installando su un satellite una versione quantizzata del modello linguistico Gemma 3 1B di Google, che analizza telemetria, log software e tracce dello stack senza aspettare che i dati raggiungano la Terra.

Questa installazione rappresenta un uso pratico di un modello linguistico di piccole dimensioni in orbita: non per comandare un veicolo spaziale o sostituire il software di volo, ma per aiutare gli operatori a comprendere i guasti in condizioni di forti limitazioni di banda, memoria, potenza e tempo di comunicazione. Satlyt esegue Gemma tramite il framework di inferenza open source llama.cpp e lo usa per produrre spiegazioni concise degli errori software generati dai carichi di lavoro di elaborazione delle immagini a bordo.

Google DeepMind ha illustrato il lavoro in un caso di studio pubblicato sul sito di Gemma. Nelson Kigen Psenjen, direttore tecnologico di Satlyt, ha dichiarato che l’azienda punta a far funzionare l’IA a bordo entro i limiti fisici dei veicoli spaziali, anziché trattare l’orbita come un normale ambiente di cloud computing.

«Il nostro obiettivo è rendere pratica l’IA a bordo, tenendo conto dei vincoli reali dei veicoli spaziali. Con Gemma stiamo valutando come modelli più piccoli ed efficienti possano analizzare localmente la telemetria, i log di sistema e i guasti, restando entro limiti rigorosi di potenza, temperatura e memoria.»

— Nelson Kigen Psenjen, direttore tecnologico, Satlyt

Il guasto da 1.319 byte di Satlyt diventa una diagnosi da 469 byte

Satlyt ha valutato il sistema introducendo guasti comuni in una pipeline di elaborazione delle immagini e fornendo a Gemma una combinazione di telemetria, log di sistema e tracce dello stack. In un test rappresentativo, i dati descrivevano un veicolo spaziale che utilizzava il 99,6% della RAM disponibile, insieme a un OutOfMemoryError causato dal tentativo di allocare 144.000.000 byte durante l’elaborazione di un’immagine da 12.000 per 12.000 pixel.

Gemma ha condensato il contesto diagnostico da 1.319 byte a 469 byte, con una riduzione del 64,4%. Il modello ha generato 22,71 token al secondo e ha restituito una spiegazione della causa alla radice con un’azione consigliata, invece di limitarsi a inoltrare l’intero log perché fosse interpretato da un operatore a terra.

Un secondo test simulava un guasto hardware alla fotocamera. La telemetria indicava risorse di calcolo nella norma, mentre il kernel segnalava che l’interfaccia I2C del satellite non aveva ricevuto alcuna conferma dall’indirizzo 0x36; anche il processo di acquisizione delle immagini restituiva un OSError: [Errno 121] Remote I/O error.

Il pacchetto è passato da 1.318 byte a 464 byte, con una riduzione del 64,8%. Gemma ha generato 25,48 token al secondo e ha prodotto nuovamente una diagnosi compatta basata sull’interazione tra i dati di telemetria, l’avviso del sistema operativo e l’errore dell’applicazione.

Cosa ha dimostrato Satlyt: un modello linguistico di piccole dimensioni può riassumere a bordo le diagnosi dei veicoli spaziali provenienti da più fonti, riducendo la quantità di informazioni da trasmettere agli operatori a terra e conservando i dettagli necessari per una prima risoluzione dei problemi.

Perché la diagnosi locale è importante in orbita

I satelliti non dispongono della connessione di rete continua e ad alta capacità che la maggior parte delle applicazioni terrestri di IA dà per scontata. Le comunicazioni dipendono dalla disponibilità dei passaggi sulle stazioni di terra, dalla posizione orbitale e dalla banda assegnata alla missione. Inviare ogni log grezzo, traccia dello stack e dato di telemetria alla Terra può consumare la limitata capacità del collegamento in discesa e ritardare il momento in cui un operatore capisce cosa è andato storto.

L’approccio di Satlyt sposta sul veicolo spaziale la prima fase dell’interpretazione. Invece di trasmettere un intero rapporto di errore, il satellite può inviare una spiegazione più breve, che individua il probabile guasto e propone una risposta da sottoporre alla valutazione di una persona. L’azienda descrive il vantaggio come la possibilità di estrarre informazioni operative di grande valore prima che i dati lascino l’orbita.

La distinzione è importante quando i guasti interessano i carichi di lavoro di elaborazione delle immagini. Un satellite può generare grandi quantità di informazioni analizzando immagini, eppure solo una piccola parte dei log può spiegare perché un processo si è interrotto o perché un sensore si è guastato. Un modello locale può esaminare insieme i segnali correlati e poi inviare un risultato compatto alla prima finestra di comunicazione disponibile.

Nel test descritto da Google DeepMind, il sistema di Satlyt non conferisce a Gemma il controllo diretto del veicolo spaziale. Il modello funge da livello di analisi per la telemetria e i guasti software, mentre i comandi e l’autorità operativa restano agli operatori del veicolo spaziale.

Gemma 3 1B rientra nel ristretto budget di bordo

Satlyt ha scelto Gemma dopo aver valutato diversi modelli linguistici di piccole dimensioni. L’azienda afferma che il modello offriva una combinazione utile di capacità di ragionamento e ingombro ridotto, adatta a hardware che deve condividere memoria e potenza con sensori, sistemi di comunicazione e altri servizi di bordo.

La quantizzazione riduce la precisione numerica usata per rappresentare i parametri del modello, consentendogli di occupare meno memoria e di funzionare su hardware meno potente rispetto a un’implementazione a precisione piena. La versione di Gemma 3 1B installata da Satlyt viene eseguita tramite llama.cpp, un framework comunemente usato per eseguire modelli linguistici localmente su una varietà di dispositivi con risorse limitate.

L’azienda sta ora valutando Gemma 4 E2B su un NVIDIA Jetson Orin Nano come fase successiva del progetto. Nella configurazione descritta da Google DeepMind, il modello utilizza circa 4 gigabyte di RAM al picco su un sistema che ne ha 8 gigabyte disponibili, lasciando capacità per altri servizi di bordo.

Durante l’inferenza attiva, il consumo totale del processore sale a circa 11 watt, rispetto a un valore di base di circa 4 watt. Satlyt ha misurato un aumento della temperatura del processore di circa 3-5 gradi Celsius e, nei test a terra, ha registrato una velocità di generazione di 19,08 token al secondo nella valutazione di Gemma 4 E2B.

Questi dati mostrano i compromessi ingegneristici alla base dell’IA orbitale. Un modello che funziona bene su un computer desktop può comunque consumare troppa potenza, memoria o capacità termica su un satellite. I veicoli spaziali non possono contare sul raffreddamento ad aria e i loro processori devono operare insieme all’hardware della missione, entro un budget elettrico e termico fisso.

Dalla quantizzazione al pruning e alla distillazione

Satlyt non considera la quantizzazione l’ultima fase dell’ottimizzazione. L’azienda sta lavorando anche al pruning e alla distillazione, due tecniche che possono eliminare componenti superflui o addestrare un modello più piccolo a riprodurre il comportamento di uno più grande.

Per i carichi di lavoro diagnostici, Satlyt punta a ridurre di oltre il 90% la memoria occupata dal modello. Il lavoro più ampio dell’azienda mira a ridurre di circa l’85-90% l’ingombro in memoria dei singoli servizi di IA gestiti a bordo, cosa che potrebbe consentire a diversi carichi di lavoro specializzati di condividere la stessa piattaforma di calcolo.

Una simile specializzazione potrebbe essere più importante che installare un unico assistente generalista. Un modello progettato solo per interpretare i guasti delle fotocamere potrebbe richiedere meno capacità di uno incaricato di riassumere la telemetria, comprendere le immagini, analizzare i messaggi tra satelliti e coordinare le attività. Sistemi più piccoli e specializzati potrebbero funzionare contemporaneamente, preservando al tempo stesso le risorse per il carico utile principale.

Satlyt afferma di valutare anche modelli ottimizzati per seguire istruzioni, fine-tuning, riduzione degli strati e ulteriori ottimizzazioni dell’inferenza. L’obiettivo a breve termine è ampliare il flusso di lavoro diagnostico includendo il rilevamento delle anomalie a bordo, la sintesi e il supporto alle decisioni, lasciando agli operatori l’autorità sui comandi del veicolo spaziale.

Il piano di Satlyt per 50 veicoli spaziali

Google DeepMind afferma che Satlyt ha preparato pacchetti software per installazioni su un massimo di 50 veicoli spaziali nel 2026. Il dato descrive la portata prevista del software dell’azienda, non significa che 50 satelliti stiano già eseguendo Gemma né che tutte le installazioni useranno hardware identico.

L’attività più ampia di Satlyt si concentra su un’infrastruttura di calcolo distribuita per veicoli spaziali. Il suo software è pensato per consentire ai satelliti di elaborare e convalidare i dati vicino al luogo in cui vengono generati, riducendo la dipendenza dall’elaborazione a terra e favorendo il coordinamento tra sistemi orbitali.

Il fondatore e amministratore delegato Rama Afullo ha presentato l’installazione di Gemma come parte di questo impegno più ampio.

«I sistemi spaziali sono uno degli esempi più chiari dell’importanza dell’IA locale. Non si può sempre fare affidamento sulla connettività cloud e non ci si può permettere di trasmettere a Terra ogni log grezzo, traccia dello stack o flusso di telemetria.»

— Rama Afullo, fondatore e amministratore delegato, Satlyt

L’azienda chiama il suo progetto a lungo termine «Centri dati virtuali di IA nello spazio», ma la dimostrazione con Gemma 3 1B è più circoscritta e concreta. Mostra un modello linguistico che interpreta dati operativi su un satellite, riduce il traffico diagnostico e genera risultati utili a una velocità di circa 23-25 token al secondo nei test riportati.

Cosa dimostra la sperimentazione e cosa no

I risultati di Satlyt dimostrano che un modello linguistico di piccole dimensioni quantizzato può funzionare a bordo di un satellite e riassumere guasti software introdotti in condizioni limitate. Non dimostrano che il modello possa ripristinare autonomamente il funzionamento dopo un guasto, operare senza supervisione o sostituire il software convenzionale di gestione dei guasti.

Anche i benchmark con iniezione di guasti differiscono dalle operazioni di volo di lunga durata. Un sistema di produzione dovrebbe gestire carichi di lavoro variabili, effetti delle radiazioni, comportamenti imprevisti dei sensori, errori del modello e conseguenze dell’azione intrapresa sulla base di una diagnosi errata. Gli operatori dovrebbero inoltre avere la certezza che un riepilogo conciso non abbia omesso un dettaglio necessario per distinguere guasti simili.

Il vantaggio più immediato consiste nel ridurre il tempo e la banda necessari per la prima diagnosi. Un satellite in grado di inviare una breve spiegazione strutturata invece di un intero log grezzo può offrire alle squadre a terra un punto di partenza più rapido, soprattutto quando la finestra di comunicazione è breve o una missione opera lontano da una copertura terrestre affidabile.

L’installazione di Satlyt assegna a Gemma proprio questo ruolo: interpretare localmente i dati del veicolo spaziale. Le riduzioni misurate — da 1.319 byte a 469 byte e da 1.318 byte a 464 byte — sono finora la prova più chiara di ciò che il sistema è progettato per fare.

Fonte

Esplora

Altri articoli