The Pulse
Un readout della policy robotica quasi dimezza la latenza di inferenza di Xiaomi
Uno studio riporta che Gaussian Action Readout ha ridotto di circa il 48% la latenza di inferenza misurata con batch di dimensione uno per Xiaomi-Robotics-1, mantenendo in simulazione un tasso di successo nei compiti vicino a quello della p

AI.info Team · Scritto con l’IA · verificato ·
Una policy robotica può mantenere un tasso di successo nei compiti pressoché invariato sostituendo diversi passaggi di generazione delle azioni con una sola valutazione della rete, secondo uno studio pubblicato su arXiv il 29 ottobre. Il metodo, chiamato Gaussian Action Readout (GAR), riduce la latenza di inferenza misurata con batch di dimensione uno di circa il 48% per Xiaomi-Robotics-1 e del 36% per GR00T N1.5 di NVIDIA nei test dei ricercatori.
Youssef Saied, Ziyad Sheebaelhamd, Claire Vernade e François Fleuret propongono di adattare piccoli livelli di readout alle feature interne congelate di una policy preaddestrata.
«Campiona con un solo passaggio nella rete delle azioni, fornisce verosimiglianze in forma chiusa e raggiunge un tasso di successo nei compiti vicino a quello del modello insegnante, con una velocità di inferenza fino al doppio.»— scrivono gli autori in «Gaussian Distillation of Flow Policies». I risultati provengono da benchmark di manipolazione simulata; lo studio non riporta una valutazione di GAR su robot fisici.
Una valutazione sostituisce quattro o cinque passaggi del flusso
Le policy robotiche basate su flussi producono azioni valutando ripetutamente una rete mentre questa trasforma il rumore in una sequenza di azioni. Il processo iterativo può modellare diverse azioni possibili, ma aumenta i calcoli necessari in fase di esecuzione. GAR prevede invece una distribuzione gaussiana per le azioni continue, oltre alle probabilità per i comandi binari, a partire dalle feature di readout già presenti nella policy.
Il metodo mantiene congelate le reti insegnanti preaddestrate e addestra solo piccoli readout. Per i principali esperimenti su RoboCasa365, il gruppo li adatta usando 6000 contesti, equivalenti allo 0,02% degli stati di addestramento utilizzabili. I contesti coprono 300 compiti; per ciascuno, la procedura di adattamento estrae quattro stati intermedi da ognuna delle cinque dimostrazioni umane selezionate casualmente.
In fase di utilizzo, una sola valutazione dell’action transformer fornisce i parametri gaussiani e la policy campiona direttamente senza integrare il campo di flusso. Questo riduce da cinque a una le valutazioni dell’action transformer per Xiaomi-Robotics-1 e da quattro a una per GR00T N1.5. Una volta messe in cache le feature e i valori obiettivo del modello insegnante, l’adattamento dei readout diagonali di Xiaomi su 6000 contesti richiede circa 115 secondi. Lo studio riporta separatamente i costi di preparazione: l’estrazione delle feature e il campionamento dal modello insegnante hanno richiesto in totale 3,84 ore GPU, con il processo parallelo più lungo durato 1,14 ore. Il download, l’estrazione e i controlli dei dati hanno richiesto 2,71 ore di tempo effettivo; la stima dei valori obiettivo per movimenti e comandi ha richiesto 6,9 secondi.
La latenza diminuisce, mentre il successo nei compiti resta vicino a quello originale
I ricercatori misurano le prestazioni su 50 compiti selezionati da RoboCasa365, un benchmark di simulazione della manipolazione in ambito domestico. Eseguono 50 episodi per ogni policy su ciascun compito, per un totale di 2500 episodi per policy. Il tasso di successo complessivo di Xiaomi-Robotics-1 è del 58,24%, contro il 57,64% della sua versione GAR diagonale; GR00T N1.5 raggiunge il 23,08%, contro il 21,92% di GAR.
La latenza misurata con batch di dimensione uno, inclusa l’elaborazione visivo-linguistica, scende da 220,25 a 115,36 millisecondi per Xiaomi-Robotics-1, con un aumento della velocità di 1,91 volte. Per GR00T N1.5 scende da 68,01 a 43,30 millisecondi, con un aumento della velocità di 1,57 volte. Poiché l’elaborazione visivo-linguistica rimane parte della pipeline cronometrata, limita il guadagno complessivo anche se GAR elimina più valutazioni dell’action transformer.
I risultati variano a seconda del gruppo di compiti e del modello. Il GAR diagonale di Xiaomi raggiunge l’80,56% sui compiti atomici già visti e il 31,50% sui compiti compositi mai visti, contro risultati del modello insegnante rispettivamente dell’81,11% e del 32,00%. Per GR00T, i risultati del modello insegnante e di GAR sono rispettivamente del 46,00% e del 45,78% sui compiti atomici già visti, ma solo del 5,00% e del 5,25% sui compiti compositi mai visti; lo studio avverte che in quest’ultimo caso il piccolo divario è meno significativo perché il tasso di successo del modello insegnante è già basso.
La scorciatoia gaussiana ha dei limiti
GAR si basa sulla constatazione dello studio secondo cui le distribuzioni delle azioni continue delle policy basate su flussi esaminate sono ben approssimate da distribuzioni gaussiane. Gli autori verificano questa ipotesi rispetto alle azioni generate dal modello insegnante e riportano, nei loro controlli, tassi di successo nei compiti simili per il campionamento gaussiano e quello del modello insegnante. Il loro approccio non è un sostituto universale per qualsiasi policy robotica: riutilizza feature congelate di specifici modelli insegnanti preaddestrati basati su policy a flusso e i risultati riportati sui compiti provengono da simulazioni.
Il gruppo valuta inoltre un altro modello insegnante, Xiaomi-Robotics-0, sui dieci compiti di LIBERO-Long. Il GAR diagonale raggiunge un tasso di successo del 95,4%, contro il 96,6% del modello insegnante e il 96,0% della sua esecuzione diretta in un solo passaggio. In un altro test in simulazione, la policy GAR di Xiaomi produce due diversi ordini di spostamento degli oggetti che portano a un risultato positivo a partire dallo stesso contesto iniziale, anche se solo tre tentativi su 32 riescono in quel compito.
Questi risultati evidenziano il compromesso pratico dello studio: GAR elimina i passaggi ripetuti del flusso senza rendere deterministiche le policy testate, ma il suo risultato più significativo tra quelli riportati è una latenza inferiore con prestazioni vicine a quelle del modello insegnante in simulazione, non la prova di un controllo più veloce o altrettanto capace su robot fisici. Gli autori affermano che il codice sarà rilasciato presto.