CARE: certificare l’accelerazione dell’inferenza nei modelli visione-linguaggio-azione

Abstract degli autori

Sebbene i modelli visione-linguaggio-azione (VLA) abbiano compiuto rapidi progressi, eseguirli a ogni passo di controllo resta costoso. I lavori precedenti accelerano l’inferenza dei VLA con tecniche come il raggruppamento delle azioni e il pruning dei token visivi, valutandole in genere in base alla latenza e al successo medio nei compiti. L’accelerazione, tuttavia, può eliminare informazioni e compromettere compiti che la policy originale riuscirebbe a svolgere: un rischio che le metriche medie non mostrano. Misurare questi fallimenti è difficile perché le deviazioni nelle azioni si accumulano lungo traiettorie ad anello chiuso; il fallimento di un compito è quindi osservabile solo su episodi completi. Definiamo perciò un fallimento indotto dall’accelerazione mediante rollout appaiati che partono da condizioni iniziali identiche, rilevando i casi in cui la policy di riferimento ha successo e quella accelerata fallisce. Per gestire questo rischio, presentiamo CARE, un approccio alla selezione certificata degli acceleratori. CARE usa rollout appaiati su un insieme di calibrazione per fornire garanzie su campioni finiti che il rischio di fallimenti indotti dall’accelerazione resti al di sotto di un limite specificato dall’utente. Impiega il candidato certificato più veloce e, se nessuno soddisfa i requisiti, ricorre alla policy di riferimento. Basandosi soltanto sugli esiti finali e sulle risorse computazionali misurate, CARE si applica senza modifiche a diversi meccanismi di accelerazione, mentre i test sequenziali e i rollout della policy di riferimento attivati dai fallimenti mantengono accessibile il costo della certificazione. Su quattro suite LIBERO con OpenVLA-OFT, CARE certifica accelerazioni di $9.0$--$10.8\times$ garantendo, con una confidenza del $95\%$, che almeno l’$85.8\%$ degli episodi risolti dalla policy di riferimento continui a essere risolto. Con limiti stringenti, i metodi di selezione privi di garanzie superano il limite fino al $75\%$ delle prove, mentre CARE lo rispetta e la sua versione sequenziale richiede il $78.9\%$ di rollout in meno rispetto a una valutazione esaustiva. CARE si estende inoltre alla riduzione dei passi di flow per $π_{0.5}$ e agli agenti Qwen3.5-9B e Llama-3.1-8B in Crafter.