IMUDINO: modello fondazionale auto-distillato per il rilevamento inerziale

Abstract degli autori

Presentiamo IMUDINO, il primo modello fondazionale (FM) per il rilevamento inerziale a ottenere prestazioni competitive in diversi compiti di rilevamento, tra cui il riconoscimento delle attività umane (HAR), la salute, il motion capture e l’odometria. I precedenti FM per il rilevamento inerziale si concentrano spesso su un solo ambito e talvolta ottengono risultati inferiori a quelli dei metodi supervisionati allo stato dell’arte (per esempio, nell’HAR), risultando così molto più circoscritti degli FM per la visione e il linguaggio naturale. Inoltre, spesso richiedono una lunghezza dell’input e una frequenza di campionamento fisse e generalizzano poco a posizioni dei sensori non viste. Per realizzare un modello fondazionale di uso generale per il rilevamento inerziale, adattiamo ai dati inerziali il paradigma di apprendimento autosupervisionato (SSL) DINO attraverso una serie di trasformazioni del movimento che ne preservano la semantica e simulano variazioni nei pattern di movimento e nella configurazione dei sensori. Per l’architettura del modello, usiamo un semplice encoder transformer con codifica posizionale sensibile alla frequenza, che supporta nativamente lunghezze dell’input e frequenze di campionamento variabili. Questa configurazione semplice si è rivelata straordinariamente efficace nell’apprendere caratteristiche globali e dense, generalizzabili tra utenti, configurazioni dei sensori e compiti e, nel caso dell’odometria robotica, tra diverse morfologie robotiche. Ci auguriamo che IMUDINO possa fungere da backbone per il rilevamento inerziale e dare impulso allo sviluppo di FM inerziali di uso generale.