Prevedere la dinamica dei cavi con un bias fisico dell’attenzione

Abstract degli autori

I simulatori appresi per oggetti lineari deformabili (DLO), come i cavi, devono prevedere il movimento di cavi su cui non sono stati addestrati e rimanere stabili durante lunghe sequenze di previsione. La maggior parte dei loro errori si verifica nei punti in cui il cavo tocca se stesso o il pavimento. L’attenzione tra tutte le coppie di segmenti può rappresentare il contatto tra parti del cavo lontane lungo la sua lunghezza, ma non tiene conto della geometria. Per ogni coppia di punti di un cavo esistono due distanze, che coincidono solo quando il cavo è dritto: la distanza lungo il cavo, misurata come lunghezza d’arco, che governa le forze elastiche, e la distanza euclidea nello spazio, che governa il contatto. Aggiungiamo un bias fisico dell’attenzione, un termine additivo nei logit dell’attenzione con un coefficiente appreso, e ci chiediamo quale distanza debba usare. Confrontiamo l’assenza di bias, l’uso di ciascuna distanza da sola e l’uso di entrambe su insiemi distinti di teste di attenzione, mantenendo invariati il resto del modello e il protocollo di addestramento. Un bias fisico migliora le previsioni sui cavi mai visti. Il miglioramento è maggiore quando l’attenzione è l’unico meccanismo che collega segmenti distanti: in questo caso, il bias basato sulla lunghezza d’arco riduce l’errore di previsione del 15% e più che dimezza la deriva nella lunghezza dei segmenti. Il bias basato sulla distanza euclidea, da solo, dà risultati vicini a quelli dell’attenzione senza bias, mentre assegnare entrambe le distanze a teste diverse dà i risultati migliori, o prossimi ai migliori, per ogni metrica che riportiamo. Codice e dati di ciascuna esecuzione: https://github.com/avihaig/dlogps.