TStruct: apprendere strutture temporali condivise per la previsione a lungo termine delle serie temporali

Abstract degli autori

La previsione a lungo termine delle serie temporali richiede di modellare le dipendenze temporali in modo che il modello resti stabile e generalizzabile quando la distribuzione dei dati cambia nel tempo. Tuttavia, le serie temporali reali sono spesso rumorose e non stazionarie, e i modelli di deep learning tendono così ad adattarsi a interazioni temporali contingenti presenti nei dati di addestramento. Una domanda centrale è se esistano strutture delle relazioni temporali che ricorrono in posizioni temporali e variabili diverse. Analizziamo le matrici delle relazioni temporali in dataset di serie temporali comunemente utilizzati e riscontriamo che campioni provenienti da posizioni temporali e variabili diverse presentano strutture dominanti condivise delle relazioni temporali. Ciò indica che tali strutture contengono schemi che si ripetono stabilmente tra campioni e variabili. Per apprendere queste strutture condivise, proponiamo \textbf{T}emporal \textbf{Struct}ure Network (\textbf{TStruct}), una rete semplice ma efficace che apprende direttamente dipendenze temporali condivise e generalizzabili. In particolare, TStruct parametrizza direttamente un insieme di matrici condivise delle dipendenze temporali e genera pesi di combinazione normalizzati usando informazioni dinamiche sui campioni e prior statiche sulle variabili. Questi pesi rappresentano un’assegnazione soft di ciascuna coppia campione-variabile alle strutture condivise delle dipendenze temporali, consentendo al modello di generare matrici adattive delle dipendenze temporali nel rispetto di vincoli strutturali condivisi, anziché adattarsi a interazioni contingenti senza alcun vincolo. Questa semplice architettura, che tiene conto delle strutture, supera sistematicamente diversi solidi modelli di riferimento su tutti i dataset, ottenendo un’accuratezza superiore e mantenendo un’elevata efficienza computazionale.