Le intensità flessibili contano: una rivalutazione completa dei processi di Hawkes e dei processi puntuali temporali neurali

Abstract degli autori

I processi puntuali temporali (TPP) sono il framework canonico per i dati relativi a sequenze di eventi, con applicazioni che spaziano dalla sismologia ai social media e alle cartelle cliniche elettroniche. Di recente è stato riportato che i TPP neurali superano nettamente i TPP classici, come i processi di Hawkes; tuttavia, questi confronti mettevano a paragone modelli neurali flessibili con processi di Hawkes nella loro forma più limitata e non prendevano in considerazione dati medici su larga scala. In questo studio, riesaminiamo il confronto attraverso una valutazione sistematica dei processi di Poisson e di Hawkes con livelli crescenti di flessibilità, messi a confronto con i TPP neurali su cinque dataset benchmark consolidati e su due task di valutazione medica su larga scala, derivati dalle storie cliniche delle patologie di UK Biobank e dalle cartelle cliniche delle terapie intensive di MIMIC-IV, nell’ambito della previsione autoregressiva dell’evento successivo. Primo, il divario tra i processi di Hawkes e i TPP neurali riportato in precedenza si riduce in larga misura quando i processi di Hawkes sono dotati di baseline e kernel flessibili e apprendibili. Secondo, la flessibilità della parametrizzazione dell’intensità limita anche i precedenti TPP neurali: un Transformer con una testa di intensità basata su spline supera i precedenti TPP neurali basati sull’intensità ed è alla pari con il modello privo di intensità. Scomponendo la log-verosimiglianza in un termine temporale $\log p(t)$ e un termine relativo al tipo $\log p(d \mid t)$, rileviamo che il vantaggio della flessibilità risiede quasi interamente nella densità temporale: una flessibilità maggiore non migliora il termine relativo al tipo. Su questi benchmark, i vantaggi dei TPP neurali risiedono quindi soprattutto nel modellare quando si verificano gli eventi, non quali. Terzo, i nostri risultati sottolineano il valore dei dataset complessi per valutare i TPP: solo sulle cartelle cliniche delle terapie intensive di MIMIC-IV i TPP neurali mantengono un vantaggio nel termine relativo al tipo. I nostri risultati orientano sia lo sviluppo di metodi futuri sia la scelta dei modelli. Rendiamo disponibile il nostro framework, TorchPP, come pacchetto open source con implementazioni coerenti dei TPP classici e neurali.