Prima l’energia e la latenza: come i vincoli di impiego ribaltano la scelta dei modelli per serie temporali

Abstract degli autori

I modelli di IA, e in particolare quelli per le serie temporali, vengono di norma classificati in base all’accuratezza, per poi essere impiegati entro vincoli assenti da quella classifica. In questo articolo studiamo un caso reale in cui tali vincoli sono espliciti e misurabili: la previsione dell’handover nelle reti cellulari, dove l’inferenza viene eseguita sul dispositivo dell’utente una volta ogni periodo di misurazione di 40 ms e deve concludersi prima che la rete intervenga. Il limite temporale è tassativo: una previsione tardiva viene superata dalla misurazione che intendeva prevedere, mentre l’energia è un budget cumulativo consumato per tutta la vita del dispositivo. Nessuno dei due vincoli figura nell’obiettivo in base al quale vengono selezionati questi modelli. Valutiamo otto architetture con un protocollo che verifica il rispetto della scadenza nella coda della distribuzione anziché sulla media, quindi classifica i modelli che la rispettano in base all’energia misurata per l’inferenza, includendo il calcolo delle caratteristiche che precede il passaggio in avanti e che di solito viene omesso. Gli alberi con boosting del gradiente basati su caratteristiche temporali definite manualmente sono il modello più accurato (F1=0,974) e tra i meno dispendiosi da eseguire, mentre l’architettura neurale che un benchmark basato soltanto sull’accuratezza collocherebbe al primo posto (CNN-1D, F1=0,914) richiede oltre 3 volte più energia per inferenza secondo un modello realistico di impiego con cicli di attività e inattività. Individuiamo tre condizioni in cui ci si dovrebbe aspettare questo risultato, che quindi vale anche al di fuori delle telecomunicazioni. Un benchmark basato soltanto sull’accuratezza non si limita a sottostimare i costi di impiego. Può collocare al primo posto un modello che non può essere impiegato.