Jeva: modelli di sistema uno a partire dai principi fondamentali

Abstract degli autori

I modelli di sistema uno consentono di prendere decisioni direttamente e con bassa latenza. Tuttavia, la prassi recente di prevedere una risposta a partire da testo serializzato non rispetta, di per sé, la struttura di un problema decisionale. Sosteniamo che le architetture attuali diano troppo poco peso a quattro importanti requisiti strutturali: (i) distinguere l’assenza di una risposta dall’incertezza tra le risposte candidate; (ii) essere invarianti rispetto alle permutazioni, così che riordinare le alternative non cambi la decisione; (iii) adattarsi al numero di opzioni, senza dover ridefinire lo spazio delle risposte quando aumenta il numero di candidate; (iv) consentire il riutilizzo, tra richieste diverse, dei calcoli indipendenti dalla richiesta relativi ad alternative ricorrenti. Presentiamo Jeva, un’architettura progettata per le decisioni che affronta insieme questi requisiti. Un encoder condiviso rappresenta in modo indipendente la richiesta e ciascuna opzione, mentre una struttura decisionale compatta aggiorna soltanto lo stato della richiesta sulla base di una memoria immutabile delle opzioni. Un’aggregazione simmetrica produce probabilità equivarianti rispetto alle permutazioni; un sistema di attribuzione dei punteggi condiviso gestisce insiemi di candidate di dimensioni variabili. Una stima separata della copertura distingue l’assenza di una risposta dalla competizione tra le candidate, consentendo esiti nulli espliciti. Le rappresentazioni delle opzioni indipendenti dalla richiesta e le proiezioni dei livelli possono essere riutilizzate con insiemi di nuova composizione. Questi meccanismi unificano gli output Choice, Noul e Score. Nelle valutazioni, Jeva combina prestazioni elevate nelle decisioni tipizzate con un rilevamento quasi perfetto degli esiti nulli e non cambia decisione con nessuna delle permutazioni testate. Si adatta a migliaia di candidate e riduce sensibilmente la latenza grazie al riutilizzo tra richieste diverse, senza cambiare le decisioni.