Stima della Fréchet Inception Distance con complessità campionaria ottimale

Abstract degli autori

La Fréchet Inception Distance (FID) è ampiamente usata per valutare i modelli generativi, ma il suo stimatore empirico plug-in presenta una distorsione dovuta al numero finito di campioni [BSAG18, CF20]. Studiamo la complessità campionaria $n$ necessaria per stimare la FID con errore $ε$ tra distribuzioni gaussiane di dimensione $d$, con distanza tra le medie e covarianze limitate, quando una delle distribuzioni è nota. I nostri contributi sono tre. (1) Stabiliamo limiti stretti per campioni finiti pari a $Θ(\frac{d^2}{n})$ per la distorsione e a $Θ(\frac{d}{n} + \frac {d^2} {n^2})$ per la varianza dello stimatore empirico plug-in, da cui deriva una complessità campionaria di $\gtrsim d^2$. (2) Per correggere la distorsione dello stimatore empirico plug-in, generalizziamo lo stimatore ${\rm FID}_\infty$ di [CF20] a metodi di estrapolazione di ordine arbitrario $k$. Dimostriamo inoltre che, nel nostro quadro teorico, per qualsiasi estrapolazione di ordine $k$ i limiti stretti per la distorsione e la varianza sono rispettivamente $Θ(\frac{d^{k + 2}}{n^{k + 1}})$ e $Θ(\frac d n + \frac{d^2}{n^2})$. (3) Introduciamo Relative Taylor Debiasing (RTD), un nuovo algoritmo di stima della FID, efficiente dal punto di vista computazionale, che usa tecniche di correzione della distorsione ispirate alle statistiche U. Mostriamo che RTD raggiunge una complessità campionaria di $O(\frac d {ε^2})$ e dimostriamo che è ottimale. Forniamo anche una valutazione empirica complementare dei nostri nuovi stimatori. I nostri esperimenti su distribuzioni gaussiane sintetiche confermano la distorsione residua prevista e avvalorano il fatto che i nostri limiti siano stretti. Su ImageNet, con gli embedding di Inception, RTD ottiene il più basso errore medio di stima con il numero standard di 50K campioni, mentre il nostro stimatore per estrapolazione di secondo ordine che tiene conto della varianza (VALE$_2$) usa soltanto 10K campioni per raggiungere una precisione comparabile a quella di FID$_\infty$ con 50K campioni.