Una valutazione controllata del riscalamento scalare delle feature ispirato alla curvatura per la generalizzazione tra domini

Abstract degli autori

La curvatura specifica per dominio è un’idea interessante per la generalizzazione tra domini (DG), ma l’apprendimento della curvatura può indicare procedure di calcolo molto diverse. Questo articolo valuta una sola implementazione, volutamente circoscritta: il codice la chiama HyperDG, ma durante l’addestramento riscalma le feature euclidee prodotte dall’encoder mediante fattori scalari positivi appresi e, al momento dell’inferenza, usa un normale classificatore lineare sulle feature euclidee non riscalate. Non implementa una rappresentazione di Lorentz o di Poincaré, una predizione geodetica né un ciclo interno di Sharpness-Aware Minimization. Esaminiamo la funzione obiettivo effettivamente eseguita e valutiamo sei condizioni su PACS, VLCS, Office Home e TerraIncognita. Il disegno sperimentale completato comprende 384 esecuzioni: per ciascun dataset, sei condizioni, quattro domini target esclusi dall’addestramento e quattro seed per le esecuzioni. I checkpoint sono selezionati usando soltanto i tre ambienti di validazione delle sorgenti. Per l’inferenza statistica, calcoliamo prima la media delle differenze appaiate tra seed all’interno di ciascun dominio target escluso dall’addestramento; per ogni dataset, i cluster sono i domini target, non le 16 osservazioni corrispondenti alle combinazioni di seed e dominio target. La stima puntuale macro dell’implementazione completa, con uguale peso per ciascun dataset, è inferiore di 1,61 punti percentuali rispetto a DomainBed ERM nella versione originale (IC al 95% calcolato per cluster [-3,17, -0,04]). Le stime puntuali di tutti e quattro i dataset favoriscono ERM, ma un test esatto con inversione del segno sui quattro dataset dà p = 0,125 e, dopo la correzione di Holm, p = 0,250; non sosteniamo quindi che vi siano evidenze di una differenza dopo la correzione. Il confronto più netto sulla specificità di dominio, tra fattori di scala appresi separatamente per le sorgenti senza penalizzazione della loro varianza e un unico fattore di scala appreso e condiviso tra le sorgenti, dà -0,13 punti percentuali (IC al 95% [-0,53, 0,27]). Il relativo IC al 90% rientra nell’intervallo di $\pm 1$ punti percentuali definito in fase di revisione come effetto minimo di interesse pratico (p = 0,003 per il TOST). Questo sostiene l’equivalenza soltanto per la stima macro dell’insieme di dataset con selezione basata sulle sorgenti, non per ogni dataset, dominio target o risultato all’ultimo passo. Lo studio fornisce dunque un risultato negativo circoscritto per questo insieme di procedure di riscalamento scalare usate nell’addestramento; non verifica né confuta l’effettivo apprendimento di rappresentazioni iperboliche.