Limiti integrali di probabilità

Abstract degli autori

I limiti basati sulle metriche integrali di probabilità (IPM) sono onnipresenti nell’apprendimento automatico e nella statistica e compaiono, per esempio, in ambiti come la generalizzazione, l’allineamento, l’equità e la privacy. Le IPM riducono la discrepanza tra due distribuzioni a un unico scarto massimo tra le aspettative. Questa compressione ha un costo: per gli eventi rari, i problemi di sicurezza o i gruppi sottorappresentati, i limiti basati sulle IPM sono approssimativi o privi di significato. Introduciamo una generalizzazione non lineare delle IPM, che chiamiamo limiti integrali di probabilità (IPB). A differenza delle IPM, gli IPB forniscono limiti stretti ai valori estremi. Ne deriviamo le proprietà fondamentali e presentiamo algoritmi per stimarli in contesti di rilevanza pratica. Dimostriamo l’uso degli IPB in applicazioni teoriche e pratiche relative all’allineamento, alla stima delle prestazioni senza giudici e all’equità, dove ci consentono di ottenere limiti precisi sugli scarti di prestazione e di equità: per esempio, in un compito realistico di modellazione generativa, stime degli scarti di equità per i gruppi rari più precise di 15 punti percentuali rispetto allo stato dell’arte.