Contrazione sufficiente per il compito: selezione della sorgente per le interfacce informative delle macchine

Abstract degli autori

Un compito dichiarato può talvolta consentire di identificare una sorgente ridotta prima che vengano scelti un codificatore a valle, un codebook, un tasso, un obiettivo di distorsione o un ottimizzatore. Questo articolo studia quando una simile riduzione preserva l’intera famiglia di problemi a valle, una proprietà chiamata contrazione sufficiente per il compito. La sorgente ridotta è fissata dal compito prima della scelta del successivo punto operativo. Una contrazione esatta consente di risolvere il problema successivo su quella sorgente ottenendo lo stesso risultato che si sarebbe ottenuto conservando la sorgente completa. Per una macchina con un insieme fisso di azioni possibili e una funzione di perdita fissa, l’articolo individua una sorgente specifica per il destinatario accorpando gli stati solo quando ogni azione disponibile ha lo stesso regret in entrambi. Per insiemi finiti di azioni, sostituire la sorgente più ricca con quella ridotta preserva l’intera curva tasso-regret a un solo passo, benché la riduzione sia fissata prima della scelta dell’obiettivo di distorsione. Un secondo risultato fornisce una caratterizzazione esatta per la perdita quadratica su insiemi affini di azioni ammissibili: la sorgente ridotta canonica è la proiezione sulle direzioni lungo le quali le azioni ammissibili possono differire. Con un budget energetico fisso, questa diventa il carico centrato, mentre conservare soltanto l’azione ottimale di water-filling è una riduzione troppo grossolana. I risultati precedenti su Information Bottleneck, tasso-distorsione semantico e quantizzazione orientata agli obiettivi vengono poi usati per distinguere le contrazioni esatte, condizionate dall’architettura, approssimate, fallite e corrette. Il quadro proposto suggerisce un modo in cui macchine eterogenee possono scambiarsi ciò di cui ha bisogno il compito della macchina ricevente senza dover prima allineare le loro rappresentazioni interne complete.