Ripensare l’apprendimento dalle proporzioni delle etichette attraverso la corrispondenza dei momenti

Abstract degli autori

L’apprendimento dalle proporzioni delle etichette (LLP) è una forma di apprendimento debolmente supervisionato in cui i dati di addestramento sono suddivisi in gruppi e si osservano soltanto le proporzioni delle etichette di ciascun gruppo. L’obiettivo è addestrare un classificatore che predica le etichette delle singole istanze. Di recente sono stati proposti numerosi metodi, ma la maggior parte presuppone che le coppie istanza-etichetta siano campionate in modo indipendente e identicamente distribuito e poi riunite casualmente in gruppi: un’ipotesi spesso non valida nei contesti reali. I nostri risultati sperimentali indicano che, quando i gruppi non sono formati casualmente, questi metodi ottengono risultati subottimali. In questo lavoro adottiamo un’ipotesi più realistica: i gruppi sono campionati in modo indipendente e identicamente distribuito e le etichette delle istanze sono indipendenti condizionatamente alle istanze stesse. In questo contesto, dimostriamo che i conteggi delle etichette seguono una distribuzione multinomiale di Poisson. Sulla base di questa osservazione proponiamo l’apprendimento dalle proporzioni delle etichette tramite corrispondenza dei momenti (LLP-MM), un approccio semplice ma efficace che usa momenti fattoriali di diversi ordini come obiettivi di addestramento. L’approccio spinge il classificatore a produrre previsioni che corrispondano a tali momenti, sfruttando così più a fondo la struttura statistica sottostante dei dati. Esperimenti approfonditi su dataset benchmark, condotti con diverse strategie di formazione dei gruppi, dimostrano l’efficacia del nostro approccio e la sua elevata efficienza computazionale. Il nostro codice è disponibile all’indirizzo https://github.com/TianhaoMa5/LLP-MM.