La verità di riferimento di chi? Accogliere l’ambiguità nell’IA incentrata sull’essere umano

Abstract degli autori

Man mano che i sistemi di IA interagiscono sempre più con le persone e prendono decisioni che le riguardano, comprendere le interpretazioni umane diventa una parte importante dello sviluppo di un’IA incentrata sull’essere umano. I sistemi convenzionali di apprendimento automatico e di IA sono sviluppati in larga misura partendo dal presupposto che esista un’unica verità di riferimento definitiva; la variabilità delle annotazioni umane viene spesso risolta aggregandole oppure trattata come rumore. Tuttavia, in molti compiti che riguardano le persone, l’interpretazione umana è intrinsecamente ambigua e più interpretazioni dello stesso input possono essere al tempo stesso ragionevoli e valide. Ridurre questa ambiguità a un unico risultato atteso rischia di far perdere informazioni significative sulla diversità delle percezioni, dei giudizi e delle esperienze umane. In questo articolo di posizione proponiamo di modellare lo spazio delle interpretazioni costituito dai giudizi umani plausibili, distinguendo al contempo l’ambiguità significativa dal rumore nelle annotazioni. Sosteniamo che questa prospettiva debba orientare il modo in cui i sistemi di IA vengono rappresentati, addestrati, valutati, messi in uso e governati, favorendo un’IA più incentrata sull’essere umano e più capace di rispecchiare la diversità delle interpretazioni umane.