Sapere a cosa non rispondere: la mancata ottemperanza selettiva nei modelli visivo-linguistici

Abstract degli autori

Ci si aspetta che i modelli visivo-linguistici (VLM) rispondano in modo utile alle richieste appropriate, evitando invece di soddisfare quelle errate, non sicure, impossibili da eseguire o a cui non si può rispondere. Tuttavia, i benchmark esistenti valutano prevalentemente la mancata ottemperanza considerando la richiesta nel suo insieme, presumendo che ogni richiesta debba essere soddisfatta oppure no. Nella pratica, le richieste reali possono contenere sia elementi a cui è possibile rispondere sia componenti che non andrebbero soddisfatte. In questo articolo presentiamo KoNA, un benchmark per valutare la mancata ottemperanza selettiva dei VLM in cinque categorie: premessa falsa, inaccessibilità visiva, ignoto universale, fattibilità del compito e sicurezza. Ogni compito valuta due capacità: la mancata ottemperanza a livello dell’intera richiesta e quella a livello delle singole componenti, mediante coppie di richieste semplici e composte. La nostra valutazione di diversi VLM mostra che i modelli spesso non rifiutano, non correggono o non si astengono dal rispondere quando sarebbe opportuno, e che questi errori diventano più marcati quando le richieste esigono una mancata ottemperanza selettiva. Per affrontare il problema, sottoponiamo i VLM a fine-tuning usando esempi di KoNA che richiedono una mancata ottemperanza selettiva, insieme a un insieme di richieste a cui è possibile rispondere integralmente e che dovrebbero ricevere risposte dirette. I modelli così sottoposti a fine-tuning ottengono miglioramenti sostanziali nell’accuratezza della mancata ottemperanza, mantenendo in larga misura le prestazioni nei compiti a cui è possibile rispondere integralmente. Questi risultati suggeriscono che i modelli sottoposti a fine-tuning siano in grado di distinguere le componenti a cui è possibile rispondere da quelle che richiedono una mancata ottemperanza e di rispondere in modo appropriato al compito.