Regola vs. conseguenza: rappresentazioni interne dissociabili del ragionamento morale negli LLM

Abstract degli autori

I modelli linguistici di grandi dimensioni sono sempre più impiegati in contesti delicati sul piano morale e giuridico, ma si sa ancora poco di come rappresentino internamente le differenze tra stili di ragionamento morale. Ci chiediamo se le diverse risposte di un modello a quesiti morali formulati in termini di regole o di conseguenze riflettano strutture interne distinte oppure una semplice sensibilità alle parole usate. Costruiamo un dataset fattoriale 2$\times$2 che incrocia lo stile di ragionamento (formulazione basata sulle regole o sulle conseguenze) con la polarità del giudizio (permissivo o proibitivo). Il dataset è tratto da tre benchmark consolidati di ragionamento morale e viene valutato su un set di test costruito senza contaminazioni, composto da formulazioni inedite e comprendente coppie in conflitto, nelle quali le due formulazioni prevedono etichette opposte. Mediante probing lineare e manipolazione delle attivazioni, individuiamo due direzioni ortogonali nel flusso residuo: Dir-A segue lo stile di ragionamento e Dir-B la polarità del giudizio; ciascuna è quasi insensibile all’altro fattore (correlazione incrociata $|r| < 0.04$). Questa doppia dissociazione si replica in tre modelli ottimizzati per seguire istruzioni, sviluppati da soggetti diversi, a profondità proporzionali comparabili. Inoltre, non dipende in modo critico dalla scelta del layer: le direzioni sono individuabili e hanno effetti causali in un’ampia fascia della rete. Dir-A può modificare causalmente i giudizi e, negli scenari conflittuali, corregge selettivamente gli errori nei giudizi basati sulle regole senza modificare quelli basati sulle conseguenze. Questo suggerisce che non si limiti a rendere il modello più propenso ad accettare tutto. La generalizzazione oltre i template di addestramento è parziale: la direzione si trasferisce tra le fonti dei benchmark, ma il suo vantaggio rispetto alle baseline lessicali su formulazioni inedite è modesto. Inquadriamo quindi il risultato come una sensibilità allo stile di ragionamento morale — una struttura geometricamente dissociabile e causalmente efficace — anziché come un ragionamento normativo interiorizzato.