IWIBench: valutare l’iniezione intra-peso guidata da modelli senza gradienti

Abstract degli autori

L’iniezione intra-peso consente a un modello di modificare il comportamento di un altro intervenendo direttamente sui suoi pesi, senza gradienti. Queste modifiche possono andare dall’alterazione delle associazioni lessicali all’imposizione di formati di output o all’aggiornamento di conoscenze fattuali. Nonostante il crescente interesse per questi approcci, finora mancava un metodo sistematico per valutare quanto bene i modelli riescano a metterli in pratica. Presentiamo IWIBench, che misura la capacità di un modello editor di grandi dimensioni di modificare i pesi di un modello bersaglio più piccolo (in genere Gemma 3 4B IT) per raggiungere uno dei dieci obiettivi classici di modifica del testo, preservandone al contempo le altre capacità. Gli editor sono limitati a quattro strumenti per leggere e scrivere i pesi, con accesso ai tensori circoscritto e un budget fisso per generare e ispezionare i rollout. Un validatore applica ciascuna patch proposta in un ambiente pulito e confronta il modello modificato con il target non modificato. La valutazione dei modelli più avanzati, sia a pesi chiusi sia a pesi aperti, rivela capacità che divergono nettamente, sia tra i modelli sia tra i compiti. Un numero ristretto di modelli, in particolare Astra e GPT-6.1 Sol, si colloca molto al di sopra degli altri. Il fatto che questa capacità sia recente (per esempio, se ne osserva ben poca in GPT-5.6 Sol), insieme all’analisi qualitativa, suggerisce che sia stata acquisita attraverso l’addestramento recente. Anche i compiti variano notevolmente: la risposta strutturata ha resistito a ogni tentativo e il controllo della lunghezza delle risposte ha prodotto una sola soluzione riuscita, mentre l’acquisizione di alias e la ricodifica si sono rivelate le attività più accessibili. Il successo in una famiglia di compiti era scarsamente correlato al successo nelle altre, segnalando una frontiera delle capacità ancora agli inizi e disomogenea. Esaminiamo le strategie adottate ripetutamente dagli editor e concludiamo con una panoramica dell’iniezione intra-peso, un approccio emergente ma già efficace per modificare il comportamento senza gradienti.