Il trasferimento interlinguistico dei vettori della malvagità è asimmetrico a seconda della direzione

Abstract degli autori

I vettori di personalità sono direzioni lineari nelle attivazioni del flusso residuo degli LLM che codificano tratti comportamentali e consentono un controllo preciso del comportamento dei modelli. Tra questi, il vettore della personalità malvagia è particolarmente importante per comprendere i comportamenti dannosi, le vulnerabilità ai jailbreak e il disapprendimento di conoscenze dannose. Non è però ancora stato verificato se questo vettore rappresenti un concetto davvero interlinguistico, anziché un artefatto della lingua da cui viene estratto. Conduciamo uno studio sistematico del trasferimento del vettore della malvagità tra due lingue con molte risorse (inglese e spagnolo) e due lingue con risorse limitate (swahili e telugu), usando quattro LLM open source sottoposti a fine-tuning per seguire istruzioni. Scopriamo che il trasferimento è asimmetrico a seconda della direzione. È più difficile ottenere in modo affidabile vettori della malvagità dalle lingue con risorse limitate, e i vettori così ottenuti sono in gran parte inefficaci nell’orientare il comportamento, persino nella lingua da cui provengono. Al contrario, i vettori estratti dalle lingue con molte risorse si trasferiscono efficacemente agli input nelle lingue con risorse limitate, preservando in larga misura le conoscenze generali, secondo le misurazioni di MMLU. Anche l’analisi geometrica conferma questo schema: i vettori della malvagità delle due lingue con molte risorse sono strettamente allineati, mentre quelli delle lingue con risorse limitate sono solo debolmente allineati a questa direzione condivisa. Questi risultati suggeriscono che esiste una direzione della malvagità condivisa tra le lingue e che, una volta estratta in modo affidabile da una lingua con molte risorse, può essere riutilizzata per orientare il comportamento nelle lingue con risorse limitate senza dover raccogliere ulteriori dati per ciascuna lingua.