Esplorare la vulnerabilità ai jailbreak nell’inferenza dinamica basata sulla profondità nei modelli linguistici di grandi dimensioni

Abstract degli autori

È stato dimostrato che i modelli linguistici di grandi dimensioni (LLM) richiedono ingenti risorse computazionali e sono vulnerabili agli attacchi jailbreak, nei quali prompt avversari eludono l’allineamento di sicurezza e inducono risposte dannose. Per affrontare questa inefficienza, sono state proposte diverse tecniche per rendere più efficiente l’inferenza degli LLM. L’inferenza dinamica basata sulla profondità ha dato risultati promettenti, consentendo di generare output a partire da strati intermedi. Offre la flessibilità di adattare il comportamento del modello in base al budget di risorse disponibile. Tuttavia, non è ancora stato esplorato come questa flessibilità influisca sulla robustezza degli LLM contro gli attacchi jailbreak. In questo articolo colmiamo questa lacuna con un’indagine approfondita sull’impatto dell’inferenza dinamica basata sulla profondità sulla robustezza degli LLM contro gli attacchi jailbreak. In particolare, formuliamo le seguenti osservazioni chiave: 1) le uscite a bassa profondità sono costantemente più robuste agli attacchi jailbreak di quelle più profonde; 2) la profondità dell’uscita influisce sulla facilità con cui è possibile ottimizzare il suffisso avversario: le uscite più profonde raggiungono una perdita dell’attacco inferiore; e 3) i suffissi avversari influiscono sull’utilità in modo uniforme a tutte le profondità di uscita. Queste intuizioni possono contribuire a progettare metodologie di inferenza dinamica più robuste agli attacchi jailbreak. Il codice è disponibile all’indirizzo https://github.com/LassNajmuldeen/balcony-jailbreaking