Oltre le etichette binarie: valutare la sicurezza degli LLM con criteri diagnostici specifici per ogni prompt

Abstract degli autori

Gli attuali benchmark sulla sicurezza degli LLM si basano prevalentemente su etichette binarie, «sicuro» o «non sicuro»: offrono poche spiegazioni e mostrano una scarsa concordanza tra i valutatori automatici. Per affrontare questi limiti, presentiamo DiagSafe, un sistema di valutazione diagnostica che supera la classificazione binaria usando griglie di valutazione specifiche per ogni prompt. Basata su politiche di sicurezza dell’IA applicabili a livello globale, ogni griglia fornisce criteri espliciti lungo due dimensioni: la sicurezza, che riguarda danni concreti e prevede eccezioni specifiche per ridurre i falsi positivi, e l’utilità, che valuta indipendentemente il rispetto delle istruzioni. Per garantire una valutazione solida e realistica, costruiamo un benchmark bilingue (inglese-cinese) basato su una tassonomia completa della sicurezza con 84 etichette. Il benchmark comprende due sottoinsiemi: DiagBase, che include prompt a turno singolo e a più turni con richieste dannose dirette e jailbreak basati su template, e DiagAttack, che incorpora intenti dannosi in compiti complessi che richiedono di seguire istruzioni, creando attacchi difficili basati sulle istruzioni. Numerosi esperimenti dimostrano che DiagSafe aumenta significativamente l’affidabilità della valutazione con LLM nel ruolo di giudice, raggiungendo una concordanza del 95,34% con le annotazioni umane — nettamente superiore al 69%-87% ottenuto dai metodi di riferimento — e un’elevata concordanza tra valutatori ($κ$ di Cohen = 0,864). Inoltre, l’applicazione del nostro sistema rivela che i principali LLM differiscono notevolmente nei tassi di risposte non sicure e che ciascun modello presenta vulnerabilità proprie su diverse dimensioni. Osserviamo anche che i modelli sono particolarmente vulnerabili nei contesti in cinese e a più turni. In definitiva, DiagSafe offre uno strumento affidabile e interpretabile per verificare e ottimizzare l’allineamento degli LLM.