I modelli di IA possono nascondere capacità arbitrarie in modo dimostrabile

Abstract degli autori

Le valutazioni delle capacità mirano a individuare comportamenti pericolosi dei modelli prima della loro distribuzione, ma la loro affidabilità dipende dall’ipotesi che sia possibile far emergere le capacità nascoste. Mostriamo che questa ipotesi non regge in condizioni avversarie costruendo attacchi backdoor che incorporano reti neurali cifrate nei pesi di un modello ospite e le decifrano e le eseguono solo quando ricevono un trigger segreto. Grazie a cassette di sicurezza digitali, questi circuiti nascosti restano difficili da far emergere e interpretare in modo dimostrabile, date certe ipotesi crittografiche, anche disponendo di pieno accesso ai pesi del modello. Estendiamo così i lavori precedenti dall’occultamento di stringhe fisse a quello di calcoli arbitrari. Realizziamo le nostre costruzioni dimostrative in PyTorch e valutiamo la possibilità di far emergere le capacità nascoste mediante fine-tuning, aggiunta di rumore ai pesi, ricerca del trigger basata sui gradienti e addestramento avversario latente, usando un piccolo compito di previsione delle reazioni chimiche come indicatore indiretto di capacità rilevanti per il CBRN. I nostri risultati mostrano resistenza a questi metodi e, insieme alle nostre garanzie crittografiche, rivelano un limite delle verifiche delle capacità basate sul tentativo di farle emergere. Rendiamo disponibili i nostri modelli per contribuire a migliorare le difese.