I metodi CIL per la visione si trasferiscono alle proteine? Un benchmark diagnostico degli encoder proteici congelati

Abstract degli autori

L’annotazione delle funzioni proteiche opera su uno spazio di etichette in espansione, rendendo l’apprendimento incrementale per classi (CIL) un approccio naturale per incorporare funzioni appena scoperte senza riaddestrare completamente i modelli. Tuttavia, i metodi CIL esistenti sono stati sviluppati in larga misura nell’ambito della visione e non sono stati valutati sistematicamente su rappresentazioni proteiche congelate. Conduciamo un benchmark controllato di nove metodi CIL rappresentativi, applicati a cinque encoder proteici basati su sequenze, strutture o sequenze e strutture, e a due dataset di funzioni enzimatiche di dimensioni diverse, mantenendo congelati gli encoder e uniformi le impostazioni di valutazione per tutte le rappresentazioni. Rileviamo che nessun metodo si trasferisce in modo affidabile da un encoder all’altro e che questi insuccessi persistono anche con costruzioni alternative delle fasi. Le analisi diagnostiche rivelano che questa instabilità deriva da segnali di stabilità basati sul gradiente deboli, da una notevole eterogeneità nella geometria degli embedding e da ipotesi sulla covarianza, la cui capacità adeguata varia in funzione sia delle dimensioni del dataset sia dell’encoder. Questi risultati suggeriscono che la rappresentazione stessa debba essere considerata una componente centrale nella progettazione dell’apprendimento continuo, anziché un estrattore passivo di caratteristiche. Più in generale, un CIL affidabile per le proteine richiederà metodi che tengano conto dell’encoder e adattino le proprie ipotesi statistiche e la propria capacità alla geometria della rappresentazione su cui operano. Il codice è disponibile su https://github.com/zygao930/ProteinCIL.