Apprendimento contrastivo per la verifica dell’autorialità

Abstract degli autori

I nostri risultati mostrano che, nelle condizioni testate, l’apprendimento contrastivo supera un approccio basato sulla classificazione per la verifica dell’autorialità. Individuiamo la funzione di perdita, la dimensione del batch, la durata dell’addestramento, il modello preaddestrato, la lunghezza del contesto in input e l’aumento dei dati tramite intervalli di testo casuali come fattori importanti per le prestazioni del modello. Sulla base di queste considerazioni, sviluppiamo un modello ModernBERT Bi-Encoder che raggiunge un’accuratezza del 98,4% nel task di verifica dell’autorialità PAN21.