Misurare la dipendenza dagli artefatti nei rilevatori di testi generati dalle macchine

Abstract degli autori

I rilevatori di testi generati dalle macchine ottengono punteggi quasi perfetti nei benchmark di letteratura scientifica, il che suggerisce che permettano di distinguere in modo affidabile i documenti scritti da esseri umani da quelli generati dalle macchine. Abbiamo esaminato dieci sottoinsiemi di documenti scientifici provenienti da sei risorse molto diffuse e, in diversi casi, questa apparente facilità è un effetto collaterale del modo in cui i documenti sono stati assemblati. Una regressione logistica basata su 27 caratteristiche superficiali ha raggiunto un macro-F1 compreso tra 0,833 e 0,997 e, nei tre sottoinsiemi arXiv, ha superato tutti i rilevatori che abbiamo valutato, con punteggi F1 compresi tra 0,951 e 0,997. L’indizio più forte per il rilevatore è l’artefatto dell’estrazione dai PDF: i testi scritti da esseri umani conservano le interruzioni di riga originali, mentre quelli generati vengono estratti come un unico blocco di prosa. Questo indizio, insieme ad altre tre caratteristiche di formattazione, distingue le due classi con un’AUC di 0,996. Per distinguere i benchmark che contengono un segnale del genere dai rilevatori che vi fanno affidamento, introduciamo i controfattuali di formattazione: basta modificare le interruzioni di riga di un abstract scritto da una macchina, senza cambiare una sola parola, per ribaltare il 20-27% delle decisioni corrette di un rilevatore disponibile pubblicamente. Normalizzare la formattazione prima dell’addestramento riduce il divario di generalizzazione da 0,32 a 0,22. Nei benchmark privi di artefatti di formattazione, aumenta inoltre il macro-F1 fuori dominio da 0,33 a 0,65 per i rilevatori addestrati su sottoinsiemi che contengono artefatti.