Quando si può potare la propria rete? Uno studio dei neuroni intermedi nell’analisi sintattica del parlato multilingue

Abstract degli autori

L’analisi sintattica end-to-end del parlato, un compito proposto di recente, consiste nel prevedere sia la trascrizione sia l’albero sintattico di un enunciato orale. Le architetture esistenti per questo compito utilizzano spesso reti neurali intermedie. In questo lavoro esaminiamo l’efficacia di queste reti neurali (NN) nell’analisi sintattica e, in particolare, il ruolo che svolgono. Presentiamo un’architettura end-to-end più semplice per l’analisi sintattica del parlato, in cui eliminiamo queste unità NN intermedie, riducendo il numero di parametri del 12% e ottenendo risultati pari o superiori a quelli del metodo precedente sia nel riconoscimento automatico del parlato (ASR) sia nell’analisi sintattica. Dimostriamo che le unità NN intermedie contribuiscono a ridurre il divario rappresentazionale quando l’encoder preaddestrato è congelato. Valutiamo in modo approfondito l’analisi sintattica del parlato in francese, sloveno e Naija; queste ultime due sono lingue con risorse medio-basse. Esaminiamo inoltre l’impatto delle dimensioni dei dati di addestramento e degli strati intermedi dell’encoder del parlato preaddestrato sull’analisi sintattica del parlato.