HexaBee-4B: traduzione in sei lingue con risposte multilingui e supervisione bidirezionale

Abstract degli autori

La traduzione multilingue richiede a un modello di preservare il significato producendo un testo nella lingua richiesta. Presentiamo HexaBee-4B, un modello di traduzione ottenuto adattando Gemma 3 4B IT in tre fasi: prosecuzione del preaddestramento su Wikipedia, addestramento congiunto alla formulazione di risposte multilingui e alla traduzione dei testi delle risposte, e specializzazione nella traduzione bidirezionale. La fase intermedia collega due compiti attraverso risposte multilingui condivise: rispondere a una domanda nella lingua richiesta e tradurre una risposta in quella lingua. Comprende 19,46 milioni di esempi di risposta, tra cui 5,76 milioni di coppie domanda-risposta interlinguistiche, e 10,70 milioni di traduzioni dei testi delle risposte. La fase finale utilizza 658.274 esempi sintetici di traduzione diretta e inversa. Su 36.572 esempi sintetici di test che coprono tutte le 30 direzioni di traduzione tra arabo, cinese, inglese, ebraico, persiano e spagnolo, HexaBee-4B ottiene un punteggio chrF++ medio per direzione di 73,75, rispetto a 57,11 per Gemma 3 4B IT e 66,83 per Gemma 3 12B IT. BLEU, TER, COMET e un sottoinsieme corrispondente valutato da un modello confermano la stessa graduatoria complessiva. Questi risultati mostrano un miglioramento della traduzione nell’insieme delle sei lingue, con incrementi di chrF++ rispetto a entrambi i modelli di riferimento in ogni direzione valutata.