Decodifica ibrida generativa e di tagging per l’estrazione efficiente di coppie attributo-valore dei prodotti

Abstract degli autori

L’estrazione di coppie attributo-valore è importante per creare cataloghi di prodotti di alta qualità nell’e-commerce. I sistemi esistenti si basano su strategie generative o di tagging per estrarre i nomi degli attributi e i valori corrispondenti. I modelli di tagging etichettano direttamente porzioni del testo sorgente: sono quindi rapidi e ancorati alla fonte, ma non possono produrre valori che richiedono una riformattazione né generare nomi di attributi rari al di fuori del proprio insieme di etichette. I modelli generativi evitano questi limiti generando sia i nomi degli attributi sia i valori, token per token, ma la loro natura autoregressiva li rende lenti e limita la copertura degli attributi. Presentiamo la decodifica ibrida generativa e di tagging, una nuova architettura che combina il tagging di porzioni del testo sorgente con la generazione aperta. Per gli attributi frequenti i cui valori possono essere copiati, una componente di tagging estrae i valori direttamente dalla fonte. Questo permette alla componente generativa di concentrarsi sul resto: attributi rari al di fuori dell’insieme di etichette del modello di tagging e valori che non possono essere copiati, compresi quelli impliciti o normalizzati. Integrato nell’inferenza di vLLM, il decoder ibrido aumenta del 10% la copertura degli attributi ed estrae il 63% di coppie attributo-valore corrette in più senza compromettere la precisione, riducendo al contempo la latenza del 44%.