AdKnob: controllo dell’intensità pubblicitaria e dell’etichettatura per la pubblicità nativa degli LLM

Abstract degli autori

La pubblicità nativa per i modelli linguistici di grandi dimensioni (LLM) si è affermata come un canale di monetizzazione praticabile, poiché i fornitori di servizi basati su LLM cercano fonti di ricavi sostenibili. Integrare annunci nativi nelle risposte degli LLM, tuttavia, pone due sfide in gran parte poco studiate: (1) controllare l’intensità pubblicitaria, ovvero quanto risalta il contenuto pubblicitario, e (2) etichettare gli annunci, identificando quali segmenti del testo generato costituiscono pubblicità. Proponiamo AdKnob, un framework che affronta entrambe le sfide. Per controllare l’intensità pubblicitaria, introduciamo nuovi token di controllo degli annunci, privi di associazioni semantiche apprese in fase di pre-addestramento, e allineiamo il modello tramite ottimizzazione diretta delle preferenze affinché generi annunci al livello desiderato. Per etichettare gli annunci, proponiamo un meccanismo di attribuzione basato sull’attention rollout che identifica i segmenti pubblicitari seguendo a ritroso la loro attribuzione ai token di input correlati agli annunci, senza costi aggiuntivi di inferenza. Inoltre, realizziamo MI-KnobSet, il primo dataset di preferenze sull’intensità pubblicitaria a più livelli per gli annunci nativi degli LLM. Gli esperimenti condotti su sei LLM e le valutazioni umane mostrano che AdKnob raggiunge livelli di intensità pubblicitaria equidistanti, mentre i metodi di riferimento si concentrano in un intervallo ristretto; ottiene la massima accuratezza nell’etichettatura degli annunci ed è oltre 500 volte più veloce del metodo di riferimento più efficace; infine, i valutatori umani lo preferiscono ai metodi di riferimento fino all’89,6% delle volte.