Messaggi nascosti tra agenti basati su modelli linguistici a diffusione: prove causali di comunicazione latente

Abstract degli autori

I modelli linguistici a diffusione elaborano le risposte attraverso una sequenza di stati continui rivedibili, ma i sistemi multiagente di solito scartano questi stati e fanno comunicare gli agenti solo dopo la decodifica del testo. Ci chiediamo se una traiettoria di diffusione indipendente possa trasmettere a un’altra un messaggio nascosto compatto e, soprattutto, se il destinatario ne utilizzi il significato. In Hidden Messages, un agente mittente comprime il proprio stato di denoising in quattro vettori densi con segno; l’agente destinatario li acquisisce mantenendo il proprio contesto, il proprio canvas e la propria traiettoria. Rimuovere un messaggio permette di verificare se il canale conta; sostituirlo con un messaggio proveniente da un altro esempio permette di verificare se conta il suo contenuto. In una serie di compiti controllati, una permutazione senza punti fissi annulla un vantaggio di +63,6 punti su Tiny-A2D e uno di +100,0 punti su Dream-7B, mentre sostituzioni mirate orientano il destinatario verso il fatto sostituito. Su QASC, con i due fatti a supporto distribuiti tra gli agenti, la comunicazione con il messaggio corrispondente raggiunge l’80,8%, ma un messaggio proveniente da un esempio errato riduce l’accuratezza al 46,8%: un effetto del contenuto di +34,0 punti. Il risultato sorprendente riguarda il momento del trasferimento: un unico trasferimento tardivo raggiunge l’87,8%, superando quattro scambi ricorrenti di +7,0 punti. Questi esperimenti forniscono prove causali di comunicazione nascosta continua tra agenti basati su modelli linguistici a diffusione e mostrano che il momento in cui l’informazione viene trasferita può contare più del numero di scambi tra gli agenti.