Vai al contenuto
AI.info

The Pulse

Il sistema ibrido Jev–Claude Opus di Hightouch si avvicina all’accuratezza di Opus a un costo inferiore nella risoluzione delle identità

Nei test di Hightouch, Jev e GPT-6 Luna hanno valutato la risoluzione delle identità, con alcuni casi selezionati poi affidati a Claude Opus. Nel test più semplice, il sistema ibrido Jev-Opus ha ottenuto un’accuratezza del 98,8% a un costo

Il sistema ibrido Jev–Claude Opus di Hightouch si avvicina all’accuratezza di Opus a un costo inferiore nella risoluzione delle identità

AI.info Team · Scritto con l’IA · verificato ·

Il 4 novembre 2026, Hightouch ha riferito che un sistema che abbina Jev a Claude Opus si è avvicinato all’accuratezza di Opus da solo nei test di valutazione della risoluzione delle identità. Nel test più semplice, il sistema ibrido ha ottenuto un’accuratezza del 98,8% a 0,88 dollari per 1000 identità; Claude Opus 5.5 da solo ha ottenuto il 99,0% a 3,86 dollari. Nel test più difficile, Jev ibrido ha ottenuto il 95,3% a 2,94 dollari per 1000 identità, contro il 95,1% di Opus a 5,39 dollari.

Il test di Hightouch su 1000 identità

La risoluzione delle identità, secondo la definizione di Hightouch, è il processo che associa i dati alle persone reali corrispondenti. Hightouch si è concentrata sull’over-merging: un’identità che combina erroneamente record appartenenti a più persone. Tra i problemi nei dati figurano errori di battitura, indirizzi email condivisi, indirizzi cambiati e campi vuoti.

Non esiste una chiave delle risposte per verificare i risultati della risoluzione delle identità su dati reali, scrive Hightouch, quindi i team selezionano campioni di profili e li esaminano manualmente. Il campionamento umano è lento (~50 identità/ora), afferma l’azienda, e possono servire > 1000 campioni per ridurre l’errore sul tasso di over-merging a meno di +-1%. Hightouch ha usato pseudopeople, uno strumento dell’Institute for Health Metrics and Evaluation della University of Washington, per simulare i record di una città statunitense immaginaria e aggiungere errori realistici nei dati.

Il benchmark conteneva 1000 identità: metà rappresentava una persona con record contenenti errori e metà era frutto di over-merging. Nessuna persona reale compare negli esempi, si legge nel post. I modelli hanno valutato se i record di un profilo descrivessero una o più persone.

La confidenza di Jev è meglio calibrata di quella di Luna

Con una soglia di confidenza del 50%, GPT-6 Luna ha ottenuto il 97,3% nel primo test e Jev il 95,6%; Claude Opus 5.5 ha ottenuto il 99,0%. Hightouch ha poi modificato le soglie, portandole al 70% per Luna e al 60% per Jev, ottenendo rispettivamente il 97,3% e il 95,7%. Luna ha ottenuto risultati migliori di Jev senza modifiche iniziali, ma il divario è scomparso nei casi più difficili, afferma l’azienda.

Per la maggior parte degli errori di Jev, il modello aveva un basso grado di confidenza nella correttezza della propria risposta, mentre per la maggior parte di quelli di Luna la confidenza era alta. Nel test più difficile, Jev da solo ha ottenuto l’89,1% e Luna da solo l’88,8%; Claude Opus 5.5 ha ottenuto il 95,1%. La confidenza meglio calibrata di Jev, afferma Hightouch, ha aiutato il sistema ibrido a decidere quali casi inviare a Opus per una seconda valutazione.

Opus riesamina una quota selezionata

Nel test più semplice, Hightouch ha inviato a Opus i casi per i quali la confidenza di Jev era compresa tra il 30% e il 90%: è stato inviato il 22% delle identità. Quel sistema ibrido ha ottenuto un’accuratezza del 98,8% a 0,88 dollari per 1000 identità, contro il 95,6% e 0,05 dollari per Jev da solo. Inviando a Opus i casi di Luna con una confidenza compresa tra il 10% e il 90%, è stato sottoposto a revisione il 6% delle identità ed è stata ottenuta un’accuratezza del 98,5% a 0,33 dollari per 1000 identità.

Nel test più difficile, il sistema ibrido Jev ha ottenuto il 95,3% a 2,94 dollari per 1000 identità, mentre il sistema ibrido Luna ha ottenuto il 91,6% a 1,15 dollari. Opus da solo ha ottenuto il 95,1% a 5,39 dollari. Il sistema Jev ha inviato più casi a Opus quando i dati sono diventati più difficili, senza modifiche all’harness o ai prompt, afferma Hightouch.

I costi osservati variano a seconda del test

Nei due test, Jev da solo è costato 0,05 dollari per 1000 identità nel test più semplice e 0,06 dollari in quello più difficile; Luna da solo è costato rispettivamente 0,10 e 0,12 dollari. I sistemi ibridi sono costati di più quando hanno inviato più identità a Opus: Jev ibrido è costato 0,88 dollari nel test più semplice e 2,94 dollari in quello più difficile. I costi e le latenze dei modelli sono stati rilevati nell’ambiente di Hightouch e varieranno, afferma l’azienda.

Fonte

Notizie correlate

Esplora

Altri articoli