The Pulse
Cohere lancia Embed 5 con i modelli Pro e Fast per la ricerca
Il 30 settembre Cohere ha lanciato Embed 5, affiancando a un modello di alta qualità un’opzione più veloce e meno costosa per la ricerca aziendale. I modelli gestiscono testo, immagini e pagine di documenti che combinano i due formati, e co
AI.info Team · Scritto con l’IA ·
I sistemi di ricerca aziendali spesso trasformano i PDF in semplice testo prima di indicizzarli, perdendo le relazioni tra gli elementi delle tabelle, l’ordine di lettura e le informazioni contenute nei grafici. Cohere afferma che i suoi nuovi modelli Embed 5 possono invece rappresentare testo, immagini e pagine che combinano testo e immagini in un unico vettore, anche se i dati sulle prestazioni che cita provengono dalle sue valutazioni. L’azienda ha annunciato i modelli il 30 settembre, proponendo una versione orientata alla qualità del reperimento e un’altra alla velocità e ai costi.
Un indice, due modelli
Embed 5 è disponibile nelle versioni Pro e Fast. Cohere propone Pro per l’indicizzazione offline di alta qualità e per raccolte di documenti complesse, mentre Fast è pensato per la ricerca interattiva, i flussi di lavoro degli agenti e altre richieste ad alto volume. I due modelli condividono uno spazio degli embedding: i team possono quindi indicizzare i documenti con Pro ed effettuare ricerche in quell’indice con Fast, senza doverlo ricostruire.
«Oggi lanciamo Embed 5, una nuova famiglia di modelli di embedding all’avanguardia nel reperimento di informazioni aziendali di alta qualità». Il team di Cohere
Entrambi i modelli accettano testo, immagini e input che combinano testo e immagini, supportano più di 100 lingue e hanno una finestra di contesto di 128.000 token. I clienti possono scegliere dimensioni dell’output da 256 a 2.048 e usare i formati float, int8 o binario. Cohere indica un prezzo di 0,12 dollari per milione di token di testo per Pro e di 0,08 dollari per Fast; per entrambi i modelli, l’input di immagini costa 0,40 dollari per milione di token.
La struttura dei PDF alla prova
L’argomento centrale di Cohere è che i documenti aziendali contengono informazioni utili che l’estrazione del testo può eliminare: le righe e le colonne di una tabella, l’ordine di lettura di una pagina a più colonne o il contenuto visivo di un grafico. Nei test su ViDoRe V3 riportati dall’azienda, Embed 5 Pro ha ottenuto una media di 85,8 in otto ambiti di documenti ricchi di elementi visivi, contro 77,0 di Embed 4. Cohere ha riportato 84,5 per Fast, 83,7 per Voyage 4 Large e 83,2 per Gemini Embedding 2 di Google.
In una serie separata di test su documenti sottoposti a parsing, comprendente materiali come documentazione di servizio, relazioni aziendali, documenti depositati presso la SEC e informative sulla privacy, Cohere ha riportato una media di 84,8 per Pro, 83,4 per Fast e 83,6 per Voyage 4 Large. L’azienda ha inoltre riportato che Pro ha ottenuto una media di 82,3 su cinque dataset che combinano testo e immagini, contro 81,2 di Fast e 61,3 di Gemini Embedding 2. Sono risultati pubblicati dall’azienda, non un confronto indipendente; Cohere afferma che i documenti di ViDoRe V3 sono stati selezionati dagli autori del benchmark, mentre alcuni altri test includono dati interni.
I benchmark misurano solo una parte del reperimento
Cohere presenta Embed 5 insieme a RCP-nDCG@10, un metodo di valutazione del reperimento che, secondo l’azienda, misura quanto bene i modelli ordinano i documenti in base a criteri di pertinenza specifici per ciascuna ricerca. Una nota della stessa azienda delimita la portata del risultato: il metodo riordina un insieme fisso di candidati in un processo di reperimento a due fasi, quindi i suoi punteggi riflettono la qualità del riordinamento, non quella del reperimento nella prima fase. La distinzione conta perché ordinare bene i candidati forniti non dimostra, di per sé, quanto bene un sistema riesca a trovarli in un indice di grandi dimensioni.
Secondo Cohere, Pro e Fast sono stati testati in diverse combinazioni su 40 dataset di sviluppo. L’azienda afferma che usare Fast per le ricerche in una raccolta indicizzata con Pro ha prodotto una perdita media di qualità dell’1,6% rispetto al riferimento in cui Pro viene usato per entrambe le operazioni, mentre usare Pro per le ricerche in una raccolta indicizzata con Fast ha prodotto una perdita del 2,7%. Cohere consiglia Pro per l’indicizzazione e Fast per le ricerche, una ripartizione pensata per conservare gran parte della qualità di reperimento riportata riducendo al contempo i costi delle ricerche.
Disponibile tramite tre servizi
Embed 5 è disponibile tramite l’API e Model Vault di Cohere, Microsoft Foundry e Amazon SageMaker. Cohere afferma inoltre che entrambi i modelli possono essere eseguiti con vLLM per installazioni private nel cloud privato virtuale del cliente o nei suoi sistemi locali, ed elenca integrazioni con strumenti e database vettoriali tra cui Elasticsearch, Pinecone, Weaviate e OpenSearch.
Il lancio offre ai team aziendali un nuovo modo di bilanciare la qualità del reperimento e la velocità delle ricerche senza mantenere spazi degli embedding separati. Se questa soluzione migliorerà la ricerca nei file di un’azienda dipenderà dai suoi documenti, dal processo con cui vengono individuati i candidati e dal metodo di valutazione: elementi su cui i benchmark presentati al lancio non possono dare una risposta valida per ogni installazione.