Vai al contenuto
AI.info

The Pulse

I clienti AWS possono ora distribuire il modello di dialogo vocale di PolyAI tramite SageMaker JumpStart

I clienti AWS possono distribuire il modello di PolyAI per i dialoghi vocali come endpoint SageMaker tramite JumpStart. Il modello elabora l’audio delle chiamate in diretta, mentre i clienti restano responsabili dell’integrazione con la telefonia e della logica di business.

I clienti AWS possono ora distribuire il modello di dialogo vocale di PolyAI tramite SageMaker JumpStart

I clienti AWS possono ora distribuire il modello vocale Dialog-RSN-1 di PolyAI dal catalogo Amazon SageMaker JumpStart come endpoint nei propri account. Il modello elabora l’audio delle chiamate in diretta e genera risposte per gli agenti che gestiscono le conversazioni con i clienti, secondo un post di AWS pubblicato il 19 novembre.

La scheda su JumpStart segue una precedente modalità di distribuzione tramite SageMaker: il 6 ottobre PolyAI aveva dichiarato che i clienti potevano abbonarsi tramite AWS Marketplace e distribuire il modello come endpoint SageMaker. La nuova voce nel catalogo offre opzioni di distribuzione e valutazione all’interno di SageMaker AI.

Distribuzione e integrazione

I clienti possono abbonarsi tramite AWS Marketplace oppure distribuire il modello dal catalogo JumpStart in SageMaker. Nella console SageMaker AI selezionano il modello dall’hub e scelgono Deploy; l’endpoint di inferenza in tempo reale risultante utilizza uno stack di serving preconfigurato.

L’endpoint viene eseguito nell’account AWS e nella cloud privata virtuale del cliente, con accesso tramite i ruoli di AWS Identity and Access Management e monitoraggio tramite Amazon CloudWatch. I clienti possono anche usare SageMaker Python SDK per automatizzare i flussi di lavoro di distribuzione.

L’endpoint utilizza il protocollo OpenAI Realtime e un client Realtime esistente può connettersi tramite il bridge di PolyAI modificandone l’URL di base. L’audio in ingresso deve essere in formato PCM mono a 16 bit, a 16 o 24 kHz; l’audio G.711 o Opus deve prima essere transcodificato. Le connessioni possono durare fino a 30 minuti e al momento il modello supporta solo l’inglese.

Il cliente resta responsabile dell’orchestrazione, dell’integrazione con la telefonia e della logica di business. La fatturazione dell’endpoint avviene tramite l’account AWS del cliente.

Opzioni di test e serving

Il catalogo include una panoramica e notebook di esempio. Dopo aver distribuito un endpoint, il cliente può usare il notebook di esempio di PolyAI per trasmettere in streaming l’audio registrato delle chiamate e visualizzare le decisioni del modello sui turni di conversazione, le risposte e le trascrizioni.

JumpStart offre una serie di profili di ottimizzazione per lo stack di serving. Il profilo ottimizzato per la latenza punta a ridurre il tempo al primo token per le chiamate interattive, mentre quello ottimizzato per il throughput punta ad aumentare i token al secondo per gestire volumi di chiamate maggiori. Sono disponibili anche profili ottimizzati per i costi e bilanciati.

Prima della distribuzione, JumpStart mostra metriche come la latenza P50, il tempo al primo token e il throughput. È possibile usare anche il percorso tramite SDK per integrare le distribuzioni nei flussi di lavoro di integrazione continua e distribuzione continua.

Come gestisce le chiamate il modello

Dialog-RSN-1 riceve direttamente l’audio del chiamante e combina in un unico modello la gestione dei turni di conversazione, il riconoscimento vocale, le chiamate a funzioni e la generazione delle risposte. PolyAI afferma che può usare informazioni come il tono e i tempi per decidere in che modo e quando rispondere.

Il modello non ricorre a un passaggio separato dalla voce al testo prima di elaborare l’audio del chiamante. PolyAI afferma che il modello è consapevole dell’audio sul lato dell’input e affida la generazione del parlato a un sistema separato di sintesi vocale.

PolyAI ha presentato Dialog-RSN-1 il 30 luglio e afferma che il modello gestisce già chiamate in diretta in produzione. L’azienda dichiara che il modello è stato realizzato addestrando ulteriormente modelli multimodali a pesi aperti con dataset interni, che comprendono conversazioni basate su distribuzioni reali e conversazioni sintetiche.

Fonti

  1. Fonte originale · Post del blog Amazon Web Services aws.amazon.com

Altre pagine lette

  1. PolyAI · Dialog rsn aws sagemaker poly.ai
  2. PolyAI · PolyAI dialog rsn poly.ai

Aziende in questa notizia

Notizie correlate

Esplora

Altri articoli