The Pulse
Les clients d’AWS peuvent désormais déployer le modèle de dialogue vocal de PolyAI via SageMaker JumpStart
Les clients d’AWS peuvent déployer le modèle de dialogue vocal de PolyAI sous forme de point de terminaison SageMaker via JumpStart. Le modèle traite l’audio des appels en direct, tandis que les clients restent responsables de l’intégration téléphonique et de la logique métier.

Les clients d’AWS peuvent désormais déployer le modèle vocal Dialog-RSN-1 de PolyAI depuis le catalogue Amazon SageMaker JumpStart sous forme de point de terminaison dans leurs propres comptes. Le modèle traite l’audio des appels en direct et génère des réponses pour les agents chargés des conversations avec les clients, selon une publication d’AWS parue le 19 novembre.
Cette inscription au catalogue JumpStart fait suite à une première voie de déploiement sur SageMaker : le 6 octobre, PolyAI avait indiqué que les clients pouvaient s’abonner via AWS Marketplace et déployer le modèle sous forme de point de terminaison SageMaker. La nouvelle entrée du catalogue propose des options de déploiement et d’évaluation dans SageMaker AI.
Déploiement et intégration
Les clients peuvent s’abonner via AWS Marketplace ou déployer le modèle depuis le catalogue JumpStart dans SageMaker. Dans la console SageMaker AI, ils sélectionnent le modèle dans le hub et choisissent « Deploy » ; le point de terminaison d’inférence en temps réel qui en résulte utilise une pile de service préconfigurée.
Le point de terminaison s’exécute dans le compte AWS et le cloud privé virtuel du client. Il est accessible au moyen des rôles AWS Identity and Access Management et son suivi est assuré par Amazon CloudWatch. Les clients peuvent également utiliser le SDK Python de SageMaker pour automatiser les déploiements.
Le point de terminaison utilise le protocole OpenAI Realtime ; un client Realtime existant peut se connecter via le pont de PolyAI en modifiant son URL de base. L’audio en entrée doit être au format PCM mono 16 bits, à 16 ou 24 kHz ; l’audio G.711 ou Opus doit d’abord être transcodé. Les connexions peuvent durer jusqu’à 30 minutes et le modèle ne prend actuellement en charge que l’anglais.
Le client reste responsable de l’orchestration, de l’intégration téléphonique et de la logique métier. La facturation du point de terminaison passe par le compte AWS du client.
Tests et options de service
Le catalogue comprend une présentation et des notebooks d’exemple. Après le déploiement d’un point de terminaison, le client peut utiliser le notebook d’exemple de PolyAI pour diffuser l’audio enregistré d’un appelant et afficher les décisions de prise de parole du modèle, ses réponses et ses transcriptions.
JumpStart propose plusieurs profils d’optimisation de la pile de service. Le profil optimisé pour la latence vise à réduire le délai avant le premier token lors des appels interactifs, tandis que le profil optimisé pour le débit vise à augmenter le nombre de tokens par seconde pour les volumes d’appels plus élevés. Des profils optimisés pour les coûts et équilibrés sont également disponibles.
Avant le déploiement, JumpStart affiche des indicateurs tels que la latence P50, le délai avant le premier token et le débit. La voie du SDK peut également servir à intégrer les déploiements aux workflows d’intégration continue et de déploiement continu.
Comment le modèle traite les appels
Dialog-RSN-1 reçoit directement l’audio de l’appelant et combine la gestion des tours de parole, la reconnaissance vocale, l’appel de fonctions et la génération de réponses au sein d’un seul modèle. PolyAI indique que le modèle peut tenir compte d’informations telles que le ton et le rythme pour décider comment et quand répondre.
Le modèle ne passe pas par un système distinct de conversion de la parole en texte avant de raisonner sur l’audio de l’appelant. PolyAI indique qu’il prend en compte l’audio en entrée et confie la génération vocale à un système distinct de synthèse vocale.
PolyAI a présenté Dialog-RSN-1 le 30 juillet et indique que le modèle traite déjà des appels en direct en production. L’entreprise affirme que le modèle a été développé en poursuivant l’entraînement de modèles multimodaux à poids ouverts sur des jeux de données internes, notamment des conversations issues de déploiements réels et des conversations synthétiques.
Sources
- Source originale · Billet de blog Amazon Web Services aws.amazon.com
Autres pages lues
- PolyAI · Dialog rsn aws sagemaker poly.ai
- PolyAI · PolyAI dialog rsn poly.ai
Entreprises citées
Articles liés
- Salesforce utilise le routage de SageMaker pour transférer les requêtes de modèles entre régions
- DMM et Algomatic Dynamics lancent un routeur pour 60 modèles d’IA ou plus
- Aikido étend ses tests d’intrusion par l’IA aux applications iOS
- Unsloth Desktop ajoute l’inférence locale sur les NPU AMD XDNA 2 des PC Ryzen AI
- Google Cloud détaille l’extraction de métadonnées par l’IA pour les objets de stockage