The Pulse
Los clientes de AWS ya pueden desplegar el modelo de diálogo por voz de PolyAI a través de SageMaker JumpStart
Los clientes de AWS pueden implementar el modelo de diálogo por voz de PolyAI como un endpoint de SageMaker a través de JumpStart. El modelo acepta audio de llamadas en curso, mientras que los clientes conservan la responsabilidad de la integración de telefonía y la lógica de negocio.

Los clientes de AWS ya pueden implementar el modelo de voz Dialog-RSN-1 de PolyAI desde el catálogo de Amazon SageMaker JumpStart como endpoint en sus propias cuentas. El modelo procesa audio de llamadas en curso y genera respuestas para agentes de conversación con clientes, según una publicación de AWS del 19 de noviembre.
La inclusión en JumpStart sigue una vía de implementación anterior de SageMaker: PolyAI dijo el 6 de octubre que los clientes podían suscribirse a través de AWS Marketplace e implementar el modelo como endpoint de SageMaker. La nueva entrada del catálogo ofrece opciones de implementación y evaluación dentro de SageMaker AI.
Implementación e integración
Los clientes pueden suscribirse a través de AWS Marketplace o implementar el modelo desde el catálogo de JumpStart en SageMaker. En la consola de SageMaker AI, seleccionan el modelo en el hub y eligen Deploy; el endpoint de inferencia en tiempo real resultante utiliza una pila de servicio preconfigurada.
El endpoint se ejecuta en la cuenta de AWS y la nube privada virtual del cliente, con acceso mediante roles de AWS Identity and Access Management y supervisión a través de Amazon CloudWatch. Los clientes también pueden usar el SDK de SageMaker para Python en flujos de trabajo de implementación automatizados.
El endpoint utiliza el protocolo OpenAI Realtime, y un cliente Realtime existente puede conectarse a través del puente de PolyAI cambiando su URL base. El audio de entrada debe ser PCM mono de 16 bits a 16 o 24 kHz; el audio G.711 u Opus debe transcodificarse primero. Las conexiones pueden durar hasta 30 minutos y, actualmente, el modelo solo admite inglés.
El cliente conserva la responsabilidad de la orquestación, la integración de telefonía y la lógica de negocio. La facturación del endpoint se realiza a través de la cuenta de AWS del cliente.
Opciones de prueba y servicio
El catálogo incluye una descripción general y cuadernos de ejemplo. Después de implementar un endpoint, el cliente puede usar el cuaderno de ejemplo de PolyAI para transmitir audio grabado de las personas que llaman e imprimir las decisiones del modelo sobre los turnos, las respuestas y las transcripciones.
JumpStart ofrece un conjunto de perfiles de optimización para la pila de servicio. El perfil optimizado para la latencia busca reducir el tiempo hasta el primer token en llamadas interactivas, mientras que el perfil optimizado para el rendimiento busca aumentar los tokens por segundo para volúmenes de llamadas más altos. También hay perfiles optimizados para el coste y equilibrados.
Antes de la implementación, JumpStart muestra métricas como la latencia P50, el tiempo hasta el primer token y el rendimiento. La vía del SDK también puede utilizarse para integrar las implementaciones en flujos de trabajo de integración continua y entrega continua.
Cómo gestiona las llamadas el modelo
Dialog-RSN-1 recibe directamente el audio de la persona que llama y combina la gestión de turnos, el reconocimiento del habla, la llamada a funciones y la generación de respuestas en un solo modelo. PolyAI afirma que puede utilizar información como el tono y el ritmo para decidir cómo y cuándo responder.
El modelo no recurre a una transferencia separada de voz a texto antes de razonar sobre el audio de la persona que llama. PolyAI afirma que el modelo procesa audio en la entrada y deja la generación de voz a un sistema de texto a voz independiente.
PolyAI presentó Dialog-RSN-1 el 30 de julio y afirma que ya gestiona llamadas en directo en producción. La empresa dice que el modelo se creó mediante entrenamiento adicional de modelos multimodales de pesos abiertos con conjuntos de datos propios, incluidas conversaciones basadas en implementaciones reales y conversaciones sintéticas.
Fuentes
- Fuente original · Entrada de blog Amazon Web Services aws.amazon.com
Otras páginas leídas
- PolyAI · Dialog rsn aws sagemaker poly.ai
- PolyAI · PolyAI dialog rsn poly.ai
Empresas en esta noticia
Noticias relacionadas
- Salesforce utiliza el enrutamiento de SageMaker para trasladar solicitudes de modelos entre regiones
- DMM y Algomatic Dynamics lanzan un enrutador para 60 o más modelos de IA
- OpenAI dice que sus modelos mejoraron hasta un 14 % los diseños de GPU de AMD
- Aikido amplía las pruebas de penetración con IA a las aplicaciones de iOS
- Unsloth Desktop añade inferencia local en las NPU AMD XDNA 2 de los PC Ryzen AI