# MLPerf Endpoints prueba servicios de IA en vivo con cargas similares a las de producción

Published 2026-11-20 · AI.info Team · AI.info

> MLPerf Endpoints v1.0, de MLCommons, mide puntos de conexión de API en vivo con distintas cargas de trabajo y niveles de concurrencia. Quienes presentan resultados pueden publicar resultados provisionales tras las comprobaciones automatizadas, antes de que concluya la revisión por pares.

## Pruebas de la pila completa

MLPerf Endpoints v1.0 prueba puntos de conexión de API en vivo con cargas similares a las de producción y mide el comportamiento de un sistema con distintos niveles de demanda, en lugar de asignarle una única puntuación máxima. En una publicación del 20 de noviembre, [MLCommons](https://mlcommons.org/2026/11/mlperf-endpoints-how-to-submit/) dijo que el benchmark abarca conjuntamente el hardware, el modelo, el software de servicio, el comportamiento del procesamiento por lotes y la red.

El benchmark devuelve un conjunto de puntos de operación medidos, o una frontera de Pareto, que muestra el rendimiento frente a la velocidad por usuario en distintos niveles de concurrencia. Las mediciones incluyen el rendimiento del sistema en tokens por segundo y el tiempo hasta el primer token en el percentil 90.

MLCommons afirma que la visualización LoadStair resultante usa mediciones discretas y funciones escalonadas, en lugar de curvas interpoladas, para mostrar los umbrales operativos y posibles caídas bruscas del rendimiento. La organización afirma que los datos no son estimados ni interpolados.

## Cargas de trabajo y modelos

La suite incluye tareas de resumen de una sola ejecución con Llama 3.1 8B Instruct y GPT-OSS 120B, con datos de CNN/DailyMail y patrones de tráfico estándar de canalización de documentos. Su carga de trabajo de razonamiento de una sola ejecución usa DeepSeek-R1 con prompts difíciles de matemáticas y ciencias que exigen una generación sostenida de tokens.

Una carga de trabajo de programación agéntica de varios turnos usa Qwen 3.6, Kimi K3 y DeepSeek V4 Pro. Reproduce 613 trayectorias con ciclos de contexto que se amplían.

La organización afirma que la suite usa cargas de trabajo que los clientes ya utilizan, en lugar de pruebas sintéticas. Los benchmarks agénticos requieren siete puntos de medición discretos, mientras que las suites no agénticas requieren de ocho a 32 puntos, incluida una ejecución Offline específica.

## Preparación de un envío

Quienes presentan resultados deben firmar el Acuerdo de licencia de contribuidor de MLCommons, obtener una clave de API de PRISM e instalar los clientes de referencia. A continuación, ejecutan la herramienta inference-endpoint contra un punto de conexión en vivo en los niveles de concurrencia que hayan seleccionado.

El paquete de envío debe incluir *system_desc.json*, que describe la configuración de hardware y software, y *system_power.json*, que indica la potencia aprovisionada del sistema para las métricas de normalización de potencia. Quienes presentan resultados validan el paquete localmente antes de subirlo mediante la herramienta de línea de comandos para envíos, que genera un ID y abre una solicitud de revisión por pares.

La documentación indica que un benchmark no agéntico requiere un mínimo de ocho puntos y cinco ejecuciones de exactitud, con calentamiento además de las ejecuciones de estado estable especificadas. Los benchmarks agénticos requieren siete puntos y cuatro ejecuciones de exactitud; cada punto por encima de una concurrencia de 32 se ejecuta durante 2.400 segundos.

La documentación para quienes presentan resultados indica que las reglas de la versión 1.0 son un borrador de trabajo y que algunas secciones que rigen la duración de las ejecuciones y las divulgaciones son provisionales o están pendientes de ratificación por el grupo de trabajo. Indica a quienes presentan resultados que consulten el repositorio de políticas cuando la documentación y la política difieran.

## Revisión y publicación

Según el modelo de envíos continuos, los resultados se publican en cohortes el primer y el tercer miércoles de cada mes. Para formar parte de una cohorte, un envío debe superar las comprobaciones automatizadas de cumplimiento y la revisión por pares al menos un día hábil antes de la fecha correspondiente.

MLCommons también permite compartir resultados provisionales después de una comprobación automática, antes de que concluya la revisión por pares. Los resultados finales verificados pueden mantenerse bajo embargo para que su publicación coincida con un evento o lanzamiento.

La documentación de envío describe la revisión confidencial como el modo de publicación predeterminado. Los resultados provisionales se marcan como pendientes de revisión por pares hasta su finalización, mientras que el embargo de un envío provisional también retrasa el inicio de la revisión.

## Fuentes

1. Fuente original [MLCommons · Mlperf endpoints how to submit](https://mlcommons.org/2026/11/mlperf-endpoints-how-to-submit/) mlcommons.org

Otras páginas leídas

2. [MLCommons · Endpoints submission docs](https://docs.mlcommons.org/endpoints-submission-docs/) docs.mlcommons.org
3. [MLCommons · How submission works](https://docs.mlcommons.org/endpoints-submission-docs/understand/how-submission-works/) docs.mlcommons.org
4. [MLCommons · Before you begin](https://docs.mlcommons.org/endpoints-submission-docs/workflow/before-you-begin/) docs.mlcommons.org

## Noticias relacionadas

- [Vals AI pone a prueba modelos de decisión con la gestión de un parque temático](https://ai.info/es/news/vals-ai-rollercoaster-tycoon-benchmark)
- [Eole empieza a revender servicios de GPU de SoftBank en el marco de una alianza](https://ai.info/es/news/eole-softbank-ai-data-center-gpu-resale)
- [Supermicro comienza a enviar servidores Petascale all-flash con AMD EPYC 9006 y PCIe Gen 6](https://ai.info/es/news/supermicro-pcie-gen-6-all-flash-storage-servers)
- [Valkey 9.2 añade funciones de copia de seguridad y replicación junto con una caché de IA](https://ai.info/es/news/valkey-9-2-ai-infrastructure-distributed-cache)
- [Meta reconsidera su objetivo de cero emisiones netas para 2030 ante el aumento de la demanda de IA](https://ai.info/es/news/meta-reconsiders-2030-net-zero-goal-ai-emissions)

## Explora

[Más artículos](https://ai.info/es/news)

---

Canonical: https://ai.info/es/news/mlperf-endpoints-production-ai-benchmark
