La lista de preseleccionados en fracciones de segundo: elegir el modelo OpenAI adecuado para la voz en directo.

Tres números de la carrera

Qué se midió y cómo

Un turno de voz no es una prueba de rendimiento. Es una pila, y el modelo es una porción. Esta prueba de rendimiento aísla esa porción y la somete a la misma presión que el tráfico real.

A cada uno de los doce modelos se le asignó la misma solicitud de voz con formato de IA y el mismo presupuesto de generación. Se realizaron cinco ejecuciones cronometradas por modelo tras un periodo de calentamiento, seguidas de una pasada de arranque en frío independiente para observar el comportamiento de cola. Cuando fue posible, se probaron tanto los niveles predeterminados como los prioritarios; cuando la prioridad no estaba disponible, la solicitud recurría al nivel predeterminado y la fila se marcaba en consecuencia.

Se informan tres cifras por modelo: TTFT mediana (tiempo hasta el primer token útil), Mediana TOTAL (solicitud hasta el último token de una breve respuesta de turno de voz) y TOTAL p95 (la cola que el emisor finalmente escuchará). Se ejecutaron modelos de razonamiento (GPT-5.2 / 5.4 / 5.5) con esfuerzo=ninguno Los modelos sin razonamiento se ejecutaron en temperatura=0,2 .

Cinco recorridos por modelo, precalentados, enrutamiento prioritario.

Ordenados por latencia mediana total. Esta es la condición más favorable posible para cada modelo: conexión precalentada, cola de prioridad, salida de turno de voz corta. La forma de esta tabla indica qué modelos corresponden al turno en vivo y cuáles a otras etapas del proceso.

El enrutamiento prioritario no es una aceleración uniforme.

La prioridad se vende como una mejora sin coste adicional. Sin embargo, los datos indican lo contrario. Las mayores mejoras se observaron en los modelos más pequeños y rápidos, precisamente aquellos cuya latencia en el nivel predeterminado ya estaba dominada por el tiempo de espera en la cola, no por el procesamiento. Los modelos de razonamiento reducen el tiempo en cientos de milisegundos en términos absolutos, pero su límite inferior viene determinado por el razonamiento, no por el enrutamiento.

Dos modelos (GPT-4o Mini y GPT-5.2) de hecho obtuvieron Más lento En esta prueba, la prioridad fue menor, con un aumento del 22 % y del 16 % respectivamente. Esto indica claramente que no se debe asumir que la prioridad es una mejora gratuita; es importante evaluarla en su propio entorno y en su propio horario antes de implementarla en una ruta de voz de producción.

La misma gama de productos, vista desde la perspectiva del comprador.

La latencia determina si un modelo puede mantener un turno. El costo del token, la ventana de contexto y el umbral de conocimiento determinan si se puede permitir mantenerlo en el turno a gran escala, con el historial correcto y en función de los hechos correctos.

Elegir por comportamiento, no por referencia

La latencia indica si un modelo puede comunicarse. No indica si el modelo debe mantener la herramienta activa, orquestar un flujo de varias etapas o evaluar la llamada una vez finalizada. Cada nivel de la gama de OpenAI tiene una función; los tiempos por sí solos no revelan cuál.

Nivel nano: el más rápido en la salida, el mejor como puerta.

GPT-4.1 Nano y GPT-5.4 Nano presentan los valores TTFT más bajos y se benefician más del enrutamiento prioritario. En la práctica, los modelos nano son menos consistentes en llamadas a herramientas encadenadas: los argumentos JSON a veces varían y las secuencias de llamadas múltiples pueden interrumpirse entre turnos. Son excelentes como clasificadores de intención de primera pasada, detectores de idioma o puertas de confianza; es mejor no implementarlos como el modelo que mantiene la interfaz de la herramienta en un flujo de voz de varios pasos.

Nivel Mini: suficientemente rápido, ideal para subtareas limitadas.

GPT-4.1 Mini y GPT-5.4 Mini parecen ideales a primera vista: ~700 ms en total, p95 inferior a un segundo, buen rendimiento de tokens. El problema radica en la interacción conversacional. En flujos de voz prolongados, los Mini pueden perder el hilo, omitir precondiciones en las llamadas a herramientas y volver a formular preguntas que el interlocutor ya ha respondido. Son eficaces para tareas puntuales (resumir, extraer, clasificar); no son la opción adecuada para la orquestación de conversaciones largas.

Nivel de razonamiento: inteligente, preciso, mejor fuera de la ruta en vivo

GPT-5.2, GPT-5.4 y GPT-5.5 se sitúan entre 1,27 s y 1,36 s en la mediana total, con picos p95 superiores a 4 s en eventos de cola. Estos modelos consumen la mayor parte del presupuesto de turnos por sí solos, dejando poco margen para la finalización, recuperación, validación y síntesis de voz del sistema de reconocimiento automático de voz (ASR). Son ideales para el análisis, la evaluación, la puntuación y el resumen posteriores a la llamada, pero no para la transmisión en directo.

Nivel de modelo completo: GPT-4.1 es la opción de orquestación elegida.

GPT-4o registra el TTFT más bajo, la mediana total más baja y el p95 más ajustado en esta ejecución. También es el modelo con las debilidades más documentadas en el seguimiento de instrucciones y la alucinación. GPT-4.1 es aproximadamente 250 ms más lento, con un total de 783 ms y un p95 de 885 ms, y representa una mejora sustancial en el seguimiento de instrucciones, la disciplina en la llamada a herramientas y la precisión. Para un turno real que debe comportarse de manera confiable, vale la pena pagar esa diferencia de latencia.

La respuesta correcta es una cartera por turno

Mantener un tiempo de respuesta inferior a un segundo en OpenAI no proviene de elegir un único modelo óptimo; proviene de enrutar toda la gama de OpenAI, un nivel por trabajo, por turno .

1. GPT-4.1 en el turno en vivo. El orquestador de la conversación. Selección de herramientas, formulación de argumentos y respuesta oral.
2. Mini para asistentes especializados. Subtareas delimitadas y de una sola vez: resumen, extracción, clasificación, formulación de intenciones.
3. GPT-4.1 para cadenas complejas. Cuando un flujo tiene que coordinar múltiples llamadas a herramientas y un estado persistente a lo largo de varios turnos, la misma disciplina de seguimiento de instrucciones y llamadas a herramientas rinde frutos compuestos.
4. Razonamiento fuera de la línea. Calificar llamadas, enriquecer las notas del CRM, ejecutar evaluaciones durante la noche. Nunca dentro del presupuesto de turnos en vivo.

El modelo de voz adecuado es un portafolio

Para la conversación en vivo, GPT-4.1 es la opción natural: ligeramente más lento que GPT-4o, pero una mejora sustancial en el seguimiento de instrucciones y la alucinación, que es lo que realmente necesita la voz en producción. Para asistentes especializados de una sola vez, mini se adapta al rol. Para cadenas complejas de varios pasos, el mismo GPT-4.1 de nivel completo se encarga de la orquestación. Para la evaluación en tiempo real, modelos de razonamiento.

La pregunta "¿qué modelo de OpenAI es el mejor para la voz?" es incorrecta. La correcta es "¿qué modelo de OpenAI corresponde a este turno?".