La sélection finale en moins d'une seconde : choisir le bon modèle OpenAI pour la voix en direct

Trois numéros de la série

Qu’a-t-on mesuré, et comment ?

Un appel vocal n'est pas un test de performance. Il s'agit d'une pile, et le modèle n'en représente qu'une partie. Ce test de performance isole cette partie et la soumet à des contraintes similaires à celles du trafic réel.

Chacun des douze modèles a reçu la même invite vocale (adaptée à l'IA) et le même budget de génération. Cinq exécutions chronométrées ont été effectuées par modèle après une phase d'échauffement, suivies d'une exécution à froid distincte pour analyser le comportement en fin de réponse. Lorsque cela était possible, les niveaux de priorité et par défaut ont été testés ; en l'absence de priorité, la requête a été effectuée avec le niveau par défaut et la ligne correspondante est marquée en conséquence.

Trois chiffres sont rapportés par modèle : TTFT médiane (temps d'obtention du premier jeton utile), Médiane totale (demande du dernier jeton d'une courte réponse vocale) et TOTAL p95 (la fin que l'appelant entendra finalement). Les modèles de raisonnement (GPT-5.2 / 5.4 / 5.5) ont été exécutés avec effort=aucun Des modèles non raisonnants ont été exécutés à temp=0,2 .

Cinq cycles par modèle, préchauffés, routage prioritaire

Trié par latence médiane totale. Il s'agit des conditions les plus favorables pour chaque modèle : connexion préchauffée, file d'attente prioritaire et sortie vocale courte. La forme de ce tableau indique quels modèles doivent être traités en direct et lesquels doivent être traités ailleurs dans le processus.

Le routage prioritaire n'entraîne pas une accélération uniforme.

La priorité est présentée comme une mise à niveau standard. Les données démontrent le contraire. Les gains les plus importants ont été obtenus par les modèles les plus petits et les plus rapides, précisément ceux dont la latence par défaut était déjà principalement due au temps d'attente, et non au temps de calcul. Les modèles de raisonnement permettent de gagner des centaines de millisecondes en valeur absolue, mais leur latence minimale est déterminée par la capacité de raisonnement, et non par le routage.

Deux modèles (GPT-4o Mini et GPT-5.2) ont effectivement été pris en charge. Ralentissez Dans ce test, la priorité est inférieure de 22 % et 16 % respectivement. Cela indique clairement qu'il ne faut pas considérer la priorité comme une amélioration automatique ; effectuez vos propres tests en fonction de l'heure de la journée avant de l'appliquer à un flux vocal de production.

La même gamme, vue par l'acheteur

La latence détermine si un modèle peut maintenir un tour. Le coût du jeton, la fenêtre de contexte et le seuil de connaissances déterminent si vous pouvez vous permettre de le maintenir en place à grande échelle, avec l'historique approprié et face aux faits pertinents.

Choisir en fonction du comportement, et non des critères de référence

La latence indique si un modèle peut communiquer. Elle ne précise pas s'il doit maintenir la surface de l'outil, orchestrer un flux à plusieurs tours ou évaluer l'appel une fois terminé. Chaque niveau de la gamme OpenAI a une fonction spécifique ; les temps de latence seuls ne permettent pas de déterminer laquelle.

Niveau Nano : départ canon, excellent en tant que porte

GPT-4.1 Nano et GPT-5.4 Nano affichent les temps de réponse les plus courts (TTFT) et tirent le meilleur parti du routage prioritaire. En pratique, les modèles Nano sont moins stables lors d'enchaînements d'appels d'outils : les arguments JSON peuvent parfois dériver et les séquences d'appels multiples peuvent s'interrompre. Ils sont excellents comme classificateur d'intention de première passe, détecteur de langue ou filtre de confiance ; il est déconseillé de les utiliser comme modèle principal gérant l'interface utilisateur dans un flux vocal multi-étapes.

Niveau mini : assez rapide, idéal pour les sous-tâches délimitées

GPT-4.1 Mini et GPT-5.4 Mini semblent idéaux au premier abord : environ 700 ms de latence totale, un p95 inférieur à la seconde et un débit de jetons correct. Le point crucial est leur comportement conversationnel. Lors de longs échanges vocaux, ces mini-processeurs peuvent se perdre, ignorer les préconditions des appels d'outils et reposer des questions auxquelles l'appelant a déjà répondu. Performants pour les tâches ponctuelles (résumer, extraire, classifier), ils ne sont cependant pas adaptés à l'orchestration de conversations longues.

Niveau de raisonnement : intelligent, précis, optimal en direct

Les modèles GPT-5.2, GPT-5.4 et GPT-5.5 affichent une médiane totale comprise entre 1,27 s et 1,36 s, avec des pics de p95 supérieurs à 4 s pour les événements extrêmes. Ces modèles consomment à eux seuls la majeure partie du temps de traitement, laissant peu de marge pour la finalisation, la récupération, la validation et la synthèse vocale automatiques. Ils sont parfaitement adaptés à l'analyse, l'évaluation, la notation et la synthèse post-appel, mais pas à une utilisation en direct.

Niveau de modélisation complet : GPT-4.1 est le choix pour l’orchestration.

GPT-4o affiche le TTFT le plus faible, la médiane totale la plus basse et le p95 le plus précis de cette série. C'est également le modèle présentant le plus grand nombre de faiblesses documentées en matière de suivi d'instructions et d'hallucinations. GPT-4.1 est environ 250 ms plus lent, avec un TTFT total de 783 ms et un p95 de 885 ms, mais représente une amélioration significative en termes de suivi d'instructions, de discipline dans l'appel d'outils et de fiabilité. Pour une application réelle exigeant un comportement fiable, ce léger écart de latence est un compromis acceptable.

La bonne réponse est un portefeuille par tour

Obtenir un temps de réponse inférieur à une seconde sur OpenAI ne consiste pas à choisir un seul modèle optimal ; cela consiste à exploiter l'ensemble des modèles d'OpenAI, un niveau par tâche. par tour .

1. GPT-4.1 en direct. L'orchestrateur de la conversation. Sélection des outils, élaboration de l'argumentation et réponse orale.
2. Mini pour assistants spécialisés. Sous-tâches limitées et ponctuelles : résumé, extraction, classification, formulation de l’intention.
3. GPT-4.1 pour les chaînes complexes. Lorsqu'un flux doit coordonner plusieurs appels d'outils et un état persistant au fil des tours, la même discipline de suivi des instructions et d'appel d'outils porte ses fruits.
4. Raisonnement hors ligne. Noter les appels, enrichir les notes CRM, exécuter les évaluations pendant la nuit. Jamais sur le budget alloué aux délais de livraison.

Le bon modèle de voix est un portefeuille

Pour les conversations en direct, GPT-4.1 est le choix idéal : légèrement plus lent que GPT-4.0, il offre une nette amélioration en matière de suivi d'instructions et d'hallucination, des fonctionnalités essentielles pour la production vocale. Pour les assistants spécialisés et ponctuels, GPT-4.1 est parfaitement adapté. Pour les séquences complexes à plusieurs étapes, GPT-4.1, dans sa version complète, assure l'orchestration. Enfin, pour l'évaluation en temps réel, on utilise des modèles de raisonnement.

La question « Quel modèle OpenAI est le meilleur pour la voix ? » est mal posée. La bonne question est : « Quel modèle OpenAI est le plus adapté à cette tâche ? »