Le secteur est obsédé par les normes de précision. En matière de voix en production, le temps qui détermine si un appelant fait confiance à votre IA se mesure en millisecondes.
Les trois seuils qui déterminent la confiance en ligne
La précision est évaluée par rapport à un critère de référence. La présence est mesurée en millisecondes. Si les seuils sont dépassés, la justesse de la réponse importe peu : l’appelant s’est déjà fait une opinion.
Écart moyen entre les prises de parole des locuteurs humains selon les langues
Limite maximale de latence de bout en bout avant que les appelants ne cessent de faire confiance à l'IA
Le seuil du silence où les auditeurs perçoivent l'absence, non la pensée.
Comment les humains prennent réellement leur tour
Les appelants n'évaluent pas votre taux d'erreurs verbales. Ils évaluent votre présence, et ce, dès la première seconde.
L'analyse conversationnelle interlinguistique situe l'écart moyen entre les prises de parole des locuteurs humains à environ 200 millisecondes Le 90e percentile se situe aux alentours de 500 ms. Au-delà de 700 ms environ, l'auditeur interprète le silence comme l'une des trois choses suivantes : confusion, désaccord ou absence.
Un délai de 900 ms pour la première réponse rend chaque phrase suivante incertaine, aussi juste soit-elle. Un temps de réponse inférieur à 500 ms témoigne d'une compétence bien avant l'arrivée du contenu.
“La précision qu'on ne peut pas entendre n'existe pas. Si l'appelant a déjà raccroché, votre score F1 de 99 % n'est qu'une erreur d'arrondi.”
La latence est un problème système, pas un problème de modèle.
La latence vocale de bout en bout représente un fardeau financier considérable que personne ne souhaite régler intégralement. Si on l'additionne sans réfléchir, on dépasse les trois secondes avant même le petit-déjeuner.
- Capture et codec : 40–150 ms. Le signal audio provenant du réseau téléphonique public commuté (RTPC), via le codec, est acheminé vers la pile.
- Reconnaissance vocale : 150–350 ms. Flux partiels, plus frais de finalisation.
- Récupération : 50–400 ms. Magasin vectoriel, BM25 ou sauts de graphe de connaissances.
- Raisonnement LLM : 400–1 200 ms. Premier jeton utile, en fonction du modèle et de l'invite.
- Synthèse vocale : 200–600 ms. Premiers éléments audio transmis, y compris la planification de la prosodie.
- Sortie réseau : 30–80 ms. Retour par le circuit médiatique jusqu'à l'appelant.
Dépasser les trois secondes suffisamment souvent et la marque devient jetable.
Précision et latence sont identiques sur le cadran
Les plateformes vocales de production qui atteignent un délai de réponse de bout en bout inférieur à une seconde ne répartissent pas la responsabilité entre deux équipes. Elles considèrent la vitesse et la fiabilité comme un seul et même critère. Les modèles qui fonctionnent réellement sont similaires dans tous les déploiements performants que nous avons analysés :
- Disponible en streaming partout. Le flux de données ASR partielles est transformé en flux de récupération, puis en flux de génération, et enfin en flux de synthèse vocale. Chaque étape bloquante consomme l'intégralité des ressources en aval.
- Récupération spéculative. Lancez la première récupération sur la transcription partielle de la reconnaissance vocale automatique, et non sur la transcription finale. Dans nos enregistrements, cela permet de gagner 120 à 180 ms sans incidence sur la précision, lorsqu'il est associé à un seuil de confiance.
- Routage LLM par petits volumes. Dans 70 à 80 % des cas, le système bascule vers un modèle plus petit, plus rapide et mieux réglé. Le modèle haut de gamme n'est utilisé que sur les itinéraires présentant un faible niveau de confiance. L'appelant entend presque toujours le modèle plus petit.
- Jetons de remplissage. « Laissez-moi vérifier » n'est pas une temporisation ; c'est une technique de masquage de la latence. Bien utilisée, elle permet de gagner 400 à 700 ms de calcul invisible tout en maintenant la présence.
La règle unique qui conditionne toutes les autres fonctionnalités
Notre règle de travail pour toute feuille de route d'IA vocale est simple : si la latence de bout en bout P90 (de la fin de la première phrase à la première sortie audio) n'est pas inférieure à trois secondes, rien d'autre n'aura d'importance.
- Moins de 3 s : produit. Transforme une démo en quelque chose que vous pouvez présenter à de vrais appelants sans vous excuser.
- Moins de 1,5 s : conversation. L'alternance des tours de parole devient naturelle. Taux de confinement et CSAT composés.
- Sous-1 s : humain. Indiscernable d'un agent parfaitement entraîné en termes de présence. Gains opérationnels débloqués.
Si vous ne pouvez pas fournir ces quatre chiffres cette semaine…
…votre plateforme d'IA vocale n'est pas encore évaluée selon les critères utilisés par vos appelants. Ne commencez pas par la précision. Commencez par évaluer chaque interaction, chaque appel, sur un échantillon aléatoire de 1 000 appels.
- Latence d'intrusion. La rapidité avec laquelle vous détectez que l'appelant a commencé à parler détermine le niveau de réactivité perçu.
- Temps nécessaire pour obtenir le premier jeton. Finalisation de l'ASR pour le premier jeton utile du LLM. Le budget le plus contrôlable de la pile.
- Premier enregistrement audio. Premier signal LLM transmis audible sur le réseau. Principalement composé de l'échauffement du synthétiseur vocal et de la planification de la prosodie.
- P90 de bout en bout. Du début de la phrase au premier signal audio. Le seul numéro qui compte pour l'appelant. Maîtrisez-le, et le reste suivra.
Construire pour la présence
L'intelligence artificielle vocale se gagne ou se perd dès la première seconde. Maintenez P90 sous les trois secondes, visez une seconde, et le reste de la feuille de route sera d'autant plus important. Si vous négligez cette étape, le reste de la feuille de route se résumera à republier une démo.
“La pile vocale de Cloudax est conçue pour minimiser la latence. Nous maintenons régulièrement un P90 de bout en bout inférieur à 0,9 seconde sur le trafic entrant en production, quels que soient les accents, les codecs et les opérateurs.”
Ingénieur pour le première seconde.
La pile vocale de Cloudax est conçue pour une latence minimale. Contactez notre équipe pour découvrir comment déployer une solution P90 de bout en bout sur votre infrastructure actuelle et comment atteindre une latence inférieure à une seconde.
