La latence VoIP est le délai entre le moment où quelqu'un parle et celui où son interlocuteur l'entend. La Recommandation UIT-T G.114 place le plafond d'une conversation normale à 150 millisecondes en unidirectionnel — au-delà, en gros, les gens commencent à se couper la parole.
Pour un agent vocal doté d'IA, le budget est encore plus serré, car l'agent doit réfléchir à l'intérieur de celui-ci.
Où partent les millisecondes
Sur un appel entre humains, la latence, c'est du transport : paquetisation, transit réseau, buffer de gigue, restitution. Un chemin VoIP bien tenu reste largement à l'intérieur de G.114.
Un agent vocal ajoute une chaîne de traitement entre les deux transports côté humains :
- Capture et encodage de l'audio de l'appelant
- Reconnaissance vocale, qui ne peut pas s'achever tant que l'appelant n'a pas cessé de parler
- Détection de fin de parole — décider qu'il a fini, ce qui relève du pari et se paie
- Le modèle qui génère une réponse
- Synthèse vocale qui produit l'audio
- Transport retour vers l'appelant
Chaque étape est courte. La somme ne l'est pas. Et les éléments ne s'additionnent pas comme le laisse croire un schéma d'architecture, car l'un d'eux domine d'une manière facile à manquer.
Le délai avant le premier son, voilà le chiffre
Le temps de traitement total est la mauvaise métrique. Ce que vit l'appelant, c'est le blanc avant d'entendre quoi que ce soit.
Un agent qui met 900ms à produire une réponse complète mais commence à parler à 300ms paraît réactif. Un autre qui met 600ms au total mais ne dit rien avant 600ms paraît lent. Le streaming change la latence perçue bien plus que la vitesse brute, ce qui explique pourquoi courir après un modèle plus rapide déçoit souvent, alors que découper la réponse en fragments aide immédiatement.
C'est aussi pourquoi la détection de fin de parole se trouve sur le chemin critique. Chaque milliseconde passée à décider que l'appelant a terminé est une milliseconde avant que quoi que ce soit d'autre puisse démarrer. Une détection agressive réduit la latence et coupe la parole aux gens ; une détection prudente est polie et lente.
Le budget en pratique
En partant du ressenti conversationnel et en remontant :
- Sous ~800ms, le trajet bouche-oreille passe pour naturel
- Entre 800ms et 1,2s, cela se remarque mais reste tolérable
- Au-delà de ~1,2s, les appelants commencent à parler par-dessus l'agent, et chaque collision coûte un tour de réparation
Face à cela, le transport seul sur un appel national peut prendre 80 à 150ms aller-retour. L'international en ajoute, et ce n'est pas facultatif : la physique impose un plancher. Une chaîne qui achemine l'audio vers une région lointaine consomme une grosse part du budget avant même que le traitement ne commence — c'est la raison habituelle pour laquelle une démo instantanée en test paraît poussive en production.
Le calculateur de latence vocale additionne les étapes pour vous montrer laquelle dépense réellement votre budget, plutôt que de supposer qu'il s'agit du modèle.
Mesurer honnêtement
Mesurez le bouche-oreille sur un appel réel via un opérateur réel. Le temps d'inférence du modèle isolé n'est pas la latence ; c'est un terme de la somme, et rarement le plus gros.
Mesurez la queue de distribution, pas la moyenne. Une chaîne à 700ms de moyenne avec un p95 à 2 secondes n'est pas une chaîne à 700ms : un appel sur vingt est inutilisable, et ce sont ceux dont les gens se souviennent.
Voir aussi latence vocale pour le détail des termes.
Questions fréquentes
Quelle latence est acceptable en VoIP ? L'UIT-T G.114 recommande de maintenir le délai unidirectionnel sous 150ms pour une conversation normale. Les agents vocaux ont besoin d'un budget plus serré, car le traitement s'inscrit dans la même fenêtre.
Pourquoi mon agent vocal paraît-il lent alors que le modèle est rapide ? Généralement à cause de la détection de fin de parole et du délai avant le premier son, plutôt que de l'inférence. Si l'agent attend d'avoir fini de générer avant de parler, l'appelant entend toute la chaîne au lieu du début d'une phrase.
La gigue compte-t-elle autant que la latence ? Elle compte autrement. La gigue est absorbée par un buffer, et ce buffer ajoute lui-même du délai — réduire la gigue peut donc réduire indirectement la latence.
500ms, est-ce suffisant ? En bouche-oreille, généralement oui. Sous environ 800ms, cela passe pour conversationnel ; les problèmes commencent au-delà d'environ 1,2 seconde.
