音声AIレイテンシ計算ツール
パイプラインの各段階を設定すると、発信者が実際に体感する間隔がわかります。相手が話し終えた瞬間から、返答が聞こえる瞬間まで。内訳は、ベンダーが制御するものと自分が制御するものを切り分けます — そして最大の項目は、ほぼ必ず後者です。
Callers will talk over the agent and assume the line dropped.
Target is 800ms or better. Natural human turn gaps sit near 200ms.
Where the time goes
Fix this first
Endpointing silence is 39% of your budget at 600ms. The vendor pipeline — transcription, model and voice together — accounts for 920ms of the 1520ms total. Endpointing is a setting, not a vendor limit: dropping it is usually the cheapest win available, at the cost of occasionally cutting a caller off mid-pause.
算出方法
体感的な間は、発話終了から最初の音声までの各段階の合計です。発話者が話し終えたと判断するまで待つ無音、文字起こしの確定、モデルの最初のトークン、音声の最初のバイト、2回のネットワーク往復、そして電話回線の経路。
perceived gap = endpointing silence ← your setting
+ STT finalisation
+ LLM time to first token
+ TTS time to first byte
+ network RTT × 2 ← your region choice
+ telephony / jitter bufferたいていモデルのせいではない理由
一般的な構成では、エンドポインティングの無音しきい値が単独で最大の項目になります。合計およそ1,500msの予算のうち約600ms、つまり発信先が待たされる時間全体の40%です。これはベンダー側の制限ではありません。発信者が話し終えたと判断するまでシステムが無音を聞き続ける長さを決める、あなたの設定内の数値です。それが誰も選んでいないデフォルト値のまま放置される一方で、各チームはモデルのベンチマークに何週間も費やしています。
これを短くすることは、手に入る中で最も安上がりな改善です。しかもタダではなく、正真正銘のトレードオフです。切り詰めすぎると、文の途中で間を置いた発信先を遮ってしまいます。もう一つ自分の手中にあるレバーはリージョンの選択です。ネットワークの往復は2回分カウントされるため、リージョンをまたぐ構成では、どのベンダーにも落ち度がない段階で400msが上乗せされることがあります。
良い状態とは
人間の自然なターンテイキングの間は200ms前後です。500ms未満ならエージェントは即応と感じられ、800ms未満なら普通の間として受け取られます。1.2秒を超えたあたりから、発信先は言い直したりエージェントに被せて話し始めたりします。その沈黙が、考えているのではなく回線が切れたと受け取られるからです。最初のトークンまで1.4秒かかる推論モデルは、それだけで予算を使い切ります。だからこうしたモデルは、ライブのターンではなく通話後の要約や判断に置くべきなのです。
ここに挙げた各段階の数値は、公表値または観測値の典型的なレンジであり、保証ではありません。実際のレイテンシはリージョン、負荷、ペイロード、ネットワーク状況によって変わります。自分の環境で計測し、この値は設計上の予算として使ってください。
Last reviewed July 2026.
よくある質問
- 音声AIエージェントにとって良いレイテンシとは?
- 800ms未満なら快適に感じ、500ms未満なら即座に感じられます。人間の自然なターンテイキングの間は200ms前後です。約1.2秒を超えると、発信者は言い直したりエージェントの発話に被せて話し始めます。その無音が思考ではなく回線切れとして受け取られるからです。
- どのベンダーも低レイテンシを謳っているのに、なぜ自分の音声エージェントは遅いのか?
- ベンダーの数値は予算の一部にすぎないからです。一般的な構成では、エンドポインティングの無音しきい値 — 発信者が話し終えたと確信するまでの待ち時間 — が単独で最大の要因であり、全体の40%を占めることも珍しくありません。これはベンダー側の限界ではなく自分側の設定であり、モデルを買い替えても解決しません。
- 音声エージェントのレイテンシはどう下げるか?
- 効果の大きい順に、エンドポインティングのしきい値を短くする、プロバイダーと同じリージョンにデプロイする、システムプロンプトを短くする、応答全体を待たずにテキストを音声へストリーミングする、そしてその後にようやく高速なモデルを検討する。最初の2つは無料で、たいてい残りすべてを合わせたより価値があります。
- エンドポインティングとは?
- 発信者が話し終えたタイミングを判断することです。待ちすぎればどの応答も鈍く感じられ、早く切りすぎれば文の途中で間を置いた人を遮ってしまいます。バグではなく本物のトレードオフです — ただし、多くのチームが意識して選ばないまま既定値を放置し、モデルのせいにしているトレードオフでもあります。
- 音声に推論モデルは適しているか?
- クリティカルパス上ではほとんど適しません。最初のトークンまで1.4秒かかるモデルは、それだけで予算を使い切ります。推論モデルは通話後 — 要約、抽出、次のアクションの判断 — に向いており、ライブのターンはtime to first token向けに作られたもので回すべきです。
Put this calculator on your site
Free to embed on any site, commercial or not. No signup, no API key, nothing to break when we ship changes — the embed always runs the current version.
<iframe src="https://www.hirefinn.ai/embed/tools/voice-latency-calculator" title="音声AIレイテンシ計算ツール" width="100%" height="900" style="border:1px solid #E7DFD0;border-radius:12px;max-width:100%" loading="lazy"></iframe> <p style="font:14px/1.5 system-ui,sans-serif;margin:8px 0 0">音声AIレイテンシ計算ツール by <a href="https://www.hirefinn.ai/tools/voice-latency-calculator">Finn</a></p>
The credit line sits outside the iframe on purpose: a link inside a frame belongs to the framed document and does nothing for the page hosting it. Keeping that line is the only thing we ask in return — remove it and the calculator still works.
Default frame height 900px, responsive to full width.