Glossar

Latenz

Latenz ist bei einem KI-Telefonassistenten die Zeit zwischen dem Ende einer Äußerung des Anrufers und dem Beginn der hörbaren Antwort.

  • Auch: Antwortzeit, Reaktionszeit, Verzögerung
Auf dieser Seite
  1. In der Praxis
  2. Ein Beispiel
  3. Häufiges Missverständnis
  4. Mehr dazu

Die Latenz setzt sich aus mehreren Schritten zusammen: erkennen, dass der Anrufer fertig ist, Sprache in Text umwandeln, Antwort erzeugen, Sprache ausgeben und das Audio über das Telefonnetz übertragen. Jeder Schritt kostet Zeit. Werkzeugaufrufe, etwa eine Kalenderabfrage, kommen hinzu.

In Gesprächen zwischen Menschen sind Pausen kurz. Wird die Pause deutlich länger, wirkt das Gespräch stockend, und Anrufer beginnen erneut zu sprechen. Herstellerangaben beziehen sich oft nur auf einen einzelnen Baustein. Aussagekräftig ist allein die Messung über die ganze Kette, am echten Telefon und mit mehreren Anrufen. Kürzere Latenz ist nicht immer besser: Antwortet das System zu früh, fällt es dem Anrufer ins Wort.

In der Praxis

Messen kannst du die Latenz selbst: Ruf den Assistenten von einem normalen Telefon aus an, nimm das Gespräch auf und miss die Pausen zwischen deinem letzten Wort und seiner ersten Silbe. Wiederhol das mit kurzen Fragen, mit langen Sätzen und mit Fragen, die einen Blick in den Kalender auslösen. Die Pausen fallen dabei unterschiedlich lang aus. Verkürzen lässt sich die Pause über knappere Antworten, schlankere Anweisungen und weniger Werkzeugaufrufe pro Wortmeldung. Dauert ein Schritt erkennbar länger, hilft ein kurzer Zwischensatz wie „Einen Moment, ich schaue nach“.

Ein Beispiel

Eine Friseurin testet ihren Assistenten. Auf „Habt ihr samstags geöffnet?“ kommt die Antwort fast sofort. Auf „Habt ihr am Samstag noch etwas frei für Schneiden und Färben?“ bleibt es spürbar länger still, weil der Assistent erst den Kalender abfragt. Zwei Testanrufer sagen in diese Stille hinein „Hallo?“. Seit der Assistent vor der Abfrage „Ich schaue kurz in den Kalender“ sagt, stört dieselbe Wartezeit niemanden mehr.

Häufiges Missverständnis

Latenz wird oft als feste Eigenschaft eines Anbieters verstanden. Sie schwankt aber von Gespräch zu Gespräch, je nach Frage, Auslastung und Verbindung. Ein einzelner Durchschnittswert verdeckt die Ausreißer, und gerade die bleiben Anrufern in Erinnerung. Achte deshalb auf die langen Pausen und nicht nur auf den Mittelwert. Und vergleich nie eine Messung im Browser mit einer am Telefon; der Weg durch das Telefonnetz kommt immer dazu.

Mehr dazu