Britzel
Was ist Time to First Token? Einfach erklärt
Time to First Token (TTFT) ist die kurze Wartezeit vom Absenden bis zum ersten Zeichen der Antwort. Sie zeigt, wie lange das Modell „anläuft“, bevor es loslegt — unabhängig davon, wie schnell es danach weiterschreibt.
Die Alltagsanalogie
Wie im Restaurant die Zeit, bis der Kellner die Bestellung überhaupt aufnimmt: nicht wie lange das Kochen dauert, sondern wie schnell sich überhaupt etwas tut.
Im Job heißt das
Fühlt sich ein Chat „träge“ an, obwohl der Text dann flott kommt, liegt es meist an der TTFT. Modelle, die vor der Antwort lange grübeln (Reasoning), haben hier bewusst höhere Werte.
Eselsbrücke
TTFT ist die Anlaufzeit bis zum ersten Wort, LATENZ (PING) die Verzögerung der Netzleitung — Denkpause gegen Postweg.
Auf Englisch
time to first token, TTFT
Time to first token (TTFT) is the short wait between sending a request and seeing the first character of the answer. It shows how long the model takes to "spin up" before it starts — independent of how fast it writes afterwards.