KI-Glossar · KI-Begriff 181 von 218
Was ist Max Tokens?
Parameter der Claude-API, der die Länge der Antwort in Tokens nach oben begrenzt. Erreicht die Antwort dieses Limit, bricht sie ab und der Stoppgrund lautet max_tokens. Laut Doku erhöhst du dann entweder max_tokens oder lässt die Antwort fortsetzen. Das Limit sagt nichts darüber, wie lang die Antwort sein soll, es ist nur die Obergrenze.
Hans erklärt's mit Schrauberhänden 🔧
Ein Glas fasst nur eine bestimmte Menge. Ist es voll, hört das Einschenken auf, auch wenn die Flasche noch nicht leer ist. Genauso hört das Modell bei der Obergrenze auf, mitten im Satz, wenn es sein muss.
Merksatz: max_tokens ist die Obergrenze für die Antwortlänge, nicht die Zielvorgabe, und ein Abbruch daran zeigt sich im Stoppgrund.
Beispiel aus der Praxis
Du bittest um eine lange Zusammenfassung und setzt max_tokens auf einen kleinen Wert. Die Antwort endet mitten im Satz, der Stoppgrund lautet max_tokens. Mit einem höheren Wert kommt sie vollständig an.
Darauf kommt es an
Prüf bei jeder Antwort den Stoppgrund. Steht dort max_tokens, ist der Text abgeschnitten. Setz das Limit großzügig genug für die erwartete Länge und steuere die gewünschte Länge zusätzlich im Prompt.
Verwandte Begriffe
- TokenDie Einheit, in die Sprachmodelle Text zerlegen: ein Wort, Wortteil oder Satzzeichen. Bei englischem Text entspricht ein Token laut OpenAI grob 4 Zeichen, andere Sprachen wie Deutsch brauchen oft mehr Tokens für dieselbe Textmenge. API-Kosten werden pro Token berechnet.
- KontextfensterWie viel Text ein Modell auf einmal berücksichtigen kann, gemessen in Tokens: Prompt, Dateien, bisheriger Chat und die erzeugte Antwort zusammen.
- Stop-SequenzEine Zeichenfolge, bei der das Modell die Ausgabe beendet. In der Claude-API legst du sie über den Parameter stop_sequences fest. Gibt das Modell eine davon aus, endet die Antwort mit dem Stoppgrund stop_sequence, und das Feld stop_sequence nennt dir, welche Folge ausgelöst hat.
- Streaming (API)Übertragung einer KI-Antwort in Stücken, während das Modell noch schreibt, statt alles erst am Ende zu schicken. Bei der Claude-API schaltest du das mit "stream": true ein; die Antwort kommt dann als Folge von Server-Sent Events (SSE). So siehst du die ersten Wörter schon nach kurzer Zeit.
- LatenzDie Zeit zwischen Anfrage und Antwort eines KI-Modells. Wichtig für Chatbots, Sprachassistenten und alle Anwendungen, bei denen Nutzer warten.
Kurz gefragt
Was ist Max Tokens?
Parameter der Claude-API, der die Länge der Antwort in Tokens nach oben begrenzt. Erreicht die Antwort dieses Limit, bricht sie ab und der Stoppgrund lautet max_tokens. Laut Doku erhöhst du dann entweder max_tokens oder lässt die Antwort fortsetzen. Das Limit sagt nichts darüber, wie lang die Antwort sein soll, es ist nur die Obergrenze.
Was ist ein Beispiel für Max Tokens?
Du bittest um eine lange Zusammenfassung und setzt max_tokens auf einen kleinen Wert. Die Antwort endet mitten im Satz, der Stoppgrund lautet max_tokens. Mit einem höheren Wert kommt sie vollständig an.
Worauf sollte ich bei Max Tokens achten?
Prüf bei jeder Antwort den Stoppgrund. Steht dort max_tokens, ist der Text abgeschnitten. Setz das Limit großzügig genug für die erwartete Länge und steuere die gewünschte Länge zusätzlich im Prompt.
Weiter geht's 🧭
Nachbarseiten mit dem meisten gemeinsamen Thema. Kein Zufall, reine Statistik.
Passt dazu 6
- GlossarWas ist Stoppgrund? Einfach erklärt mit Beispiel
- GlossarWas ist ein Rate Limit? Einfach erklärt mit Beispiel
- RechnerToken- & Textkosten-Rechner für Sprachmodelle
- PromptPrompt: Testfälle aus einer User Story ableiten
- KI-NewsGemini 4 Argon API-Preis: ab Dezember doppelt so teuer
- KI-NewsClaude Fable 5.2: Preise, Benchmarks, Zugang erklärt
Wer hierher verlinkt 7
Gut vernetzt: 7 Seiten zeigen auf diese hier. Die passendsten:
- GlossarWas ist Stop-Sequenz? Einfach erklärt mit Beispiel
- GlossarWas ist Stoppgrund? Einfach erklärt mit Beispiel
- GlossarWas ist das Streaming? Einfach erklärt mit Beispiel
- GlossarWas ist ein Rate Limit? Einfach erklärt mit Beispiel
- GlossarKI-Glossar: KI- und SEO-Begriffe einfach erklärt
- GlossarWas ist Tool Choice? Einfach erklärt mit Beispiel
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool-Vorschlag oder einen Fehler gefunden?