KI-Glossar · KI-Begriff 153 von 218
Was ist Token-Zählung?
Funktion von KI-Schnittstellen, die vorab angibt, wie viele Tokens eine Anfrage hat, ohne sie auszuführen. Anthropic bietet dafür einen eigenen Endpunkt, der dieselben Eingaben wie das Erstellen einer Nachricht akzeptiert, also System-Prompt, Werkzeuge, Bilder und PDFs.
Hans erklärt's mit Schrauberhänden 🔧
Vor dem Packen stellst du den Koffer auf die Waage, statt erst am Flughafen zu erfahren, ob er zu schwer ist. Die Token-Zählung wiegt deine Anfrage, bevor sie abgeschickt wird.
Merksatz: Erst zählen, dann senden: So kennst du die Größe der Anfrage vorab.
Beispiel aus der Praxis
Bevor du ein langes PDF samt System-Prompt an das Modell schickst, fragst du den Zähl-Endpunkt, wie viele Eingabe-Tokens das sind, und entscheidest dann, ob du kürzt oder ein Modell mit größerem Kontextfenster wählst.
Darauf kommt es an
Laut Anthropic-Doku hilft die Zählung, Rate Limits und Kosten im Griff zu behalten, Modelle passend auszuwählen und Prompts auf eine Zielgröße zu bringen. Den Kostenrahmen deiner Anfragen kannst du im API-Kosten-Rechner durchspielen.
Weiter lernen: Passende Seite auf mentat.codes →
Verwandte Begriffe
- TokenDie Einheit, in die Sprachmodelle Text zerlegen: ein Wort, Wortteil oder Satzzeichen. Bei englischem Text entspricht ein Token laut OpenAI grob 4 Zeichen, andere Sprachen wie Deutsch brauchen oft mehr Tokens für dieselbe Textmenge. API-Kosten werden pro Token berechnet.
- TokenizerBaustein, der Text vor der Verarbeitung in Tokens zerlegt und jedem Token eine Nummer zuordnet. Jede Modellfamilie hat ihren eigenen Tokenizer, deshalb ergibt derselbe Text je nach Modell unterschiedlich viele Tokens und Kosten.
- KontextfensterWie viel Text ein Modell auf einmal berücksichtigen kann, gemessen in Tokens: Prompt, Dateien, bisheriger Chat und die erzeugte Antwort zusammen.
- Rate LimitObergrenze, wie viele Anfragen oder Tokens man in einem Zeitraum an eine KI-API oder einen Chatbot schicken darf.
- Prompt CachingWiederkehrende Teile eines Prompts werden zwischengespeichert, sodass sie bei der nächsten Anfrage günstiger und schneller verarbeitet werden.
Kurz gefragt
Was ist Token-Zählung?
Funktion von KI-Schnittstellen, die vorab angibt, wie viele Tokens eine Anfrage hat, ohne sie auszuführen. Anthropic bietet dafür einen eigenen Endpunkt, der dieselben Eingaben wie das Erstellen einer Nachricht akzeptiert, also System-Prompt, Werkzeuge, Bilder und PDFs.
Was ist ein Beispiel für Token-Zählung?
Bevor du ein langes PDF samt System-Prompt an das Modell schickst, fragst du den Zähl-Endpunkt, wie viele Eingabe-Tokens das sind, und entscheidest dann, ob du kürzt oder ein Modell mit größerem Kontextfenster wählst.
Worauf sollte ich bei Token-Zählung achten?
Laut Anthropic-Doku hilft die Zählung, Rate Limits und Kosten im Griff zu behalten, Modelle passend auszuwählen und Prompts auf eine Zielgröße zu bringen. Den Kostenrahmen deiner Anfragen kannst du im API-Kosten-Rechner durchspielen.
Weiter geht's 🧭
Falls du noch nicht genug hast: Hier geht es inhaltlich direkt weiter.
Passt dazu 6
- GlossarWas ist Kompaktierung? Einfach erklärt mit Beispiel
- GlossarWas ist ein Transformer? Einfach erklärt mit Beispiel
- KI-NewsOpenAI Decisions API: Business-Entscheidungen per API
- KI-NewsOpenAI Prompt Caching 12 Stunden: Kosten und Rechnung
- RatgeberKI-Modelle in Automationen: Fristen, Preise, Wechsel
- RechnerToken- & Textkosten-Rechner für Sprachmodelle
Wer hierher verlinkt 9
Gut vernetzt: 9 Seiten zeigen auf diese hier. Die passendsten:
- GlossarWas ist ein Tokenizer? Einfach erklärt
- GlossarWas ist ein Rate Limit? Einfach erklärt mit Beispiel
- GlossarWas ist das Kontextfenster? Einfach erklärt mit Beispiel
- GlossarWas ist Prompt Caching? Einfach erklärt mit Beispiel
- GlossarWas ist Kompaktierung? Einfach erklärt mit Beispiel
- GlossarWas ist Zitate? Einfach erklärt mit Beispiel
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool-Vorschlag oder einen Fehler gefunden?