MENTAT.CODES AI Directories, Tools & Engineering

KI-Glossar · KI-Begriff 12 von 79

Was ist das Kontextfenster?

Wie viel Text ein Modell auf einmal berücksichtigen kann, gemessen in Tokens: Prompt, Dateien, bisheriger Chat und die erzeugte Antwort zusammen.

Jean erklärt's mit Schrauberhänden 🔧

Das Kontextfenster ist deine Werkbank: Alles, was draufliegt, hat das Modell im Blick, also Prompt, Dateien, bisheriger Chat und die Antwort, die gerade entsteht. Ist die Bank voll, passt nichts mehr drauf oder Altes muss runter. Anders als bei einer echten Werkbank sieht das Modell aber nicht alles gleich scharf, bei sehr vollen Fenstern gehen Details in der Mitte gern unter.

Merksatz: Was nicht auf die Werkbank passt, existiert für die KI nicht.

Beispiel aus der Praxis

Lädst du einen sehr langen Vertrag hoch und stellst danach viele Fragen, kann der Anfang des Gesprächs aus dem Kontextfenster fallen.

Darauf kommt es an

Bei langen Chats wichtige Vorgaben wiederholen oder ein neues Gespräch mit einer Zusammenfassung beginnen.

Verwandte Begriffe

  • TokenDie Einheit, in die Sprachmodelle Text zerlegen: ein Wort, Wortteil oder Satzzeichen. Bei englischem Text entspricht ein Token laut OpenAI grob 4 Zeichen, andere Sprachen wie Deutsch brauchen oft mehr Tokens für dieselbe Textmenge. API-Kosten werden pro Token berechnet.
  • RAG (Retrieval-Augmented Generation)Verfahren, bei dem vor der Antwort passende Textstellen aus eigenen Daten gesucht und dem Modell mitgegeben werden.
  • Prompt CachingWiederkehrende Teile eines Prompts werden zwischengespeichert, sodass sie bei der nächsten Anfrage günstiger und schneller verarbeitet werden.

Kurz gefragt

Was ist das Kontextfenster?

Wie viel Text ein Modell auf einmal berücksichtigen kann, gemessen in Tokens: Prompt, Dateien, bisheriger Chat und die erzeugte Antwort zusammen.

Was ist ein Beispiel für Kontextfenster?

Lädst du einen sehr langen Vertrag hoch und stellst danach viele Fragen, kann der Anfang des Gesprächs aus dem Kontextfenster fallen.

Worauf sollte ich bei Kontextfenster achten?

Bei langen Chats wichtige Vorgaben wiederholen oder ein neues Gespräch mit einer Zusammenfassung beginnen.

Weiter geht's 🧭

Die nächste Abzweigung. Navi sagt: lohnt sich.

Passt dazu 6
Wer hierher verlinkt 18

Beliebt im Viertel: 18 Seiten zeigen auf diese hier. Die passendsten:

Warum so kurz erklärt?

Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.

Heute bei mentat.codes

Gratis-Perle des Tages

Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale

Prompt des Tages

Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek

Tool des Tages

Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe

Hat dir die Seite geholfen?Bleibt nur in deinem Browser, wir zählen nichts.

Fragen, Tool eintragen lassen oder einen Fehler gefunden?