KI-Glossar · KI-Begriff 117 von 218
Was ist das Streaming?
Übertragung einer KI-Antwort in Stücken, während das Modell noch schreibt, statt alles erst am Ende zu schicken. Bei der Claude-API schaltest du das mit "stream": true ein; die Antwort kommt dann als Folge von Server-Sent Events (SSE). So siehst du die ersten Wörter schon nach kurzer Zeit.
Hans erklärt's mit Schrauberhänden 🔧
Streaming ist der Kollege, der dir die Teile einzeln über die Werkbank reicht, sobald sie fertig sind, statt dich warten zu lassen, bis die ganze Kiste gepackt ist.
Merksatz: Die Antwort dauert gleich lang, fühlt sich aber schneller an.
Beispiel aus der Praxis
Deine App fragt die Claude-API nach einer langen Zusammenfassung. Ohne Streaming starrt der Nutzer auf einen Ladekreis. Mit "stream": true erscheint der Text Wort für Wort, und der Nutzer liest schon mit.
Darauf kommt es an
Die SDKs von Anthropic bringen eigene Streaming-Funktionen mit; für Antworten mit sehr großem max_tokens verlangt das SDK laut Anthropic Streaming, damit die HTTP-Verbindung nicht in einen Timeout läuft. Rechne damit, dass mitten im Stream ein Fehler-Event kommt, etwa overloaded_error bei hoher Auslastung, und dass neue Event-Typen dazukommen können, die dein Code ohne Absturz übergehen sollte.
Verwandte Begriffe
- APIProgrammierschnittstelle. Über die API eines Anbieters nutzen Apps ein KI-Modell direkt und zahlen pro Token.
- LatenzDie Zeit zwischen Anfrage und Antwort eines KI-Modells. Wichtig für Chatbots, Sprachassistenten und alle Anwendungen, bei denen Nutzer warten.
- SDKSoftware-Baukasten eines Anbieters mit fertigen Funktionen, Beispielen und Dokumentation, damit du seine Dienste in eigenen Programmen nutzen kannst, ohne alle Schnittstellenaufrufe selbst zu schreiben.
- TokenDie Einheit, in die Sprachmodelle Text zerlegen: ein Wort, Wortteil oder Satzzeichen. Bei englischem Text entspricht ein Token laut OpenAI grob 4 Zeichen, andere Sprachen wie Deutsch brauchen oft mehr Tokens für dieselbe Textmenge. API-Kosten werden pro Token berechnet.
Kurz gefragt
Was ist das Streaming?
Übertragung einer KI-Antwort in Stücken, während das Modell noch schreibt, statt alles erst am Ende zu schicken. Bei der Claude-API schaltest du das mit "stream": true ein; die Antwort kommt dann als Folge von Server-Sent Events (SSE). So siehst du die ersten Wörter schon nach kurzer Zeit.
Worauf sollte ich bei Streaming achten?
Die SDKs von Anthropic bringen eigene Streaming-Funktionen mit; für Antworten mit sehr großem max_tokens verlangt das SDK laut Anthropic Streaming, damit die HTTP-Verbindung nicht in einen Timeout läuft. Rechne damit, dass mitten im Stream ein Fehler-Event kommt, etwa overloaded_error bei hoher Auslastung, und dass neue Event-Typen dazukommen können, die dein Code ohne Absturz übergehen sollte.
Weiter geht's 🧭
Falls du noch nicht genug hast: Hier geht es inhaltlich direkt weiter.
Passt dazu 6
- GlossarWas ist Max Tokens? Einfach erklärt mit Beispiel
- GlossarWas ist Stop-Sequenz? Einfach erklärt mit Beispiel
- RechnerToken- & Textkosten-Rechner für Sprachmodelle
- KI-NewsOpenAI Decisions API: Business-Entscheidungen per API
- RatgeberOpen-Weight-Modelle 2026: Wann sich eigene KI lohnt
- RechnerKI-API-Kostenrechner: GPT, Claude & Gemini
Wer hierher verlinkt 9
Gut vernetzt: 9 Seiten zeigen auf diese hier. Die passendsten:
- GlossarWas ist Max Tokens? Einfach erklärt mit Beispiel
- GlossarWas ist Stop-Sequenz? Einfach erklärt mit Beispiel
- GlossarWas ist Echtzeit-Transkription? Einfach erklärt
- GlossarWas ist die Latenz? Einfach erklärt mit Beispiel
- GlossarWas ist Stoppgrund? Einfach erklärt mit Beispiel
- GlossarWas ist SDK? Einfach erklärt mit Beispiel
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool-Vorschlag oder einen Fehler gefunden?