KI-Glossar · KI-Begriff 117 von 218

Was ist das Streaming?

Übertragung einer KI-Antwort in Stücken, während das Modell noch schreibt, statt alles erst am Ende zu schicken. Bei der Claude-API schaltest du das mit "stream": true ein; die Antwort kommt dann als Folge von Server-Sent Events (SSE). So siehst du die ersten Wörter schon nach kurzer Zeit.

Hans erklärt's mit Schrauberhänden 🔧

Streaming ist der Kollege, der dir die Teile einzeln über die Werkbank reicht, sobald sie fertig sind, statt dich warten zu lassen, bis die ganze Kiste gepackt ist.

Merksatz: Die Antwort dauert gleich lang, fühlt sich aber schneller an.

Beispiel aus der Praxis

Deine App fragt die Claude-API nach einer langen Zusammenfassung. Ohne Streaming starrt der Nutzer auf einen Ladekreis. Mit "stream": true erscheint der Text Wort für Wort, und der Nutzer liest schon mit.

Darauf kommt es an

Die SDKs von Anthropic bringen eigene Streaming-Funktionen mit; für Antworten mit sehr großem max_tokens verlangt das SDK laut Anthropic Streaming, damit die HTTP-Verbindung nicht in einen Timeout läuft. Rechne damit, dass mitten im Stream ein Fehler-Event kommt, etwa overloaded_error bei hoher Auslastung, und dass neue Event-Typen dazukommen können, die dein Code ohne Absturz übergehen sollte.

Verwandte Begriffe

Kurz gefragt

Was ist das Streaming?

Übertragung einer KI-Antwort in Stücken, während das Modell noch schreibt, statt alles erst am Ende zu schicken. Bei der Claude-API schaltest du das mit "stream": true ein; die Antwort kommt dann als Folge von Server-Sent Events (SSE). So siehst du die ersten Wörter schon nach kurzer Zeit.

Worauf sollte ich bei Streaming achten?

Die SDKs von Anthropic bringen eigene Streaming-Funktionen mit; für Antworten mit sehr großem max_tokens verlangt das SDK laut Anthropic Streaming, damit die HTTP-Verbindung nicht in einen Timeout läuft. Rechne damit, dass mitten im Stream ein Fehler-Event kommt, etwa overloaded_error bei hoher Auslastung, und dass neue Event-Typen dazukommen können, die dein Code ohne Absturz übergehen sollte.

Weiter geht's 🧭

Falls du noch nicht genug hast: Hier geht es inhaltlich direkt weiter.

Warum so kurz erklärt?

Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.

Heute bei mentat.codes

Gratis-Perle des Tages

Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale

Prompt des Tages

Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek

Tool des Tages

Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe

Hat dir die Seite geholfen?Bleibt nur in deinem Browser, wir zählen nichts.

Fragen, Tool-Vorschlag oder einen Fehler gefunden?