KI-Glossar · KI-Begriff 21 von 79
Was ist Inferenz?
Das Ausführen eines trainierten Modells, also das Erzeugen einer Antwort. Kosten und Geschwindigkeit der Inferenz entscheiden über den Preis.
Jean erklärt's mit Schrauberhänden 🔧
Die Ausbildung zum Kfz-Elektriker ist das Training, Inferenz ist jeder einzelne Kundenauftrag danach. Gelernt wird einmal, aber jede Fehlersuche kostet wieder Arbeitszeit und Strom an der Hebebühne. Darum zahlst du bei KI nicht fürs Gelernte, sondern für jeden einzelnen Handgriff.
Merksatz: Gelernt wird einmal, gerechnet wird bei jeder einzelnen Antwort.
Beispiel aus der Praxis
Jedes Mal, wenn du ChatGPT eine Frage stellst, läuft eine Inferenz: Das fertige Modell berechnet die Antwort.
Darauf kommt es an
Größere Modelle liefern oft bessere Antworten, sind aber langsamer und teurer pro Anfrage. Für einfache Aufgaben reicht häufig ein kleines Modell.
Verwandte Begriffe
- APIProgrammierschnittstelle. Über die API eines Anbieters nutzen Apps ein KI-Modell direkt und zahlen pro Token.
- ParameterDie gelernten Zahlenwerte eines Modells. Mehr Parameter bedeuten nicht automatisch bessere Antworten, aber meist mehr Rechenaufwand.
- Batch-VerarbeitungViele Anfragen gesammelt und zeitversetzt verarbeiten. Bei mehreren Anbietern deutlich günstiger als Einzelanfragen.
Kurz gefragt
Was ist Inferenz?
Das Ausführen eines trainierten Modells, also das Erzeugen einer Antwort. Kosten und Geschwindigkeit der Inferenz entscheiden über den Preis.
Was ist ein Beispiel für Inferenz?
Jedes Mal, wenn du ChatGPT eine Frage stellst, läuft eine Inferenz: Das fertige Modell berechnet die Antwort.
Worauf sollte ich bei Inferenz achten?
Größere Modelle liefern oft bessere Antworten, sind aber langsamer und teurer pro Anfrage. Für einfache Aufgaben reicht häufig ein kleines Modell.
Weiter geht's 🧭
Nachbarseiten mit dem meisten gemeinsamen Thema. Kein Zufall, reine Statistik.
Gerade in den KI-News:
Passt dazu 6
- GlossarWas ist die Latenz? Einfach erklärt mit Beispiel
- GlossarWas ist ein Open-Weight-Modell? Einfach erklärt
- RatgeberLokale KI 2026: KI auf Laptop und im Browser nutzen
- RatgeberOpen-Weight-Modelle 2026: Wann sich eigene KI lohnt
- RechnerKI-API-Kostenrechner: GPT, Claude & Gemini
- RubrikKI-Modelle & Plattformen: 67 Tools im Überblick
Wer hierher verlinkt 14
Beliebt im Viertel: 14 Seiten zeigen auf diese hier. Die passendsten:
- GlossarWas ist Batch-Verarbeitung? Einfach erklärt mit Beispiel
- GlossarWas sind Parameter? Einfach erklärt mit Beispiel
- GlossarWas ist die Latenz? Einfach erklärt mit Beispiel
- GlossarWas ist ein Open-Weight-Modell? Einfach erklärt
- GlossarWas ist VRAM? Einfach erklärt mit Beispiel
- GlossarWas ist Prompt Caching? Einfach erklärt mit Beispiel
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool eintragen lassen oder einen Fehler gefunden?