KI-Glossar · KI-Begriff 52 von 79
Was ist VRAM?
Der Grafikspeicher einer GPU. Er bestimmt, wie große KI-Modelle lokal laufen können, weil die Modellgewichte während der Nutzung dort liegen.
Jean erklärt's mit Schrauberhänden 🔧
Am Lackierstand kannst du nur das sofort bearbeiten, was direkt auf dem Arbeitstisch daneben liegt. Passt das Modell nicht in den VRAM, muss ständig aus dem langsamen Lager nachgeholt werden, und alles kriecht. Darum zählt beim lokalen KI-Rechner oft mehr der Grafikspeicher als die reine Rechenleistung.
Merksatz: Was nicht in den Grafikspeicher passt, läuft lokal zäh oder gar nicht.
Beispiel aus der Praxis
Eine Grafikkarte mit 8 GB VRAM schafft kleinere, quantisierte Modelle, für große Modelle braucht es deutlich mehr Speicher.
Darauf kommt es an
Vor dem Kauf von Hardware prüfen, welche Modelle du nutzen willst. Seiten in der Datenbank zeigen, was auf welche Hardware passt.
Weiter lernen: Passende Seite auf mentat.codes →
Verwandte Begriffe
- QuantisierungVerkleinern eines Modells, indem seine Zahlenwerte mit weniger Genauigkeit gespeichert werden. Das spart Speicher und macht lokale Nutzung möglich, kostet aber etwas Qualität.
- ParameterDie gelernten Zahlenwerte eines Modells. Mehr Parameter bedeuten nicht automatisch bessere Antworten, aber meist mehr Rechenaufwand.
- InferenzDas Ausführen eines trainierten Modells, also das Erzeugen einer Antwort. Kosten und Geschwindigkeit der Inferenz entscheiden über den Preis.
Kurz gefragt
Was ist VRAM?
Der Grafikspeicher einer GPU. Er bestimmt, wie große KI-Modelle lokal laufen können, weil die Modellgewichte während der Nutzung dort liegen.
Was ist ein Beispiel für VRAM?
Eine Grafikkarte mit 8 GB VRAM schafft kleinere, quantisierte Modelle, für große Modelle braucht es deutlich mehr Speicher.
Worauf sollte ich bei VRAM achten?
Vor dem Kauf von Hardware prüfen, welche Modelle du nutzen willst. Seiten in der Datenbank zeigen, was auf welche Hardware passt.
Weiter geht's 🧭
Die nächste Abzweigung. Navi sagt: lohnt sich.
Passt dazu 6
- GlossarWas ist ein Open-Weight-Modell? Einfach erklärt
- RatgeberLokale KI 2026: KI auf Laptop und im Browser nutzen
- RatgeberOpen-Weight-Modelle 2026: Wann sich eigene KI lohnt
- GlossarWas ist ein Large Language Model? Einfach erklärt
- KI-NewsOpera WebAI: lokale KI im Browser erklärt
- KI-NewsMuse Spark Open: Metas offenes Modell erklärt
Wer hierher verlinkt 8
Gut vernetzt: 8 Seiten zeigen auf diese hier. Die passendsten:
- GlossarWas ist die Quantisierung? Einfach erklärt mit Beispiel
- GlossarWas sind Parameter? Einfach erklärt mit Beispiel
- GlossarWas ist ein Open-Weight-Modell? Einfach erklärt
- GlossarWas ist die Latenz? Einfach erklärt mit Beispiel
- RatgeberLokale KI 2026: KI auf Laptop und im Browser nutzen
- GlossarKI-Glossar: KI- und SEO-Begriffe einfach erklärt
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool eintragen lassen oder einen Fehler gefunden?