Was sind Parameter?

Beispiel aus der Praxis

Modellangaben wie „7B“ oder „70B“ bedeuten 7 bzw. 70 Milliarden Parameter.

Darauf kommt es an

Für lokale Modelle ist die Parameterzahl wichtig, weil sie bestimmt, wie viel Speicher die Grafikkarte braucht.

Verwandte Begriffe

• Large Language Model (LLM)Großes Sprachmodell, das auf riesigen Textmengen trainiert wurde und Text fortsetzt, zusammenfasst, übersetzt oder Fragen beantwortet. Beispiele: die Modelle hinter ChatGPT, Claude und Gemini.
• Open-Weight-ModellModell, dessen Gewichte veröffentlicht sind. Es lässt sich selbst betreiben, oft auch lokal ohne Cloud.
• InferenzDas Ausführen eines trainierten Modells, also das Erzeugen einer Antwort. Kosten und Geschwindigkeit der Inferenz entscheiden über den Preis.

Kurz gefragt