KI-Glossar · KI-Begriff 14 von 79
Was ist Top-p?
Weitere Einstellung für die Zufälligkeit (Nucleus Sampling): Das Modell wählt das nächste Token nur aus der kleinsten Gruppe der wahrscheinlichsten Tokens, deren Wahrscheinlichkeiten zusammen mindestens p erreichen.
Jean erklärt's mit Schrauberhänden 🔧
Vor jeder Bestellung wird die Speisekarte gekürzt: Nur die beliebtesten Gerichte bleiben drauf, bis sie zusammen mindestens den Anteil p aller Bestellungen ausmachen. Bei p = 0,9 fliegen die ganz exotischen Sachen raus, gewählt wird aus dem Rest. Im Unterschied zur Temperatur ändert sich nicht die Würze, sondern wie lang die Karte ist.
Merksatz: Top-p kürzt die Auswahl, bevor das Modell würfelt.
Beispiel aus der Praxis
Bei einem niedrigen Top-p wählt das Modell nur aus wenigen sehr wahrscheinlichen Wörtern, die Antworten werden einheitlicher.
Darauf kommt es an
Meist reicht es, nur Temperatur oder nur Top-p zu verändern, nicht beides gleichzeitig.
Verwandte Begriffe
- TemperaturEinstellung, die steuert, wie zufällig die Antworten sind. Niedrig: vorhersehbar und sachlich; hoch: kreativer und abwechslungsreicher.
- InferenzDas Ausführen eines trainierten Modells, also das Erzeugen einer Antwort. Kosten und Geschwindigkeit der Inferenz entscheiden über den Preis.
Kurz gefragt
Was ist Top-p?
Weitere Einstellung für die Zufälligkeit (Nucleus Sampling): Das Modell wählt das nächste Token nur aus der kleinsten Gruppe der wahrscheinlichsten Tokens, deren Wahrscheinlichkeiten zusammen mindestens p erreichen.
Was ist ein Beispiel für Top-p?
Bei einem niedrigen Top-p wählt das Modell nur aus wenigen sehr wahrscheinlichen Wörtern, die Antworten werden einheitlicher.
Worauf sollte ich bei Top-p achten?
Meist reicht es, nur Temperatur oder nur Top-p zu verändern, nicht beides gleichzeitig.
Weiter geht's 🧭
Falls du noch nicht genug hast: Hier geht es inhaltlich direkt weiter.
Passt dazu 4
Wer hierher verlinkt 3
Ein paar Freunde: 3 Seiten zeigen auf diese hier. Die passendsten:
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool eintragen lassen oder einen Fehler gefunden?