KI-Glossar · KI-Begriff 68 von 79

Was ist Destillation?

Trainingsverfahren, bei dem ein kleineres Schülermodell lernt, die Ausgaben eines größeren Lehrermodells nachzuahmen. So entstehen schnellere und günstigere Modelle, die einen Großteil der Fähigkeiten behalten.

Jean erklärt's mit Schrauberhänden 🔧

Der Altmeister bringt dem Gesellen nicht seine ganze Lebenserfahrung bei, sondern zeigt ihm bei tausend Aufträgen, wie das fertige Ergebnis aussehen soll. Der Geselle lernt, diese Lösungen nachzumachen, und arbeitet schneller und billiger. Bei ganz exotischen Fällen kommt er aber nicht an den Altmeister heran.

Merksatz: Der Schüler kopiert die Antworten des Lehrers und wird dabei schlanker.

Beispiel aus der Praxis

DeepSeek hat kleinere R1-Varianten veröffentlicht, die mit Ausgaben des großen R1-Modells trainiert wurden. Auf diesem Weg entstehen viele schnelle, günstige Modellversionen.

Kurz gefragt

Was ist Destillation?

Trainingsverfahren, bei dem ein kleineres Schülermodell lernt, die Ausgaben eines größeren Lehrermodells nachzuahmen. So entstehen schnellere und günstigere Modelle, die einen Großteil der Fähigkeiten behalten.

Weiter geht's 🧭

Thematisch am nächsten dran, ausgewählt per Textvergleich.

Warum so kurz erklärt?

Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.

Heute bei mentat.codes

Gratis-Perle des Tages

Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale

Prompt des Tages

Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek

Tool des Tages

Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe

Hat dir die Seite geholfen?Bleibt nur in deinem Browser, wir zählen nichts.

Fragen, Tool eintragen lassen oder einen Fehler gefunden?