KI-Glossar · KI-Begriff 196 von 218
Was ist Instruction Tuning?
Nachtrainieren eines vortrainierten Sprachmodells auf vielen Aufgaben, die jeweils als Anweisung in natürlicher Sprache formuliert sind. Das Google-Paper „Finetuned Language Models Are Zero-Shot Learners“ (Wei u. a., arXiv:2109.01652) hat den Begriff geprägt: Das so trainierte Modell FLAN löste Aufgabenarten, die es im Training nicht gesehen hatte, ohne Beispiel deutlich besser als das unveränderte Ausgangsmodell.
Hans erklärt's mit Schrauberhänden 🔧
Wie ein Praktikum mit vielen kleinen Arbeitsaufträgen: Wer genug verschiedene Aufträge erledigt hat, versteht auch einen neuen Auftrag schneller.
Merksatz: Instruction Tuning ist Nachtrainieren auf vielen Aufgaben, die als Anweisung formuliert sind.
Beispiel aus der Praxis
Ein vortrainiertes Modell sieht im Training viele Aufgaben wie „Übersetze diesen Satz ins Englische“ oder „Fasse den Text in einem Satz zusammen“. Danach folgt es auch neuen Anweisungen besser, die so nicht im Training vorkamen.
Darauf kommt es an
Für den Alltag nimmst du die Chat- oder Instruct-Fassung eines offenen Modells, nicht die reine Basisfassung. Die Bezeichnung steht meist im Modellnamen oder in der Model Card.
Verwandte Begriffe
- Fine-TuningNachtrainieren eines fertigen Modells mit eigenen Beispielen, damit es eine Aufgabe oder einen Stil besonders gut beherrscht.
- Zero-ShotDie KI löst eine Aufgabe ohne Beispiel, nur anhand der Beschreibung.
- RLHF (Reinforcement Learning from Human Feedback)Trainingsverfahren, mit dem ein Sprachmodell an menschliche Vorlieben angepasst wird. Im Paper „Training language models to follow instructions with human feedback“ (Ouyang u. a., arXiv:2203.02155) beschreibt OpenAI den Ablauf: Erst wird das Modell mit von Menschen geschriebenen Beispielantworten nachtrainiert, dann bringen Menschen mehrere Modellausgaben in eine Rangfolge, und mit diesen Rangfolgen wird das Modell per bestärkendem Lernen weiter trainiert. So entstanden die InstructGPT-Modelle.
- Model CardSteckbrief eines KI-Modells, in dem Anbieter Zweck, Fähigkeiten, Grenzen, Trainingsdaten und bekannte Risiken beschreiben.
Kurz gefragt
Was ist Instruction Tuning?
Nachtrainieren eines vortrainierten Sprachmodells auf vielen Aufgaben, die jeweils als Anweisung in natürlicher Sprache formuliert sind. Das Google-Paper „Finetuned Language Models Are Zero-Shot Learners“ (Wei u. a., arXiv:2109.01652) hat den Begriff geprägt: Das so trainierte Modell FLAN löste Aufgabenarten, die es im Training nicht gesehen hatte, ohne Beispiel deutlich besser als das unveränderte Ausgangsmodell.
Was ist ein Beispiel für Instruction Tuning?
Ein vortrainiertes Modell sieht im Training viele Aufgaben wie „Übersetze diesen Satz ins Englische“ oder „Fasse den Text in einem Satz zusammen“. Danach folgt es auch neuen Anweisungen besser, die so nicht im Training vorkamen.
Worauf sollte ich bei Instruction Tuning achten?
Für den Alltag nimmst du die Chat- oder Instruct-Fassung eines offenen Modells, nicht die reine Basisfassung. Die Bezeichnung steht meist im Modellnamen oder in der Model Card.
Weiter geht's 🧭
Falls du noch nicht genug hast: Hier geht es inhaltlich direkt weiter.
Passt dazu 5
Wer hierher verlinkt 5
Gut vernetzt: 5 Seiten zeigen auf diese hier. Die passendsten:
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool-Vorschlag oder einen Fehler gefunden?