KI-Glossar · KI-Begriff 201 von 218
Was ist Overfitting?
Ein Modell passt sich so eng an seine Trainingsdaten an, dass es bei neuen Daten keine richtigen Vorhersagen mehr trifft. Laut Machine-Learning-Glossar von Google helfen Regularisierung und ein großer, vielfältiger Trainingsdatensatz gegen Overfitting.
Hans erklärt's mit Schrauberhänden 🔧
Wie jemand, der für eine Prüfung nur alte Klausuren auswendig lernt und bei neuen Fragen scheitert.
Merksatz: Bei Overfitting passt ein Modell zu eng zu seinen Trainingsdaten und liegt bei neuen Daten daneben.
Beispiel aus der Praxis
Ein Modell wird mit 200 Support-Antworten nachtrainiert und gibt danach fast wörtlich diese Antworten wieder, auch wenn die neue Frage etwas ganz anderes meint.
Darauf kommt es an
Halte beim Fine-Tuning einen Teil deiner Beispiele zurück und teste das Modell damit. Wird es auf den Trainingsdaten besser, auf den zurückgehaltenen aber schlechter, ist das ein Warnsignal.
Verwandte Begriffe
- Fine-TuningNachtrainieren eines fertigen Modells mit eigenen Beispielen, damit es eine Aufgabe oder einen Stil besonders gut beherrscht.
- TrainingsdatenDie Texte, Bilder oder anderen Daten, aus denen ein Modell gelernt hat.
- Benchmark-KontaminationÜberschneidung zwischen den Trainingsdaten eines Modells und den Testdaten eines Benchmarks. Hat ein Modell die Testaufgaben schon beim Training gesehen, wirkt sein Ergebnis besser, als es bei neuen Aufgaben wäre. Das US-Institut NIST empfiehlt in seinem Profil für generative KI (NIST AI 600-1), die Annahmen und Grenzen von Benchmarks zu dokumentieren, einschließlich einer tatsächlichen oder möglichen Vermischung von Trainings- und Testdaten.
Kurz gefragt
Was ist Overfitting?
Ein Modell passt sich so eng an seine Trainingsdaten an, dass es bei neuen Daten keine richtigen Vorhersagen mehr trifft. Laut Machine-Learning-Glossar von Google helfen Regularisierung und ein großer, vielfältiger Trainingsdatensatz gegen Overfitting.
Was ist ein Beispiel für Overfitting?
Ein Modell wird mit 200 Support-Antworten nachtrainiert und gibt danach fast wörtlich diese Antworten wieder, auch wenn die neue Frage etwas ganz anderes meint.
Worauf sollte ich bei Overfitting achten?
Halte beim Fine-Tuning einen Teil deiner Beispiele zurück und teste das Modell damit. Wird es auf den Trainingsdaten besser, auf den zurückgehaltenen aber schlechter, ist das ein Warnsignal.
Weiter geht's 🧭
Diese Seiten hat mein Algorithmus aus Kaffee und Textvergleich für dich rausgesucht.
Passt dazu 3
Wer hierher verlinkt 7
Gut vernetzt: 7 Seiten zeigen auf diese hier. Die passendsten:
- GlossarWas ist Benchmark-Kontamination? Einfach erklärt
- GlossarWas ist Checkpoint? Einfach erklärt mit Beispiel
- GlossarWas ist Fine-Tuning? Einfach erklärt
- GlossarWas ist LLM-as-a-Judge? Einfach erklärt mit Beispiel
- GlossarWas sind Trainingsdaten? Einfach erklärt mit Beispiel
- GlossarWas ist Synthetische Daten? Einfach erklärt mit Beispiel
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool-Vorschlag oder einen Fehler gefunden?