KI-Glossar · KI-Begriff 55 von 79
Was ist der Bias?
Verzerrung in den Antworten eines Modells, die aus einseitigen Trainingsdaten oder Annahmen entsteht, etwa Klischees bei Berufen, Geschlechtern oder Herkunft.
Jean erklärt's mit Schrauberhänden 🔧
Eine Küchenwaage, die ab Werk ein paar Gramm schief misst, liefert Ergebnisse, die präzise wirken, aber immer in dieselbe Richtung verschoben sind. Bei der KI kommt die Schieflage aus den Trainingsdaten: Was dort oft zusammen vorkommt, hält das Modell für normal. Anders als bei der Waage lässt sich das nicht mit einer Schraube auf null stellen.
Merksatz: Was in den Daten schief liegt, kommt in den Antworten schief raus.
Beispiel aus der Praxis
Ein Bildgenerator zeigt bei „Chef eines Unternehmens“ fast immer Männer mittleren Alters.
Darauf kommt es an
Beschreibe gewünschte Vielfalt ausdrücklich und prüfe Ergebnisse kritisch, besonders bei Texten über Menschen und bei Entscheidungen.
Verwandte Begriffe
- TrainingsdatenDie Texte, Bilder oder anderen Daten, aus denen ein Modell gelernt hat.
- AlignmentAusrichtung eines KI-Modells an menschlichen Werten und Absichten, damit es hilfreich, ehrlich und sicher antwortet und Schaden vermeidet.
Kurz gefragt
Was ist der Bias?
Verzerrung in den Antworten eines Modells, die aus einseitigen Trainingsdaten oder Annahmen entsteht, etwa Klischees bei Berufen, Geschlechtern oder Herkunft.
Was ist ein Beispiel für Bias?
Ein Bildgenerator zeigt bei „Chef eines Unternehmens“ fast immer Männer mittleren Alters.
Worauf sollte ich bei Bias achten?
Beschreibe gewünschte Vielfalt ausdrücklich und prüfe Ergebnisse kritisch, besonders bei Texten über Menschen und bei Entscheidungen.
Weiter geht's 🧭
Diese Seiten hat mein Algorithmus aus Kaffee und Textvergleich für dich rausgesucht.
Passt dazu 3
Wer hierher verlinkt 4
Ein paar Freunde: 4 Seiten zeigen auf diese hier. Die passendsten:
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool eintragen lassen oder einen Fehler gefunden?