MENTAT.CODES AI Directories, Tools & Engineering

KI-Glossar · KI-Begriff 56 von 79

Was ist Alignment?

Ausrichtung eines KI-Modells an menschlichen Werten und Absichten, damit es hilfreich, ehrlich und sicher antwortet und Schaden vermeidet.

Jean erklärt's mit Schrauberhänden 🔧

Ein Hütehund soll seine Kraft und Schnelligkeit für dich einsetzen, die Schafe zusammenhalten und nicht hetzen. Stark sein reicht nicht, er muss auch wollen, was du willst. Der Unterschied: Bei KI weiß niemand ganz sicher, ob das Training auch in völlig neuen Situationen greift.

Merksatz: Stark sein reicht nicht, die KI soll auch wollen, was gut ist.

Beispiel aus der Praxis

Ein Modell lehnt die Anleitung für eine gefährliche Tat ab, hilft aber bei einer legitimen Sicherheitsfrage weiter.

Darauf kommt es an

Alignment ist nie perfekt. Eigene Regeln im System-Prompt und Guardrails ergänzen die Ausrichtung des Anbieters.

Verwandte Begriffe

  • GuardrailsSchutzregeln und Filter rund um ein Modell, die unerwünschte oder gefährliche Ausgaben verhindern sollen.
  • BiasVerzerrung in den Antworten eines Modells, die aus einseitigen Trainingsdaten oder Annahmen entsteht, etwa Klischees bei Berufen, Geschlechtern oder Herkunft.
  • JailbreakVersuch, die Sicherheitsregeln eines Modells mit geschickten Prompts zu umgehen.

Kurz gefragt

Was ist Alignment?

Ausrichtung eines KI-Modells an menschlichen Werten und Absichten, damit es hilfreich, ehrlich und sicher antwortet und Schaden vermeidet.

Was ist ein Beispiel für Alignment?

Ein Modell lehnt die Anleitung für eine gefährliche Tat ab, hilft aber bei einer legitimen Sicherheitsfrage weiter.

Worauf sollte ich bei Alignment achten?

Alignment ist nie perfekt. Eigene Regeln im System-Prompt und Guardrails ergänzen die Ausrichtung des Anbieters.

Weiter geht's 🧭

Thematisch verwandt, handverlesen von einem Skript mit gutem Geschmack.

Passt dazu 3
Wer hierher verlinkt 9

Gut vernetzt: 9 Seiten zeigen auf diese hier. Die passendsten:

Warum so kurz erklärt?

Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.

Heute bei mentat.codes

Gratis-Perle des Tages

Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale

Prompt des Tages

Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek

Tool des Tages

Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe

Hat dir die Seite geholfen?Bleibt nur in deinem Browser, wir zählen nichts.

Fragen, Tool eintragen lassen oder einen Fehler gefunden?