MENTAT.CODES AI Directories, Tools & Engineering

KI-Glossar · KI-Begriff 32 von 79

Was sind Guardrails?

Schutzregeln und Filter rund um ein Modell, die unerwünschte oder gefährliche Ausgaben verhindern sollen.

Jean erklärt's mit Schrauberhänden 🔧

Leitplanken auf der Landstraße lenken nicht und geben kein Gas, sie verhindern nur, dass du im Graben landest. Manche Guardrails sitzen am Eingang und prüfen deine Frage, andere am Ausgang und prüfen die Antwort. Wie echte Leitplanken halten sie nicht alles auf, und manchmal stehen sie auch dort, wo gar keine Kurve kommt.

Merksatz: Leitplanken verhindern den Abflug, lenken musst du trotzdem selbst.

Beispiel aus der Praxis

Ein Bot für eine Bank lehnt Anlagetipps ab und verweist an die Beratung.

Darauf kommt es an

Guardrails gehören in System-Prompt und Technik: klare Regeln im Prompt plus Filter für Eingaben und Ausgaben.

Verwandte Begriffe

  • System-PromptFeste Anweisungen, die vor jedem Gespräch gelten, etwa Rolle, Ton und Regeln eines Assistenten. Nutzer sehen sie meist nicht.
  • JailbreakVersuch, die Sicherheitsregeln eines Modells mit geschickten Prompts zu umgehen.
  • Prompt-InjectionAngriff, bei dem versteckte Anweisungen in Texten, Webseiten oder Dateien eine KI dazu bringen sollen, ihre eigentlichen Regeln zu ignorieren.

Kurz gefragt

Was sind Guardrails?

Schutzregeln und Filter rund um ein Modell, die unerwünschte oder gefährliche Ausgaben verhindern sollen.

Was ist ein Beispiel für Guardrails?

Ein Bot für eine Bank lehnt Anlagetipps ab und verweist an die Beratung.

Worauf sollte ich bei Guardrails achten?

Guardrails gehören in System-Prompt und Technik: klare Regeln im Prompt plus Filter für Eingaben und Ausgaben.

Weiter geht's 🧭

Falls du noch nicht genug hast: Hier geht es inhaltlich direkt weiter.

Gerade in den KI-News:

Passt dazu 5
Wer hierher verlinkt 9

Gut vernetzt: 9 Seiten zeigen auf diese hier. Die passendsten:

Warum so kurz erklärt?

Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.

Heute bei mentat.codes

Gratis-Perle des Tages

Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale

Prompt des Tages

Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek

Tool des Tages

Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe

Hat dir die Seite geholfen?Bleibt nur in deinem Browser, wir zählen nichts.

Fragen, Tool eintragen lassen oder einen Fehler gefunden?