KI-Glossar · KI-Begriff 31 von 79
Was ist ein Jailbreak?
Versuch, die Sicherheitsregeln eines Modells mit geschickten Prompts zu umgehen.
Jean erklärt's mit Schrauberhänden 🔧
Am Türsteher vorbei kommt mancher mit einer Geschichte: „Ich bin der Bruder vom DJ, ich bring nur schnell das Kabel.“ Der Türsteher hat klare Regeln, aber mit genug Kreativität findet sich manchmal eine Lücke. Anders als bei der Prompt-Injection kommt der Trick hier direkt vom Nutzer, nicht aus versteckten Texten.
Merksatz: Ein Jailbreak redet die KI um ihre eigenen Regeln herum.
Beispiel aus der Praxis
Nutzer verpacken verbotene Anfragen in Rollenspiele oder Geschichten, damit das Modell die Regeln vergisst.
Darauf kommt es an
Wer selbst einen KI-Bot betreibt, sollte ihn gezielt mit solchen Versuchen testen, bevor er öffentlich geht.
Verwandte Begriffe
- Prompt-InjectionAngriff, bei dem versteckte Anweisungen in Texten, Webseiten oder Dateien eine KI dazu bringen sollen, ihre eigentlichen Regeln zu ignorieren.
- GuardrailsSchutzregeln und Filter rund um ein Modell, die unerwünschte oder gefährliche Ausgaben verhindern sollen.
Kurz gefragt
Was ist ein Jailbreak?
Versuch, die Sicherheitsregeln eines Modells mit geschickten Prompts zu umgehen.
Was ist ein Beispiel für Jailbreak?
Nutzer verpacken verbotene Anfragen in Rollenspiele oder Geschichten, damit das Modell die Regeln vergisst.
Worauf sollte ich bei Jailbreak achten?
Wer selbst einen KI-Bot betreibt, sollte ihn gezielt mit solchen Versuchen testen, bevor er öffentlich geht.
Weiter geht's 🧭
Diese Seiten hat mein Algorithmus aus Kaffee und Textvergleich für dich rausgesucht.
Passt dazu 4
Wer hierher verlinkt 5
Gut vernetzt: 5 Seiten zeigen auf diese hier. Die passendsten:
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool eintragen lassen oder einen Fehler gefunden?