KI-Glossar · KI-Begriff 208 von 218
Was ist Human-in-the-Loop?
Ein Mensch prüft und genehmigt bestimmte Schritte eines KI-Agenten, bevor sie ausgeführt werden. Im Agents SDK von OpenAI lässt sich ein Werkzeug als freigabepflichtig markieren: Der Lauf hält dann vor dem Aufruf an, du genehmigst oder lehnst ab, und derselbe Lauf geht vom gespeicherten Zustand aus weiter. OpenAI empfiehlt solche Freigaben vor Aktionen mit Folgen wie Stornierungen, Änderungen oder Shell-Befehlen.
Hans erklärt's mit Schrauberhänden 🔧
Wie das Vier-Augen-Prinzip im Büro: Bevor etwas Wichtiges rausgeht, zeichnet jemand ab.
Merksatz: Bei Human-in-the-Loop genehmigt ein Mensch heikle Schritte, bevor der Agent sie ausführt.
Beispiel aus der Praxis
Ein Agent soll eine Bestellung stornieren. Bevor das Werkzeug läuft, hält der Lauf an und zeigt dir die geplante Aktion. Erst nach deiner Freigabe wird storniert.
Darauf kommt es an
Lass Aktionen freigeben, die sich schwer rückgängig machen lassen, etwa Löschen, Bezahlen, Versenden oder Shell-Befehle. Reine Lesezugriffe brauchen meist keine Freigabe.
Weiter lernen: Passende Seite auf mentat.codes →
Verwandte Begriffe
- KI-AgentKI, die eine Aufgabe selbstständig in Schritte zerlegt, Werkzeuge nutzt und mehrere Schritte nacheinander abarbeitet.
- GuardrailsSchutzregeln und Filter rund um ein Modell, die unerwünschte oder gefährliche Ausgaben verhindern sollen.
- Excessive Agency (OWASP)Sicherheitsrisiko für Anwendungen mit Sprachmodellen aus den OWASP Top 10 für LLM-Anwendungen. OWASP beschreibt es als Schwachstelle, die schädliche Aktionen als Reaktion auf unerwartete, mehrdeutige oder manipulierte Modellausgaben ermöglicht. Als typische Ursachen nennt OWASP zu viel Funktionalität, zu viele Berechtigungen und zu viel Autonomie des Agenten. Auslöser können etwa Halluzinationen oder Prompt-Injection sein.
- Tool Use (Function Calling)Fähigkeit eines Modells, externe Werkzeuge aufzurufen, etwa eine Suche, einen Rechner oder eine Schnittstelle, und das Ergebnis weiterzuverwenden.
Kurz gefragt
Was ist Human-in-the-Loop?
Ein Mensch prüft und genehmigt bestimmte Schritte eines KI-Agenten, bevor sie ausgeführt werden. Im Agents SDK von OpenAI lässt sich ein Werkzeug als freigabepflichtig markieren: Der Lauf hält dann vor dem Aufruf an, du genehmigst oder lehnst ab, und derselbe Lauf geht vom gespeicherten Zustand aus weiter. OpenAI empfiehlt solche Freigaben vor Aktionen mit Folgen wie Stornierungen, Änderungen oder Shell-Befehlen.
Was ist ein Beispiel für Human-in-the-Loop?
Ein Agent soll eine Bestellung stornieren. Bevor das Werkzeug läuft, hält der Lauf an und zeigt dir die geplante Aktion. Erst nach deiner Freigabe wird storniert.
Worauf sollte ich bei Human-in-the-Loop achten?
Lass Aktionen freigeben, die sich schwer rückgängig machen lassen, etwa Löschen, Bezahlen, Versenden oder Shell-Befehle. Reine Lesezugriffe brauchen meist keine Freigabe.
Weiter geht's 🧭
Die nächste Abzweigung. Navi sagt: lohnt sich.
Passt dazu 6
- GlossarWas ist Computer Use? Einfach erklärt mit Beispiel
- GlossarWas ist eine Prompt-Injection? Einfach erklärt
- RatgeberPrompt Injection im Alltag: KI-Agenten schützen
- RubrikKI-Agenten: 89 Tools im Überblick
- RatgeberKI-Agenten für Selbstständige: was 2026 geht
- KI-NewsClaude Auto-Modus wird Standard: was sich ändert
Wer hierher verlinkt 4
Ein paar Freunde: 4 Seiten zeigen auf diese hier. Die passendsten:
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool-Vorschlag oder einen Fehler gefunden?