KI-Glossar · KI-Begriff 208 von 218

Was ist Human-in-the-Loop?

Ein Mensch prüft und genehmigt bestimmte Schritte eines KI-Agenten, bevor sie ausgeführt werden. Im Agents SDK von OpenAI lässt sich ein Werkzeug als freigabepflichtig markieren: Der Lauf hält dann vor dem Aufruf an, du genehmigst oder lehnst ab, und derselbe Lauf geht vom gespeicherten Zustand aus weiter. OpenAI empfiehlt solche Freigaben vor Aktionen mit Folgen wie Stornierungen, Änderungen oder Shell-Befehlen.

Hans erklärt's mit Schrauberhänden 🔧

Wie das Vier-Augen-Prinzip im Büro: Bevor etwas Wichtiges rausgeht, zeichnet jemand ab.

Merksatz: Bei Human-in-the-Loop genehmigt ein Mensch heikle Schritte, bevor der Agent sie ausführt.

Beispiel aus der Praxis

Ein Agent soll eine Bestellung stornieren. Bevor das Werkzeug läuft, hält der Lauf an und zeigt dir die geplante Aktion. Erst nach deiner Freigabe wird storniert.

Darauf kommt es an

Lass Aktionen freigeben, die sich schwer rückgängig machen lassen, etwa Löschen, Bezahlen, Versenden oder Shell-Befehle. Reine Lesezugriffe brauchen meist keine Freigabe.

Weiter lernen: Passende Seite auf mentat.codes →

Verwandte Begriffe

Kurz gefragt

Was ist Human-in-the-Loop?

Ein Mensch prüft und genehmigt bestimmte Schritte eines KI-Agenten, bevor sie ausgeführt werden. Im Agents SDK von OpenAI lässt sich ein Werkzeug als freigabepflichtig markieren: Der Lauf hält dann vor dem Aufruf an, du genehmigst oder lehnst ab, und derselbe Lauf geht vom gespeicherten Zustand aus weiter. OpenAI empfiehlt solche Freigaben vor Aktionen mit Folgen wie Stornierungen, Änderungen oder Shell-Befehlen.

Was ist ein Beispiel für Human-in-the-Loop?

Ein Agent soll eine Bestellung stornieren. Bevor das Werkzeug läuft, hält der Lauf an und zeigt dir die geplante Aktion. Erst nach deiner Freigabe wird storniert.

Worauf sollte ich bei Human-in-the-Loop achten?

Lass Aktionen freigeben, die sich schwer rückgängig machen lassen, etwa Löschen, Bezahlen, Versenden oder Shell-Befehle. Reine Lesezugriffe brauchen meist keine Freigabe.

Weiter geht's 🧭

Die nächste Abzweigung. Navi sagt: lohnt sich.

Warum so kurz erklärt?

Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.

Heute bei mentat.codes

Gratis-Perle des Tages

Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale

Prompt des Tages

Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek

Tool des Tages

Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe

Hat dir die Seite geholfen?Bleibt nur in deinem Browser, wir zählen nichts.

Fragen, Tool-Vorschlag oder einen Fehler gefunden?