8 Minuten Lesezeit · geprüft am 17.11.2026

Prompt Injection im Alltag: Wenn KI-Agenten fremde Inhalte lesen

KI-Browser, Mail-Assistenten und Automationen lesen Webseiten, E-Mails, PDFs und Formulare, die du nicht geschrieben hast. Was Prompt Injection ist, wo sie hereinkommt, woran du sie erkennst und mit welchen vier Regeln du dich schützt, nach OWASP, BSI, Anthropic und OpenAI.

Hans sagt: Ein Agent unterscheidet nicht zuverlässig zwischen deinem Auftrag und dem Text, den er gerade liest. Deshalb hilft kein schlauer Prompt, sondern nur ein kleiner Werkzeugkasten: wenig Rechte, deine Freigabe, keine Geheimnisse im Kontext.

Worum es hier geht und worum nicht

Dieser Ratgeber ist für alle, die KI-Werkzeuge mit fremden Inhalten arbeiten lassen: einen KI-Browser, der Seiten liest und klickt, einen Mail-Assistenten, der dein Postfach zusammenfasst, oder eine Automation, die Formulare und Anhänge an ein Sprachmodell gibt. Er erklärt das Risiko einmal quer über alle drei Fälle und gibt dir eine Prüfliste.

Abgrenzung: Die Kurzdefinition steht im Glossar unter Prompt-Injection. Welche KI-Browser es gibt und welche Bremsen sie einbauen, vergleicht der Ratgeber zum KI-Browser-Vergleich. Den Agentenmodus von ChatGPT mit seinen Einstellungen erklärt ein eigener Ratgeber, und wie du eine Automation Schritt für Schritt baust, zeigt der Ratgeber zum ersten KI-Workflow. Hier geht es um das gemeinsame Muster dahinter. Anleitungen für Angriffe gibt es hier bewusst nicht, nur Merkmale, an denen du sie erkennst.

Was Prompt Injection ist

OWASP führt Prompt Injection in den Top 10 für LLM-Anwendungen 2025 als Risiko LLM01. Gemeint ist eine Eingabe, die das Verhalten oder die Ausgabe eines Sprachmodells auf unbeabsichtigte Weise verändert. OWASP unterscheidet zwei Arten: Bei der direkten Prompt Injection kommt die Eingabe vom Nutzer selbst. Bei der indirekten Prompt Injection nimmt das Modell Inhalte aus externen Quellen auf, etwa Webseiten oder Dateien, und diese Inhalte ändern sein Verhalten.

Für den Alltag ist die indirekte Variante die wichtige. Du gibst dem Agenten einen harmlosen Auftrag, und unterwegs liest er Text, den jemand anderes geschrieben hat. Das BSI beschreibt das Problem so: Angreifende können die Daten in solchen Quellen manipulieren und dort unerwünschte Anweisungen für Sprachmodelle platzieren. Das Modell folgt dann den Anweisungen aus Drittinhalten statt denen von Nutzenden oder Betreiber.

Wichtig: Laut OWASP muss eine solche Anweisung für Menschen weder sichtbar noch lesbar sein, solange das Modell den Inhalt verarbeitet. Die Folgen hängen davon ab, was das Modell darf. OWASP nennt unter anderem die Preisgabe sensibler Informationen, manipulierte Ausgaben und unbefugten Zugriff auf Funktionen, die dem Modell zur Verfügung stehen.

Die typischen Einfallstore

Webseiten: Ein KI-Browser oder ein Agent mit Websuche liest Seiten, die er nicht kennt. OWASP beschreibt als Beispiel eine Webseite mit versteckten Anweisungen, die ein Modell beim Zusammenfassen dazu bringen, einen Link einzubauen, über den das private Gespräch abfließt. Anthropic warnt in der Doku zu Computer Use, dass Anweisungen auf Webseiten oder in Bildern die Vorgaben des Nutzers überschreiben oder zu Fehlern führen können.

E-Mails: Ein Mail-Assistent liest jede eingehende Nachricht, also auch die von Fremden. Das BSI nennt schon 2023 Chatbots mit Zugriff auf E-Mail-Postfächer als Fall, in dem ungeprüfte Daten aus unsicheren Quellen verarbeitet werden. OpenAI schildert in seiner Hilfe ein Beispiel, bei dem ein Agent beim Recherchieren auf einen schädlichen Kommentar stößt, der ihn dazu bringen soll, einen Code zum Zurücksetzen des Passworts aus dem Postfach zu holen und an eine fremde Website zu schicken.

PDFs, Dokumente und Bilder: Anhänge, Lebensläufe oder geteilte Dateien sind ebenfalls fremde Inhalte. OWASP nennt einen Lebenslauf mit aufgeteilten Anweisungen, der die Bewertung eines Bewerbers verfälscht, und Bilder, in denen Anweisungen neben harmlosem Text stecken. Auch Dokumente in einer Wissensdatenbank, aus der eine KI Antworten zieht, können laut OWASP manipuliert sein.

Formulare und Automationen: Wenn ein Workflow Kontaktformulare, Kommentare oder Support-Anfragen an ein Sprachmodell gibt, schreibt der Absender einen Teil deines Prompts mit. Das gilt besonders, wenn der Workflow danach selbst etwas tut, zum Beispiel antwortet, Daten anlegt oder Mails verschickt.

Muster, an denen du einen Versuch erkennst

Du musst den versteckten Text nicht finden, es reicht, das Verhalten des Agenten zu beobachten. Verdächtig ist, wenn er etwas vorschlägt, das mit deinem Auftrag nichts zu tun hat, wenn er nach Passwörtern, Einmalcodes oder Zahlungsdaten fragt, wenn er Daten an eine Adresse oder Website schicken will, die du nicht genannt hast, oder wenn eine Zusammenfassung plötzlich Links, Bilder oder Handlungsaufforderungen enthält, die nicht in die Quelle passen.

Auch der Inhalt selbst kann auffallen: Text, der sich an „die KI“ oder „den Assistenten“ wendet, Aufforderungen, frühere Anweisungen zu ignorieren, oder Abschnitte, die auf der Seite unsichtbar sind und erst in der Zusammenfassung auftauchen. OpenAI empfiehlt, eine Aufgabe sofort zu stoppen, wenn etwas verdächtig wirkt. Das ist die einfachste Regel von allen.

Regel 1: geringe Rechte

OWASP empfiehlt, die Zugriffsrechte des Modells auf das Minimum zu beschränken, das es für seine Aufgabe braucht. Zu viele Funktionen, Rechte und Autonomie fasst OWASP als eigenes Risiko unter Excessive Agency zusammen. Für dich heißt das: Verbinde nur die Apps und Konten, die die aktuelle Aufgabe braucht. OpenAI rät in seiner Hilfe genau dazu und außerdem, App-Berechtigungen regelmäßig zu prüfen.

Im Browser hilft ein eigenes Profil für Agenten-Aufgaben ohne gespeicherte Passwörter. Anthropic nennt für Computer Use als Vorsichtsmaßnahmen eine eigene virtuelle Maschine oder einen Container mit minimalen Rechten und eine Freigabeliste erlaubter Domains, um den Kontakt mit schädlichen Inhalten zu verringern. Laut Anthropic erhöht der Einsatz in Anwendungen mit Login das Risiko durch Prompt Injection.

Regel 2: Freigaben vor folgenreichen Aktionen

OWASP empfiehlt, für riskante Aktionen eine menschliche Freigabe einzubauen. Anthropic nennt als Beispiele Entscheidungen mit spürbaren Folgen in der realen Welt und alles, was eine ausdrückliche Zustimmung braucht, etwa Cookies akzeptieren, Zahlungen abschließen oder Nutzungsbedingungen zustimmen. OpenAI beschreibt für seinen Agentenmodus Bestätigungen vor folgenreichen Aktionen und einen Modus, in dem du auf bestimmten Seiten zusehen musst.

Praktisch: Alles, was Geld kostet, an Fremde geht oder sich nicht rückgängig machen lässt, bestätigst du selbst. In einer Automation heißt das, dass die KI einen Entwurf schreibt und ein Mensch ihn freigibt, statt dass sie selbst antwortet. Vage Aufträge wie „Check meine Mails und erledige alles“ rät OpenAI ausdrücklich zu vermeiden.

Regel 3: keine Geheimnisse im Kontext

Was der Agent sieht, kann er auch weitergeben. Anthropic empfiehlt, dem Modell keinen Zugriff auf sensible Daten wie Zugangsdaten zu geben. OpenAI rät, Passwörter und private Angaben nicht in Nachrichten zu tippen, sondern bei Logins selbst die Steuerung des Browsers zu übernehmen, sich nach der Aufgabe abzumelden und Browserdaten nach sensiblen Sitzungen zu löschen.

Für Automationen gilt dasselbe: Gib dem KI-Schritt nur die Felder, die er braucht, und keine API-Schlüssel, Kundennummern oder internen Notizen. OWASP empfiehlt außerdem, dass Schlüssel und Funktionen im Code der Anwendung liegen und nicht beim Modell.

Regel 4: Ausgaben prüfen

Behandle jede Antwort des Agenten wie einen Vorschlag. OWASP empfiehlt, erwartete Ausgabeformate festzulegen und mit fester Programmlogik zu prüfen, Ein- und Ausgaben zu filtern und nicht vertrauenswürdige Inhalte getrennt und klar gekennzeichnet weiterzugeben. Wenn du eine Automation baust, heißt das zum Beispiel: Die KI liefert nur eine Kategorie aus einer festen Liste, und alles andere landet zur Prüfung bei dir.

Als Nutzer prüfst du vor jeder Bestätigung die Zusammenfassung: Was genau passiert, an wen geht es, welche Daten sind dabei. Schickt dir ein Mail-Assistent eine Zusammenfassung, lies im Zweifel das Original, bevor du auf einen Link darin klickst.

Was die Anbieter selbst tun und warum das nicht reicht

Anthropic schreibt, das Modell sei darauf trainiert, Prompt Injections zu widerstehen. Bei Computer Use prüfen zusätzlich Klassifikatoren automatisch, was das Werkzeug zurückgibt, etwa Screenshots, und lenken das Modell bei einem Verdacht dazu, nachzufragen, ob eine Anweisung wirklich von dir kommt. OpenAI nennt für seinen Agentenmodus unter anderem eine Überwachung auf Prompt Injection und Bestätigungen vor folgenreichen Aktionen.

Beide sagen aber auch, dass das Risiko bleibt. OpenAI schreibt, die Maßnahmen beseitigen nicht alle Risiken. Das BSI hält fest, dass es derzeit keine einzelne hochwirksame Maßnahme gegen Indirect Prompt Injections gibt und in der Praxis mehrere Maßnahmen kombiniert werden. Die vier Regeln oben sind deine Schicht in diesem Verbund.

Prüfliste vor dem Start

Bevor du einen Agenten oder eine Automation auf fremde Inhalte loslässt, beantworte vier Fragen. Welche Konten, Apps und Daten braucht er für genau diese Aufgabe, und ist alles andere getrennt? Welche Aktionen kann er ohne dich ausführen, und kostet eine davon Geld, erreicht Fremde oder lässt sich nicht rückgängig machen? Welche Passwörter, Schlüssel oder vertraulichen Daten stehen in seinem Kontext? Und wer schaut auf das Ergebnis, bevor es wirkt?

Wenn du eine Frage nicht beantworten kannst, verkleinere die Aufgabe. Ein Agent, der nur liest und zusammenfasst, richtet bei einer Prompt Injection weniger Schaden an als einer, der auch schreiben, kaufen und verschicken darf. Wer eigene KI-Anwendungen für Kunden baut, sollte zusätzlich die vollständigen Empfehlungen von OWASP und die Veröffentlichungen des BSI lesen.

Quellen und Stand 🔎

Alle Angaben zu Regeln, Preisen und Funktionen wurden am 17. November 2026 mit diesen Quellen abgeglichen. Zahlen zur Verzeichnisliste stammen aus der eigenen mentat.codes-Datenbank.

Fuer deine Werkbank

Heute gelernt: 3 Schrauber-Erkenntnisse zum Mitnehmen 💡

Kein theoretisches Blabla: Drei handfeste Punkte, die du aus diesem Ratgeber fuer dein Projekt mitnimmst. Hak sie ab, sobald du sie verstanden hast.

Fortschritt: 0 von 3 Erkenntnissen verinnerlicht (0%)
Die 3 wichtigsten Erkenntnisse zum Abhaken

Fremder Text ist ein Teil des Prompts

Webseiten, E-Mails, PDFs und Formulare koennen versteckte Anweisungen enthalten, die ein Agent befolgt. OWASP nennt das indirekte Prompt Injection, sie muss fuer Menschen nicht einmal sichtbar sein.

Wenig Rechte, deine Freigabe

Verbinde nur die Konten und Apps, die die Aufgabe braucht. Alles, was Geld kostet, Fremde erreicht oder sich nicht rueckgaengig machen laesst, bestaetigst du selbst.

Keine Geheimnisse, Ausgaben pruefen

Passwoerter und Schluessel gehoeren nicht in den Kontext des Agenten. Ungewoehnliche Rueckfragen, fremde Adressen oder unerwartete Links sind ein Grund, die Aufgabe sofort zu stoppen.

Häufige Fragen 🙋

Was ist Prompt Injection in einem Satz?

Eine Eingabe verändert das Verhalten eines Sprachmodells auf unbeabsichtigte Weise. Bei der indirekten Variante steckt die Eingabe laut OWASP in externen Quellen wie Webseiten oder Dateien, die das Modell verarbeitet, und sie muss für Menschen nicht einmal sichtbar sein.

Gibt es einen vollständigen Schutz?

Nein. OWASP schreibt, es sei unklar, ob es narrensichere Methoden zur Vorbeugung gibt, und das BSI stellt fest, dass es keine einzelne hochwirksame Maßnahme gegen Indirect Prompt Injections gibt. Darum kombinierst du mehrere Maßnahmen und begrenzt vor allem den möglichen Schaden.

Muss ich als normaler Nutzer etwas tun, wenn der Anbieter schon Schutzfilter hat?

Ja. Anthropic und OpenAI beschreiben eigene Schutzschichten, etwa Klassifikatoren und Bestätigungen vor folgenreichen Aktionen. OpenAI schreibt in seiner Hilfe aber ausdrücklich, dass diese Maßnahmen nicht alle Risiken beseitigen. Welche Rechte und Daten der Agent bekommt, entscheidest du.

Woran erkenne ich, dass ein Agent manipuliert wurde?

Typische Warnzeichen: Er will etwas tun, das nicht zu deinem Auftrag passt, fragt nach Passwörtern oder Codes, möchte Daten an unbekannte Adressen schicken oder Links in eine Zusammenfassung einbauen, die du nicht erwartest. Dann brichst du die Aufgabe ab, wie es auch OpenAI empfiehlt.

Weiterlesen und loslegen

Weiter geht's 🧭

Nachbarseiten mit dem meisten gemeinsamen Thema. Kein Zufall, reine Statistik.

Begriffe kurz erklärt 4
Excessive Agency (OWASP)
Sicherheitsrisiko für Anwendungen mit Sprachmodellen aus den OWASP Top 10 für LLM-Anwendungen. OWASP beschreibt es als Schwachstelle, die schädliche Aktionen als Reaktion auf unerwartete, mehrdeutige oder manipulierte Modellausgaben ermöglicht. Als typische Ursachen nennt OWASP zu viel Funktionalität, zu viele Berechtigungen und zu viel Autonomie des Agenten. Auslöser können etwa Halluzinationen oder Prompt-Injection sein.
Computer Use
Fähigkeit eines KI-Modells, einen Computer wie ein Mensch zu bedienen: Es wertet Screenshots aus und steuert Maus und Tastatur, um Programme oder Webseiten zu nutzen. Wegen möglicher Fehlklicks und Prompt-Injection gehört das in eine kontrollierte Umgebung.
Prompt-Injection
Angriff, bei dem versteckte Anweisungen in Texten, Webseiten oder Dateien eine KI dazu bringen sollen, ihre eigentlichen Regeln zu ignorieren.
Large Language Model (LLM)
Großes Sprachmodell, das auf riesigen Textmengen trainiert wurde und Text fortsetzt, zusammenfasst, übersetzt oder Fragen beantwortet. Beispiele: die Modelle hinter ChatGPT, Claude und Gemini.
Wie aktuell ist dieser Ratgeber?

Oben steht das Prüfdatum. Bis dahin haben wir Zahlen, Preise und Regeln mit den unten genannten Quellen abgeglichen. Neuere Änderungen der Anbieter können wir erst beim nächsten Durchgang einarbeiten.

Heute bei mentat.codes

Gratis-Perle des Tages

Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale

Prompt des Tages

Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek

Tool des Tages

Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe

Hat dir die Seite geholfen?Bleibt nur in deinem Browser, wir zählen nichts.

Fragen, Tool-Vorschlag oder einen Fehler gefunden?