KI-Tools und Datenschutz: die DSGVO-Checkliste für den Einsatz im Unternehmen

Die eine Regel, die du dir merken solltest

Personenbezogene Daten kommen nur dann in ein KI-Tool, wenn es dafür eine Rechtsgrundlage gibt und der Anbieter vertraglich und technisch passt. Im Zweifel ersetzt du Namen, Adressen, Kundennummern und andere Angaben durch Platzhalter wie [KUNDE] oder [BETRAG]. Klingt unspektakulär, reicht aber für die meisten Text- und Analyseaufgaben völlig aus. Die KI muss nicht wissen, wer dir noch Geld schuldet, um eine freundliche Zahlungserinnerung zu formulieren.

Kurz zur Einordnung: Dieser Ratgeber ersetzt keine Rechtsberatung. Er ist eher der Einkaufszettel, mit dem du zu deiner Datenschutzberatung oder deinem Datenschutzbeauftragten gehst, damit du dort die richtigen Fragen stellst.

Was dir die deutschen Aufsichtsbehörden raten

Die Datenschutzkonferenz (DSK) hat am 6. Mai 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht. Ihre Kernforderung: Erst legst du vor dem Einsatz Einsatzfelder und Zwecke fest, und für jeden Verarbeitungsschritt mit personenbezogenen Daten brauchst du eine Rechtsgrundlage. Erst messen, dann bohren, wie in jeder guten Werkstatt. Am liebsten sind der DSK technisch geschlossene Systeme und Anwendungen, die Eingaben nicht zum Training nutzen.

Entscheidungen mit Rechtswirkung darf nach Artikel 22 DSGVO grundsätzlich nicht die KI allein treffen. Die DSK nennt als Verstoß ausdrücklich ein Tool, das Bewerbungen auswertet und selbstständig zu Vorstellungsgesprächen einlädt. Der Mensch bleibt also am Lenker. Außerdem empfiehlt sie betriebliche statt privater Accounts, eine Prüfung der Datenschutz-Folgenabschätzung und die Sensibilisierung der Beschäftigten.

Seitdem hat die DSK nachgelegt: im Juni 2025 mit einem Papier zu technischen und organisatorischen Maßnahmen bei KI-Systemen, im Oktober 2025 mit einem zu generativer KI mit RAG-Methode. Alle liegen gesammelt auf der Website der DSK unter Orientierungshilfen, falls du mal einen ruhigen Abend übrig hast.

Ohne Auftragsverarbeitungsvertrag (AVV) geht nichts

Verarbeitet ein KI-Anbieter personenbezogene Daten in deinem Auftrag, brauchst du nach Artikel 28 DSGVO einen Auftragsverarbeitungsvertrag. Die gute Nachricht: Viele Anbieter haben ihn für Business- oder Team-Tarife schon in der Schublade, oft als Data Processing Addendum in den Kontoeinstellungen oder auf der Website.

Gratis- und Privatkundentarife bieten häufig keinen AVV. Für Firmendaten mit Personenbezug sind sie dann raus, egal wie praktisch sie sonst sind.

So schaltest du das Training mit deinen Daten ab

Schau nach, ob der Anbieter deine Eingaben zum Training seiner Modelle verwendet und ob sich das abschalten lässt. In Business-Tarifen ist das Training mit Kundendaten oft schon ab Werk ausgeschaltet, in Privattarifen nicht immer.

Und dann: aufschreiben. Wenn später jemand fragt, was mit den Daten passiert, ist eine klare Antwort Gold wert. Mit „Ich glaub, das war aus“ gewinnst du kein Gespräch mit der Aufsicht.

Wo stehen die Server, und dürfen Daten in Drittländer?

Landen Daten außerhalb der EU, braucht die Übermittlung eine Grundlage, etwa einen Angemessenheitsbeschluss der EU-Kommission oder Standardvertragsklauseln. Wo das geregelt ist, verraten die Anbieter meist in ihrem AVV oder ihrer Datenschutzerklärung.

Manche Anbieter bieten Datenhaltung in der EU an. Das macht die Bewertung leichter, den Blick in den Vertrag sparst du dir damit aber nicht.

AVV, Training und EU-Datenhaltung: so machen es die Großen

OpenAI trainiert laut Anbieter standardmäßig nicht mit Daten aus ChatGPT-Business-Tarifen und der API und bietet einen Data Processing Addendum an. Neue ChatGPT-Enterprise- und Edu-Workspaces sowie berechtigte API-Kunden bekommen Datenhaltung in Europa (EWR und Schweiz). Kleiner Haken: Metadaten wie Workspace-Name, Abrechnungsdaten und Logins können laut OpenAI trotzdem außerhalb der Region liegen.

Anthropic nutzt laut Anbieter Eingaben aus den kommerziellen Produkten (Claude Team, Enterprise, API) standardmäßig nicht zum Training und handelt dort als Auftragsverarbeiter. In den Privattarifen Free, Pro und Max liegt der Schalter bei dir: Erlaubst du das Training, speichert Anthropic neue Chats bis zu fünf Jahre, sonst gilt eine Aufbewahrung von 30 Tagen.

Microsoft 365 Copilot ist laut Microsoft ein Dienst innerhalb der EU Data Boundary, Prompts und Antworten werden nicht zum Training der Basismodelle genutzt. Jetzt kommt das Kleingedruckte: Mit der Einstellung Flex Routing kann die Verarbeitung bei Lastspitzen in den USA, Kanada oder Australien landen, und für Tenants ab dem 25. März 2026 ist sie standardmäßig an. Modelle von Anthropic als Unterauftragsverarbeiter sind laut Microsoft derzeit von der EU Data Boundary ausgenommen.

Verlass dich nicht nur auf meine Zusammenfassung, sondern prüf diese Einstellungen selbst im Admin-Bereich und halte das Ergebnis fest. Anbieterangaben ändern sich häufig, gefühlt öfter als die Spritpreise an der Tanke. Maßgeblich ist der Vertrag, den du abschließt.

Daten in die USA schicken: Stand Oktober 2026

Für US-Anbieter gilt seit dem 10. Juli 2023 der Angemessenheitsbeschluss zum EU-US Data Privacy Framework. Das Gericht der EU hat eine Klage dagegen am 3. September 2025 abgewiesen, die Berufung beim Gerichtshof (Rechtssache C-703/25 P) ist noch anhängig. Bis eine andere Entscheidung kommt, bleibt der Beschluss in Kraft.

Der Beschluss deckt aber nur Übermittlungen an US-Unternehmen ab, die unter dem Framework zertifiziert sind. Prüf die Zertifizierung auf der offiziellen Liste unter dataprivacyframework.gov und achte darauf, dass der AVV zusätzlich Standardvertragsklauseln enthält. Das ist dein Ersatzschlauch im Rucksack: Fällt das Framework später weg, hast du schon eine zweite Grundlage dabei.

Meetings, Aufnahmen und der Betriebsrat

Meeting-Assistenten zeichnen Gespräche auf und erstellen Transkripte. Alle Teilnehmenden müssen das wissen, und für die Aufnahme braucht es ihre Zustimmung. Heimlich mitschneiden ist keine Grauzone: Das heimliche Aufnehmen nichtöffentlich gesprochener Worte ist in Deutschland sogar strafbar.

Gibt es einen Betriebsrat, hat er bei technischen Einrichtungen, die Verhalten oder Leistung von Beschäftigten überwachen können, ein Mitbestimmungsrecht. KI-Tools fallen oft darunter. Hol ihn früh mit an den Tisch, das spart dir später Ärger und ihm das Gefühl, übergangen worden zu sein.

Was der EU AI Act von dir als Anwender will

Der EU AI Act ist seit August 2024 in Kraft und greift Stück für Stück. Bestimmte KI-Praktiken sind seit dem 2. Februar 2025 verboten. Seit demselben Datum müssen Unternehmen, die KI einsetzen, Maßnahmen ergreifen, um die KI-Kompetenz ihrer Beschäftigten zu fördern (Artikel 4). Seit der Änderung durch den Digital Omnibus im Juli 2026 schreibt dir dabei niemand mehr ein bestimmtes Kompetenzniveau vor. Und seit dem 2. August 2026 gelten die Transparenzpflichten nach Artikel 50, etwa die Kennzeichnung von Deepfakes und von KI-Texten, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden.

Richtig streng wird es bei Hochrisiko-Systemen, zum Beispiel KI für die Auswahl von Bewerbern oder die Bewertung von Beschäftigten. Nach dem Digital Omnibus (Verordnung (EU) 2026/1744) gelten diese Pflichten ab dem 2. Dezember 2027 für eigenständige Hochrisiko-Systeme nach Anhang III und ab dem 2. August 2028 für KI in Produkten nach Anhang I. Klingt weit weg, trotzdem gilt: Wer KI in solchen Bereichen einsetzt, sollte sich jetzt vorbereiten und die Pflichten rechtlich prüfen lassen.

Der AI-Act-Fahrplan auf einen Blick

Der AI Act ist am 1. August 2024 in Kraft getreten, seit dem 2. Februar 2025 gelten die Verbote bestimmter KI-Praktiken und die Pflicht zu Maßnahmen für KI-Kompetenz (Artikel 4). Seit dem 2. August 2025 gelten die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI). Die landen bei den Modellanbietern, nicht bei dir als Anwender, da darfst du kurz durchatmen.

Seit dem 2. August 2026 gilt der AI Act allgemein, inklusive der Transparenzpflichten nach Artikel 50 und der Aufsicht und Durchsetzung zu Artikel 4. Generative Systeme, die schon vor diesem Datum auf dem Markt waren, bekommen etwas Nachspielzeit: Sie müssen ihre Inhalte bis zum 2. Dezember 2026 maschinenlesbar kennzeichnen.

Am 2. Dezember 2027 starten die Hochrisiko-Pflichten für Anhang III, etwa für Recruiting und die Bewertung von Beschäftigten. Ab dem 2. August 2028 folgen die Pflichten für KI in Produkten nach Anhang I. Setzt du als Arbeitgeber ein Hochrisiko-System am Arbeitsplatz ein, musst du vorher die Arbeitnehmervertretung und die betroffenen Beschäftigten informieren (Artikel 26 Abs. 7).

Als Anwender (im AI Act „Betreiber“) musst du KI-Texte nur kennzeichnen, wenn sie zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden und niemand sie redaktionell geprüft und verantwortet hat. Einmal kurz die Rechtschreibkontrolle drüberlaufen lassen zählt laut EU-Kommission nicht als solche Prüfung. Deepfakes musst du immer offenlegen, bei erkennbar künstlerischen oder satirischen Werken in angemessener Form.

Für KI-Kompetenz empfiehlt die EU-Kommission in ihren FAQ als Mindestschritte: ein allgemeines Verständnis von KI im Unternehmen schaffen, die eigene Rolle als Anbieter oder Betreiber klären, die Risiken der genutzten Systeme bewerten und darauf aufbauend Schulungen planen. Schreib auf, was du getan hast. Ein Zertifikat für die Bürowand schreibt der AI Act nicht vor.

Deine Checkliste, bevor das Team loslegt

1. Welche Daten sollen ins Tool, und klappt es auch mit Platzhaltern? 2. Gibt es einen AVV, und ist er abgeschlossen? 3. Ist das Training mit unseren Daten abgeschaltet? 4. Wo werden die Daten verarbeitet, und auf welcher Grundlage werden sie übermittelt? 5. Wer im Team darf das Tool wofür nutzen? 6. Sitzen Betriebsrat und Datenschutzbeauftragte mit im Boot? 7. Wie kennzeichnen wir KI-Inhalte, wo das nötig ist?

Halte die Antworten in einer kurzen internen Richtlinie fest. Sie muss nicht lang sein, aber jede Person im Team sollte sie kennen. Ein kurzer Zettel, den alle gelesen haben, schlägt jedes dicke Handbuch, das in der Schublade verstaubt.