KI-Glossar · KI-Begriff 127 von 218
Was sind verbotene KI-Praktiken nach Art. 5 AI Act?
KI-Anwendungen, die der EU AI Act seit dem 2. Februar 2025 ganz verbietet, weil ihr Risiko als unannehmbar gilt. Dazu gehören laut Art. 5 unter anderem Social Scoring, das zu ungerechtfertigter Benachteiligung führt, das Erkennen von Emotionen am Arbeitsplatz und in Bildungseinrichtungen (außer aus medizinischen oder Sicherheitsgründen) und Gesichtsdatenbanken, die durch ungezieltes Auslesen von Bildern aus dem Internet oder von Überwachungskameras entstehen.
Hans erklärt's mit Schrauberhänden 🔧
Die verbotenen Praktiken sind die Werkzeuge, die gar nicht erst in die Werkstatt dürfen. Für Hochrisiko-Geräte gibt es Prüfpflichten, für diese hier nur eins: Finger weg.
Merksatz: Hochrisiko heißt Auflagen, verboten heißt verboten.
Beispiel aus der Praxis
Ein Anbieter bietet dir eine Software an, die in Teammeetings per Kamera erkennen soll, ob Mitarbeitende gelangweilt oder gestresst sind. Aus medizinischen oder Sicherheitsgründen wäre so etwas ausgenommen, als Stimmungsbarometer fürs Team nicht. Damit fällt das Tool unter das Verbot der Emotionserkennung am Arbeitsplatz.
Darauf kommt es an
Das Verbot trifft nicht nur Hersteller: Art. 5 untersagt auch die Verwendung solcher Systeme. Prüf deshalb vor dem Einsatz eines KI-Tools, ob es in eine der Gruppen fällt, besonders bei Personalthemen. Bei Verstößen sieht Art. 99 Abs. 3 Geldbußen von bis zu 35 Millionen Euro oder bis zu 7 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Ob ein konkretes Tool betroffen ist, hängt vom Einzelfall ab. Keine Rechtsberatung.
Verwandte Begriffe
- Hochrisiko-KI-SystemKI-System, das der EU AI Act wegen möglicher Folgen für Gesundheit, Sicherheit oder Grundrechte strengen Pflichten unterwirft, etwa bei Bewerberauswahl, Bildung oder Kreditwürdigkeit. Für die Bereiche aus Anhang III gelten diese Pflichten ab 2. Dezember 2027.
- KI-Kompetenz (AI Literacy)Pflicht aus Art. 4 EU AI Act seit Februar 2025: Wer KI-Systeme anbietet oder einsetzt, muss Maßnahmen treffen, um die KI-Kompetenz der Beschäftigten und anderer Personen zu fördern, die in seinem Auftrag KI nutzen. Seit dem Digital Omnibus ist kein bestimmtes Kompetenzniveau mehr vorgeschrieben.
- Deepfake-Kennzeichnung (Art. 50 AI Act)Pflicht nach Art. 50 Abs. 4 der KI-Verordnung (EU) 2024/1689: Wer ein KI-System beruflich nutzt, das Deepfakes erzeugt oder verändert, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert sind. Als Deepfake gilt nach Art. 3 Nr. 60 ein KI-Bild-, Ton- oder Videoinhalt, der echten Personen, Gegenständen, Orten oder Ereignissen ähnelt und fälschlich als echt erscheinen würde. Die Pflicht gilt seit 2. August 2026.
- Digital OmnibusKurzname der Verordnung (EU) 2026/1744, die den EU AI Act geändert hat. Sie verschiebt die Pflichten für Hochrisiko-KI auf den 2. Dezember 2027 (Anhang III) und den 2. August 2028 (Anhang I) und verlangt bei der KI-Kompetenz nach Art. 4 nur noch Fördermaßnahmen ohne festes Niveau.
Kurz gefragt
Was sind verbotene KI-Praktiken nach Art. 5 AI Act?
KI-Anwendungen, die der EU AI Act seit dem 2. Februar 2025 ganz verbietet, weil ihr Risiko als unannehmbar gilt. Dazu gehören laut Art. 5 unter anderem Social Scoring, das zu ungerechtfertigter Benachteiligung führt, das Erkennen von Emotionen am Arbeitsplatz und in Bildungseinrichtungen (außer aus medizinischen oder Sicherheitsgründen) und Gesichtsdatenbanken, die durch ungezieltes Auslesen von Bildern aus dem Internet oder von Überwachungskameras entstehen.
Worauf sollte ich bei Verbotene KI-Praktiken achten?
Das Verbot trifft nicht nur Hersteller: Art. 5 untersagt auch die Verwendung solcher Systeme. Prüf deshalb vor dem Einsatz eines KI-Tools, ob es in eine der Gruppen fällt, besonders bei Personalthemen. Bei Verstößen sieht Art. 99 Abs. 3 Geldbußen von bis zu 35 Millionen Euro oder bis zu 7 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Ob ein konkretes Tool betroffen ist, hängt vom Einzelfall ab. Keine Rechtsberatung.
Weiter geht's 🧭
Diese Seiten hat mein Algorithmus aus Kaffee und Textvergleich für dich rausgesucht.
Passt dazu 6
- GlossarWas ist KI-System? Einfach erklärt mit Beispiel
- GlossarWas sind die Transparenzpflichten nach Art. 50 AI Act? Einfach erklärt
- RatgeberAI Act Fristen 2026 bis 2028: alle Termine nach dem Omnibus
- RatgeberKI-Kennzeichnungspflicht: Was ab 2. Dezember 2026 gilt
- KI-NewsAI Act Kennzeichnungspflicht: Frist 2. Dezember 2026
- Für deinen JobKI-Tools für HR und Recruiting 2026
Wer hierher verlinkt 5
Gut vernetzt: 5 Seiten zeigen auf diese hier. Die passendsten:
Warum so kurz erklärt?
Weil ein Glossar zum Nachschlagen da ist. Wer tiefer will, findet unten die Seiten, auf denen der Begriff in der Praxis vorkommt.
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool-Vorschlag oder einen Fehler gefunden?