Der AI Act verbietet mehrere Praktiken, die Menschen manipulieren, Schwächen ausnutzen oder Grundrechte besonders stark beeinträchtigen. Seit Februar 2025 gelten die ersten acht Verbote. Ein zusätzliches Verbot für Systeme zur Erzeugung nicht einvernehmlicher intimer Inhalte tritt nach dem AI Omnibus im Dezember 2026 in Kraft.
Beispiele
- Schädliche Manipulation oder Täuschung
- Schädliche Ausnutzung besonderer Verletzlichkeit
- Social Scoring
- Ungezieltes Sammeln von Gesichtern zum Aufbau von Erkennungsdatenbanken
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen in den erfassten Fällen
- Bestimmte biometrische Kategorisierung und Echtzeit-Fernidentifizierung
- KI-Systeme für nicht einvernehmliche intime Darstellungen und Missbrauchsmaterial
Nicht jede ähnliche Funktion ist automatisch verboten
Die genaue Einordnung hängt von Zweck, Kontext, Ausnahmen und rechtlicher Definition ab. Eine technische Funktion darf nicht ohne Prüfung mit einer verbotenen Praxis gleichgesetzt werden.
Für Betreiber
Organisationen sollten bereits vor Beschaffung oder Entwicklung prüfen, ob der geplante Anwendungsfall in einen verbotenen Bereich fällt. Ein späteres Abschalten ist kein Ersatz für diese Vorprüfung.
Quellen und Rechtsstand
Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.