Verzerrungen entstehen nicht nur im Modell. Sie können aus der Auswahl der Aufgabe, unvollständigen Daten, historischen Entscheidungen, Beschriftungen, Zielgrößen oder dem Einsatzkontext stammen. Ein Gesamtergebnis kann trotz guter Durchschnittswerte einzelne Gruppen benachteiligen.
Typische Ursachen
- Unterrepräsentierte Gruppen in Trainings- oder Testdaten
- Historische Daten spiegeln frühere Diskriminierung
- Stellvertretermerkmale korrelieren mit geschützten Eigenschaften
- Fehlerhafte oder uneinheitliche Beschriftungen
- Optimierung auf eine Kennzahl, die reale Folgen nicht abbildet
Sinnvolle Prüfung
- Betroffene Gruppen und Schadensarten vorab bestimmen
- Ergebnisse getrennt nach relevanten Gruppen auswerten
- Fehlerfälle qualitativ untersuchen
- Beschwerden und Korrekturmöglichkeiten schaffen
- System und Arbeitsprozess gemeinsam beurteilen
Grenze technischer Fairnessmetriken
Unterschiedliche Fairnessziele können sich widersprechen. Welche Abwägung vertretbar ist, ist nicht nur eine mathematische, sondern auch eine rechtliche und gesellschaftliche Frage.
Quellen und Rechtsstand
Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.