KI Panorama

Suche

Branche oder Lebensbereich: Finanzen

  • Checkliste: KI in einer Organisation einführen

    Organisationen sollten nicht mit der Frage beginnen, welches Modell modern ist, sondern welches Problem gelöst werden soll, welche Daten nötig sind und wer für Fehler und Freigaben verantwortlich bleibt.

    1. Einsatzfall definieren

    • Konkrete Aufgabe und erwarteten Nutzen beschreiben
    • Betroffene Personen und mögliche Schäden erfassen
    • Nicht-KI-Alternative und manuelle Ausweichmöglichkeit festlegen

    2. Daten und Anbieter prüfen

    • Datenklassen und Schutzbedarf
    • Vertrag, Speicherort und Unterauftragnehmer
    • Training mit Eingaben und Löschfristen
    • Modellversion, Lizenz und Abhängigkeiten

    3. Pilot kontrollieren

    • Kleine Nutzergruppe und ungefährliche Testdaten
    • Messbare Qualitäts- und Sicherheitskriterien
    • Tests mit schwierigen und missbräuchlichen Eingaben
    • Dokumentierte Freigabe vor produktiver Nutzung

    4. Betrieb organisieren

    • Rollen, Schulung und Support
    • Protokolle, Vorfälle und Beschwerden
    • Regelmäßige Prüfung nach Modell- oder Prozessänderungen
    • Klare Abschalt- und Wechselmöglichkeit

    Rechtliche Prüfung

    Bei personenbezogenen Daten, Beschäftigten, Hochrisiko-Anwendungen oder regulierten Branchen müssen Datenschutz, Mitbestimmung und branchenspezifische Regeln früh geprüft werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Die vier Risikostufen des EU AI Act

    Nicht die technische Bezeichnung eines Modells entscheidet allein über die rechtlichen Pflichten, sondern vor allem der konkrete Verwendungszweck. Derselbe Modelltyp kann in einem harmlosen Assistenten anders eingestuft werden als bei Personalentscheidungen oder Zugang zu wesentlichen Leistungen.

    Unzulässiges Risiko

    Bestimmte Praktiken sind verboten, weil sie eine klare Gefahr für Sicherheit, Lebensgrundlagen oder Grundrechte darstellen. Dazu gehören unter anderem schädliche Manipulation, Social Scoring und bestimmte biometrische Anwendungen.

    Hohes Risiko

    Anwendungen in sensiblen Bereichen wie Bildung, Beschäftigung, wesentlichen Diensten, Strafverfolgung, Migration oder Justiz können als Hochrisiko-Systeme gelten und unterliegen strengen Anforderungen.

    Transparenzrisiko

    Menschen müssen in bestimmten Situationen erkennen können, dass sie mit KI interagieren oder dass Inhalte künstlich erzeugt oder manipuliert wurden.

    Minimales oder kein Risiko

    Für viele alltägliche Systeme wie Spamfilter oder KI-Funktionen in Spielen führt der AI Act keine zusätzlichen spezifischen Pflichten ein. Andere Gesetze bleiben dennoch anwendbar.

    Praxisregel

    Zuerst den konkreten Einsatzfall, die betroffenen Personen und mögliche Folgen beschreiben. Erst danach lässt sich die regulatorische Kategorie sinnvoll prüfen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Welche Daten gehören nicht in einen öffentlichen KI-Chat?

    Eine Eingabe in einen Cloud-Dienst ist eine Datenübermittlung an einen externen Anbieter. Ob Inhalte gespeichert, zu Sicherheitszwecken geprüft oder für Produktverbesserung verwendet werden, hängt von Vertrag, Tarif und Einstellungen ab. Vor der Nutzung müssen diese Bedingungen zum Schutzbedarf passen.

    Besonders schützenswerte Inhalte

    • Passwörter, API-Schlüssel und Zugangsdaten
    • Gesundheitsdaten und intime Informationen
    • Unveröffentlichte Kunden- oder Personaldaten
    • Vertrags-, Steuer- oder Rechtsunterlagen
    • Geschäftsgeheimnisse, Quellcode und interne Sicherheitsinformationen

    Sicherer Arbeitsablauf

    1. Aufgabe zuerst ohne vertrauliche Details formulieren
    2. Daten anonymisieren oder durch Platzhalter ersetzen
    3. Nur freigegebene Unternehmensdienste verwenden
    4. Speicher-, Trainings- und Löschoptionen prüfen
    5. Ausgaben vor weiterer Verwendung auf unbeabsichtigte Offenlegung kontrollieren

    Wichtige Grenze

    Anonymisieren bedeutet mehr als Namen zu entfernen. Kombinationen aus Ort, Datum, Funktion oder seltenen Eigenschaften können eine Person weiterhin identifizierbar machen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • KI-Risiken systematisch managen: Govern, Map, Measure, Manage

    Risikomanagement ist kein einmaliger Test vor dem Start. Es begleitet Auswahl, Entwicklung, Betrieb, Änderungen und Außerbetriebnahme eines Systems. Die Maßnahmen müssen zum tatsächlichen Schadenspotenzial passen.

    Govern – Verantwortung festlegen

    • Rollen, Freigaben und Eskalation definieren
    • Richtlinien und Dokumentation pflegen
    • Betroffene Gruppen und Fachkompetenz einbeziehen

    Map – Kontext verstehen

    • Zweck, Nutzer und betroffene Personen beschreiben
    • Abhängigkeiten und Missbrauchsmöglichkeiten erfassen
    • Grenzen und erwartbare Folgen dokumentieren

    Measure – prüfen und messen

    • Qualität, Robustheit, Verzerrungen und Datenschutz testen
    • Ergebnisse mit realistischen Fällen bewerten
    • Unsicherheiten und Testgrenzen offenlegen

    Manage – Risiken behandeln

    • Risiken priorisieren und Maßnahmen umsetzen
    • Menschliche Kontrolle und Ausweichprozesse vorsehen
    • Vorfälle beobachten und Verbesserungen nachverfolgen

    Praxisregel

    Je größer die mögliche Auswirkung auf Menschen, Geld, Gesundheit oder Rechte, desto stärker müssen Nachweise, Kontrollen und unabhängige Prüfungen sein.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Bias und Diskriminierung: Warum neutrale Daten nicht automatisch neutral sind

    Verzerrungen entstehen nicht nur im Modell. Sie können aus der Auswahl der Aufgabe, unvollständigen Daten, historischen Entscheidungen, Beschriftungen, Zielgrößen oder dem Einsatzkontext stammen. Ein Gesamtergebnis kann trotz guter Durchschnittswerte einzelne Gruppen benachteiligen.

    Typische Ursachen

    • Unterrepräsentierte Gruppen in Trainings- oder Testdaten
    • Historische Daten spiegeln frühere Diskriminierung
    • Stellvertretermerkmale korrelieren mit geschützten Eigenschaften
    • Fehlerhafte oder uneinheitliche Beschriftungen
    • Optimierung auf eine Kennzahl, die reale Folgen nicht abbildet

    Sinnvolle Prüfung

    • Betroffene Gruppen und Schadensarten vorab bestimmen
    • Ergebnisse getrennt nach relevanten Gruppen auswerten
    • Fehlerfälle qualitativ untersuchen
    • Beschwerden und Korrekturmöglichkeiten schaffen
    • System und Arbeitsprozess gemeinsam beurteilen

    Grenze technischer Fairnessmetriken

    Unterschiedliche Fairnessziele können sich widersprechen. Welche Abwägung vertretbar ist, ist nicht nur eine mathematische, sondern auch eine rechtliche und gesellschaftliche Frage.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Menschliche Kontrolle: Mehr als ein Bestätigungsbutton

    Ein Mensch in der Schleife verhindert Fehler nicht automatisch. Zeitdruck, Automatisierungsvertrauen, unklare Zuständigkeit oder fehlende Alternativen können die Kontrolle wirkungslos machen. Gute Aufsicht ist organisatorisch und technisch vorbereitet.

    Wirksame Aufsicht braucht

    • Verständliche Informationen über Zweck, Grenzen und Unsicherheit
    • Ausreichend Zeit und Fachkenntnis für eine Prüfung
    • Zugriff auf zugrunde liegende Daten und Begründungen soweit möglich
    • Befugnis, das Ergebnis zu ändern oder das System abzuschalten
    • Einen funktionierenden manuellen Ersatzprozess

    Warnzeichen

    • Menschen bestätigen fast alle Vorschläge ungeprüft
    • Abweichungen müssen aufwendig begründet werden
    • Leistungsziele lassen keine reale Prüfzeit
    • Es gibt keine Aufzeichnung, wer entschieden hat
    • Betroffene können eine Entscheidung nicht anfechten

    Besonders wichtig

    Bei Entscheidungen über Gesundheit, Beschäftigung, Bildung, Kredit, Versicherung, Recht oder staatliche Leistungen darf KI nicht als unfehlbare Autorität behandelt werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • KI in Medizin, Recht und Finanzen: Assistenz statt unkontrollierte Entscheidung

    Ein sprachlich überzeugendes Ergebnis ist kein Nachweis fachlicher Richtigkeit. Medizinische, rechtliche und finanzielle Aussagen können von aktueller Rechtslage, individuellen Umständen, Messwerten oder professionellen Standards abhängen, die einem allgemeinen Modell fehlen.

    Geeignete Assistenzaufgaben

    • Dokumente strukturieren und verständlicher formulieren
    • Checklisten und Fragen für ein Fachgespräch vorbereiten
    • Informationen in bereitgestellten Quellen auffinden
    • Entwürfe erzeugen, die fachlich geprüft werden
    • Administrative Routinearbeiten unterstützen

    Nicht ohne qualifizierte Prüfung

    • Diagnosen, Behandlung oder Dosierung
    • Verbindliche Rechtsauslegung oder Fristberechnung
    • Kredit-, Versicherungs- oder Anlageentscheidungen
    • Automatisierte Ablehnung von Leistungen oder Bewerbern
    • Entscheidungen mit irreversiblen Folgen

    Qualitätssicherung

    • Verlässliche Originalquellen und aktuelle Fachdaten
    • Dokumentierte menschliche Endentscheidung
    • Nachvollziehbare Version und Eingaben
    • Datenschutz und Zugriffskontrolle
    • Mechanismus für Fehler, Beschwerden und Korrekturen

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Daten aus Formularen und Dokumenten extrahieren

    Die Technik eignet sich für wiederkehrende Dokumenttypen. Schlechte Scans, wechselnde Layouts und handschriftliche Inhalte erhöhen die Fehlerquote und erfordern Kontrollen.

    Geeignet für

    • Rechnungen
    • Formulare
    • Verträge
    • Berichte

    Voraussetzungen

    Rechtmäßig nutzbare Dokumente, ein definiertes Zielschema und Regeln für personenbezogene Daten.

    Vorgehensweise

    1. Dokumenttypen und benötigte Felder definieren.
    2. Beispiele mit Sollwerten zusammenstellen.
    3. Extraktion durchführen.
    4. Plausibilitätsregeln und Stichproben anwenden.
    5. Fehlerfälle für manuelle Bearbeitung markieren.

    Beispiel

    Aus Lieferdokumenten werden Bestellnummer, Datum, Positionen und Gesamtmenge in eine Tabelle übertragen.

    Qualitätskontrolle

    • Summen, Datumswerte und Pflichtfelder automatisch plausibilisieren.
    • Stichproben mit dem Original vergleichen.
    • Niedrige Konfidenzwerte manuell prüfen.

    Grenzen und Risiken

    • OCR- und Layoutfehler können Werte vertauschen.
    • Personenbezogene und geschäftliche Daten benötigen Schutz und Löschregeln.

    Passende Tools und Modelle

    OCR, Dokumentenmodelle, Tabellenextraktion und Workflow-Systeme.

    Quellen und Leitlinien

  • Tabellen und Daten analysieren

    Bei Datenanalysen kann KI Formeln, Code und Erklärungen erzeugen. Verlässlich wird der Prozess erst, wenn Datenqualität, Berechnungsschritte und Ergebnisse nachvollziehbar kontrolliert werden.

    Geeignet für

    • Datenbereinigung und Plausibilitätsprüfungen
    • Formeln und Auswertungen
    • Diagramme und Zusammenfassungen
    • Erklärung statistischer Kennzahlen
    • Erzeugung reproduzierbaren Analyse-Codes

    Voraussetzungen

    Eine verständliche Beschreibung der Spalten, Einheiten, fehlenden Werte und Analysefrage. Sensible Daten müssen anonymisiert oder in einer geeigneten Umgebung verarbeitet werden.

    Vorgehensweise

    1. Datenstruktur und Ziel der Analyse beschreiben.
    2. Fehlende Werte, Datentypen und Ausreißer prüfen.
    3. Berechnungsschritte vor der Ausführung erläutern lassen.
    4. Analyse mit Formeln oder Code reproduzierbar durchführen.
    5. Ergebnisse gegen Kontrollrechnungen prüfen.
    6. Annahmen, Unsicherheiten und ausgeschlossene Daten dokumentieren.

    Beispiel

    „Prüfe diese Tabelle auf fehlende Werte und unplausible Einheiten. Berechne anschließend Median und Quartile je Kategorie und gib reproduzierbaren Python-Code aus.“

    Qualitätskontrolle

    • Stimmen Spalten, Einheiten und Filter?
    • Sind Kennzahlen passend zur Fragestellung?
    • Lässt sich das Ergebnis reproduzieren?
    • Werden Korrelation und Kausalität unterschieden?

    Grenzen und Risiken

    • Fehlerhafte Datentypen können unbemerkt falsche Resultate erzeugen.
    • Automatisch erzeugte Diagramme können irreführende Skalen verwenden.
    • Personenbezogene und geschäftskritische Daten benötigen besondere Schutzmaßnahmen.

    Passende Tools und Modelle

    Geeignet sind Systeme mit einer kontrollierten Rechenumgebung, Tabellenzugriff und sichtbarem Code. Reine Textantworten ohne ausführbare Berechnung sind für präzise Analysen ungeeignet.

    Quellen