KI Panorama

Suche

Thema: Verantwortung und Zukunft

  • Datenschutz bei KI-Modellen: Personenbezug, Anonymität und Rechtsgrundlage

    Der Europäische Datenschutzausschuss betont, dass Anonymität von KI-Modellen im Einzelfall geprüft werden muss. Außerdem müssen Entwicklung und Einsatz eine tragfähige Rechtsgrundlage haben; unrechtmäßig verarbeitete Trainingsdaten können Folgen für die spätere Nutzung des Modells haben.

    Wann ein Modell anonym sein kann

    Entscheidend ist, ob personenbezogene Daten mit Mitteln, die vernünftigerweise eingesetzt werden könnten, direkt oder indirekt aus dem Modell gewonnen werden können. Eine pauschale Aussage für alle Modelle ist nicht möglich.

    Berechtigtes Interesse

    Eine Berufung auf berechtigte Interessen erfordert die übliche dreistufige Prüfung: legitimes Interesse, Erforderlichkeit und Abwägung gegenüber Rechten und Erwartungen betroffener Personen.

    Praktische Maßnahmen

    • Datenminimierung und klare Zweckbindung
    • Prüfung der Herkunft und Rechtmäßigkeit von Trainings- und Eingabedaten
    • Tests auf Memorisation und Datenextraktion
    • Lösch-, Widerspruchs- und Auskunftsprozesse
    • Dokumentation der technischen und organisatorischen Schutzmaßnahmen

    Keine pauschale Freigabe

    Dass Daten öffentlich auffindbar sind oder ein Modell groß ist, macht die Verarbeitung nicht automatisch rechtmäßig oder anonym.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Checkliste: KI privat sicher und sinnvoll nutzen

    Für private Aufgaben genügt oft eine einfache Regel: keine unnötigen sensiblen Daten, wichtige Aussagen unabhängig prüfen und bei Folgen für Gesundheit, Geld oder Rechte qualifizierte Hilfe einbeziehen.

    Vor der Eingabe

    • Braucht die Aufgabe wirklich persönliche Daten?
    • Ist der Dienst für diese Daten geeignet?
    • Kann ich Namen, Orte und Zahlen durch Platzhalter ersetzen?

    Nach der Ausgabe

    • Sind Tatsachen, Zitate und Links überprüft?
    • Sind Personen unfair oder stereotyp dargestellt?
    • Enthält das Ergebnis vertrauliche oder fremde Inhalte?
    • Darf ich die Ausgabe für meinen Zweck verwenden?

    Vor einer Handlung

    • Welche Folgen hätte ein Fehler?
    • Kann ich die Entscheidung rückgängig machen?
    • Brauche ich eine zweite Quelle oder Fachperson?
    • Ist erkennbar, wenn ein veröffentlichter Inhalt künstlich erzeugt wurde?

    Merksatz

    Je größer der mögliche Schaden, desto weniger darf man sich auf eine ungeprüfte KI-Ausgabe verlassen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Welche Daten gehören nicht in einen öffentlichen KI-Chat?

    Eine Eingabe in einen Cloud-Dienst ist eine Datenübermittlung an einen externen Anbieter. Ob Inhalte gespeichert, zu Sicherheitszwecken geprüft oder für Produktverbesserung verwendet werden, hängt von Vertrag, Tarif und Einstellungen ab. Vor der Nutzung müssen diese Bedingungen zum Schutzbedarf passen.

    Besonders schützenswerte Inhalte

    • Passwörter, API-Schlüssel und Zugangsdaten
    • Gesundheitsdaten und intime Informationen
    • Unveröffentlichte Kunden- oder Personaldaten
    • Vertrags-, Steuer- oder Rechtsunterlagen
    • Geschäftsgeheimnisse, Quellcode und interne Sicherheitsinformationen

    Sicherer Arbeitsablauf

    1. Aufgabe zuerst ohne vertrauliche Details formulieren
    2. Daten anonymisieren oder durch Platzhalter ersetzen
    3. Nur freigegebene Unternehmensdienste verwenden
    4. Speicher-, Trainings- und Löschoptionen prüfen
    5. Ausgaben vor weiterer Verwendung auf unbeabsichtigte Offenlegung kontrollieren

    Wichtige Grenze

    Anonymisieren bedeutet mehr als Namen zu entfernen. Kombinationen aus Ort, Datum, Funktion oder seltenen Eigenschaften können eine Person weiterhin identifizierbar machen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Checkliste: KI in einer Organisation einführen

    Organisationen sollten nicht mit der Frage beginnen, welches Modell modern ist, sondern welches Problem gelöst werden soll, welche Daten nötig sind und wer für Fehler und Freigaben verantwortlich bleibt.

    1. Einsatzfall definieren

    • Konkrete Aufgabe und erwarteten Nutzen beschreiben
    • Betroffene Personen und mögliche Schäden erfassen
    • Nicht-KI-Alternative und manuelle Ausweichmöglichkeit festlegen

    2. Daten und Anbieter prüfen

    • Datenklassen und Schutzbedarf
    • Vertrag, Speicherort und Unterauftragnehmer
    • Training mit Eingaben und Löschfristen
    • Modellversion, Lizenz und Abhängigkeiten

    3. Pilot kontrollieren

    • Kleine Nutzergruppe und ungefährliche Testdaten
    • Messbare Qualitäts- und Sicherheitskriterien
    • Tests mit schwierigen und missbräuchlichen Eingaben
    • Dokumentierte Freigabe vor produktiver Nutzung

    4. Betrieb organisieren

    • Rollen, Schulung und Support
    • Protokolle, Vorfälle und Beschwerden
    • Regelmäßige Prüfung nach Modell- oder Prozessänderungen
    • Klare Abschalt- und Wechselmöglichkeit

    Rechtliche Prüfung

    Bei personenbezogenen Daten, Beschäftigten, Hochrisiko-Anwendungen oder regulierten Branchen müssen Datenschutz, Mitbestimmung und branchenspezifische Regeln früh geprüft werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • EU AI Act: Was gilt wann?

    Der EU AI Act gilt stufenweise. Bereits anwendbar sind unter anderem Verbote bestimmter KI-Praktiken und Regeln für General-Purpose-AI-Modelle. Transparenzpflichten gelten ab 2. August 2026; zentrale Pflichten für Hochrisiko-Systeme wurden 2026 zeitlich verlängert. Stand dieses Artikels: 28. Juli 2026.

    Die wichtigsten Termine

    • 1. August 2024: Inkrafttreten des AI Act
    • 2. Februar 2025: erste Verbote und ursprüngliche Regeln zur KI-Kompetenz werden anwendbar
    • 2. August 2025: Regeln für General-Purpose-AI-Modelle und Governance werden anwendbar
    • 2. August 2026: Transparenzpflichten für bestimmte KI-Systeme und synthetische Inhalte werden anwendbar
    • 2. Dezember 2027: Hochrisiko-Systeme aus den in Anhang III genannten sensiblen Bereichen
    • 2. August 2028: Hochrisiko-KI als Bestandteil regulierter Produkte nach Anhang I

    Warum sich Termine geändert haben

    Der am 27. Juli 2026 in Kraft getretene AI Omnibus verlängerte insbesondere die Übergangsfristen für Hochrisiko-Systeme. Rechtliche Zeitpläne sollten deshalb immer mit der aktuellen EU-Übersicht geprüft werden.

    Für wen ist das relevant?

    • Anbieter von KI-Systemen und Modellen
    • Unternehmen und Behörden, die KI einsetzen
    • Organisationen mit KI in Personal, Bildung, Kredit, Gesundheit oder kritischer Infrastruktur
    • Betreiber von Diensten mit Chatbots, Deepfakes oder anderen generativen Inhalten

    Wichtiger Hinweis

    Dieser Überblick ist eine Orientierung und keine Rechtsberatung. Maßgeblich sind der geltende Gesetzestext, einschlägige Leitlinien und die konkrete Rolle im Einzelfall.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Barrierearme Texte und Alternativtexte vorbereiten

    Automatische Vorschläge helfen beim ersten Entwurf. Ob ein Text wirklich verständlich und ein Alternativtext im konkreten Kontext sinnvoll ist, muss durch Menschen geprüft werden.

    Geeignet für

    • Webseiten
    • Dokumente
    • Öffentliche Kommunikation
    • Schulungsmaterial

    Voraussetzungen

    Kenntnis der Zielgruppe, des Nutzungskontexts und der geltenden Barrierefreiheitsanforderungen.

    Vorgehensweise

    1. Zweck des Inhalts und Zielgruppe benennen.
    2. Komplexe Sätze und Fachbegriffe markieren.
    3. Vereinfachte Fassung oder Alternativtext erzeugen.
    4. Bedeutung und Informationsverlust prüfen.
    5. Mit Prüfwerkzeugen und möglichst betroffenen Nutzern testen.

    Beispiel

    Eine komplexe Behördeninformation wird in kürzere Sätze gegliedert; für eine Infografik entsteht ein kontextbezogener Alternativtext.

    Qualitätskontrolle

    • Automatische Lesbarkeit ist kein Nachweis für Barrierefreiheit.
    • Alternativtexte müssen Zweck und Kontext des Bildes berücksichtigen.
    • Kontrast, Tastaturbedienung und Struktur separat testen.

    Grenzen und Risiken

    • Modelle können sichtbare Details falsch beschreiben.
    • Vereinfachung kann wichtige rechtliche oder fachliche Inhalte verändern.

    Passende Tools und Modelle

    Sprachmodelle, Bildanalyse und spezialisierte Barrierefreiheits-Prüfwerkzeuge.

    Quellen und Leitlinien

  • Halluzinationen und Konfabulationen

    Ein KI-System kann eine flüssige und selbstbewusste Antwort erzeugen, obwohl Angaben erfunden, verwechselt oder nicht belegt sind. Sprachqualität und sachliche Richtigkeit sind getrennte Eigenschaften.

    Einfach erklärt

    Ein Sprachmodell berechnet wahrscheinliche Fortsetzungen. Es prüft nicht automatisch in einer verlässlichen Datenbank, ob jede Aussage stimmt.

    Darum kann es Quellen, Namen, Zahlen oder Ereignisse erfinden. Die Antwort klingt oft überzeugend, weil das Modell gut darin ist, sprachlich passende Muster zu erzeugen.

    Anschauliches Beispiel

    Bei der Frage nach einem seltenen Gerichtsurteil kann ein Modell einen plausibel klingenden Aktennamen und eine Zusammenfassung erzeugen, obwohl das Urteil nicht existiert. Ohne Prüfung in einer echten Rechtsdatenbank bleibt die Antwort unzuverlässig.

    Fortgeschrittene Erklärung

    NIST bezeichnet die selbstbewusste Erzeugung falscher oder irreführender Inhalte als Konfabulation. In der Forschung wird häufig weiterhin der Begriff Halluzination verwendet.

    Ursachen können unvollständige Trainingsdaten, mehrdeutige Eingaben, Sampling, fehlender Zugriff auf aktuelle Quellen, fehlerhaftes Retrieval oder ein Konflikt zwischen hilfreicher Formulierung und Unsicherheit sein.

    Expertenwissen

    Halluzinationen werden je nach Aufgabe unterschiedlich definiert: als Widerspruch zu einer Quelle, als nicht durch eine Quelle gestützte Aussage oder als faktisch falscher Inhalt. Entsprechend unterscheiden sich Messverfahren und Gegenmaßnahmen.

    RAG, Werkzeugzugriff, strengere Ausgabestrukturen, Kalibrierung, Verifikationsschritte und menschliche Prüfung können Risiken verringern, beseitigen sie aber nicht vollständig.

    Möglichkeiten und Grenzen

    • Fakten, Zitate, Quellen, Zahlen und aktuelle Angaben immer prüfen.
    • Für Recherche Originalquellen verlangen und tatsächlich öffnen.
    • Bei fehlender Evidenz sollte das System Unsicherheit ausweisen oder nicht antworten.
    • Medizinische, rechtliche, finanzielle und sicherheitskritische Entscheidungen nicht auf ungeprüfte Ausgaben stützen.

    Quellen