KI Panorama

Suche

Thema: Datenschutz

  • Datenschutz bei KI-Modellen: Personenbezug, Anonymität und Rechtsgrundlage

    Der Europäische Datenschutzausschuss betont, dass Anonymität von KI-Modellen im Einzelfall geprüft werden muss. Außerdem müssen Entwicklung und Einsatz eine tragfähige Rechtsgrundlage haben; unrechtmäßig verarbeitete Trainingsdaten können Folgen für die spätere Nutzung des Modells haben.

    Wann ein Modell anonym sein kann

    Entscheidend ist, ob personenbezogene Daten mit Mitteln, die vernünftigerweise eingesetzt werden könnten, direkt oder indirekt aus dem Modell gewonnen werden können. Eine pauschale Aussage für alle Modelle ist nicht möglich.

    Berechtigtes Interesse

    Eine Berufung auf berechtigte Interessen erfordert die übliche dreistufige Prüfung: legitimes Interesse, Erforderlichkeit und Abwägung gegenüber Rechten und Erwartungen betroffener Personen.

    Praktische Maßnahmen

    • Datenminimierung und klare Zweckbindung
    • Prüfung der Herkunft und Rechtmäßigkeit von Trainings- und Eingabedaten
    • Tests auf Memorisation und Datenextraktion
    • Lösch-, Widerspruchs- und Auskunftsprozesse
    • Dokumentation der technischen und organisatorischen Schutzmaßnahmen

    Keine pauschale Freigabe

    Dass Daten öffentlich auffindbar sind oder ein Modell groß ist, macht die Verarbeitung nicht automatisch rechtmäßig oder anonym.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Welche Daten gehören nicht in einen öffentlichen KI-Chat?

    Eine Eingabe in einen Cloud-Dienst ist eine Datenübermittlung an einen externen Anbieter. Ob Inhalte gespeichert, zu Sicherheitszwecken geprüft oder für Produktverbesserung verwendet werden, hängt von Vertrag, Tarif und Einstellungen ab. Vor der Nutzung müssen diese Bedingungen zum Schutzbedarf passen.

    Besonders schützenswerte Inhalte

    • Passwörter, API-Schlüssel und Zugangsdaten
    • Gesundheitsdaten und intime Informationen
    • Unveröffentlichte Kunden- oder Personaldaten
    • Vertrags-, Steuer- oder Rechtsunterlagen
    • Geschäftsgeheimnisse, Quellcode und interne Sicherheitsinformationen

    Sicherer Arbeitsablauf

    1. Aufgabe zuerst ohne vertrauliche Details formulieren
    2. Daten anonymisieren oder durch Platzhalter ersetzen
    3. Nur freigegebene Unternehmensdienste verwenden
    4. Speicher-, Trainings- und Löschoptionen prüfen
    5. Ausgaben vor weiterer Verwendung auf unbeabsichtigte Offenlegung kontrollieren

    Wichtige Grenze

    Anonymisieren bedeutet mehr als Namen zu entfernen. Kombinationen aus Ort, Datum, Funktion oder seltenen Eigenschaften können eine Person weiterhin identifizierbar machen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Lokale KI oder Cloud: Datenschutz ist mehr als der Speicherort

    Bei lokaler KI bleiben Eingaben grundsätzlich auf dem eigenen System, sofern keine Zusatzdienste Daten übertragen. Dafür liegen Aktualisierung, Zugriffsschutz, Backups und Protokollierung stärker in der eigenen Verantwortung. Cloud-Systeme können professionell abgesichert sein, benötigen aber passende Verträge und Einstellungen.

    Lokale Vorteile

    • Keine notwendige Übertragung an einen externen KI-Dienst
    • Bessere Kontrolle über Aufbewahrung und Löschung
    • Einsatz in abgeschotteten Netzen möglich

    Lokale Risiken

    • Unsichere Installation oder veraltete Komponenten
    • Unverschlüsselte Dateien und Backups
    • Modelle oder Erweiterungen aus unbekannten Quellen
    • Fehlende Rechte- und Protokollverwaltung

    Cloud-Prüfpunkte

    • Vertrag und Auftragsverarbeitung
    • Speicherort und Unterauftragnehmer
    • Nutzung von Eingaben für Training oder Qualitätskontrolle
    • Löschfristen und Exportmöglichkeiten
    • Identitäts-, Rollen- und Protokollfunktionen

    Entscheidungsregel

    Schutzbedarf, technische Fähigkeiten, Vertrag und tatsächlicher Datenfluss müssen gemeinsam bewertet werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • API-Schlüssel, Passwörter und Geschäftsgeheimnisse vor KI-Systemen schützen

    KI-Systeme verarbeiten häufig Inhalte über mehrere Komponenten: Benutzeroberfläche, Modellanbieter, Protokollierung, Erweiterungen und verbundene Werkzeuge. Ein versehentlich eingegebenes Geheimnis kann dadurch an mehr Stellen landen als erwartet.

    Technische Regeln

    • Schlüssel über Secret-Manager und Umgebungsvariablen bereitstellen
    • Protokolle und Fehlerberichte auf sensible Daten prüfen
    • Berechtigungen und Gültigkeitsdauer von Schlüsseln begrenzen
    • Regelmäßig rotieren und bei Verdacht sofort sperren
    • Testdaten statt Produktivdaten verwenden

    Für Prompts

    Nur Platzhalter wie KUNDENNUMMER oder API_KEY verwenden. Das Modell muss den echten Wert für die meisten Erklär-, Schreib- oder Programmieraufgaben nicht kennen.

    Bei einem Vorfall

    • Schlüssel widerrufen oder rotieren
    • Betroffene Protokolle und Dienste identifizieren
    • Zugriffe prüfen
    • Mögliche Datenverletzung nach den geltenden Prozessen bewerten

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Kinder, Jugendliche und KI: Schutz, Lernen und Eigenständigkeit

    Kinder und Jugendliche benötigen altersgerechte Erklärungen über Fehler, Datenverarbeitung und künstlich erzeugte Inhalte. Aufgaben sollten so gestaltet sein, dass Denken, Quellenprüfung und eigene Ausdrucksfähigkeit sichtbar bleiben.

    Sinnvolle Nutzung

    • Begriffe auf unterschiedlichem Niveau erklären
    • Übungsfragen und Lernpläne erstellen
    • Sprachliche Barrieren reduzieren
    • Feedback zu einem eigenen Entwurf geben
    • Barrierearme Darstellungen unterstützen

    Risiken

    • Unkritische Übernahme falscher Antworten
    • Preisgabe persönlicher oder schulischer Daten
    • Umgehung eigener Lernleistung
    • Stereotype und ungeeignete Inhalte
    • Abhängigkeit von einem einzelnen kommerziellen Dienst

    Regeln für Lernen mit KI

    1. Eigene Lösung oder Frage zuerst formulieren
    2. Quellen und Aussagen unabhängig prüfen
    3. KI-Beitrag offenlegen, wenn die Aufgabe es verlangt
    4. Keine persönlichen Daten anderer eingeben
    5. Ergebnis erklären können, statt es nur abzugeben

    Pädagogischer Grundsatz

    Die Anforderungen müssen zum Alter, Lernziel und möglichen Risiko passen. Verbote allein vermitteln keine Medien- und KI-Kompetenz.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.