KI Panorama

Suche

Medium oder Format: Text

  • KI-Inhalte kennzeichnen: Transparenz, Deepfakes und Artikel 50

    Der AI Act verlangt je nach Rolle und Inhalt maschinenlesbare Markierungen oder eine verständliche Offenlegung gegenüber Menschen. Besonders relevant sind Chatbots, Deepfakes sowie bestimmte KI-erzeugte Texte zu Themen von öffentlichem Interesse.

    Pflichten der Anbieter

    Anbieter generativer Systeme müssen technisch dafür sorgen, dass erzeugte oder manipulierte Ausgaben soweit technisch machbar maschinenlesbar markiert und als künstlich erzeugt oder verändert erkennbar sind.

    Pflichten der Anwender und Betreiber

    Wer Deepfakes veröffentlicht oder bestimmte KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse verbreitet, muss deren künstliche Natur grundsätzlich offenlegen. Ausnahmen und Details hängen vom konkreten Fall ab.

    Was eine gute Kennzeichnung leisten sollte

    • Direkt am Inhalt oder klar damit verbunden sein
    • Für normale Nutzer verständlich sein
    • Nicht nur in versteckten Metadaten stehen
    • Die Art der Erzeugung oder Bearbeitung nicht übertreiben
    • Bei wesentlichen menschlichen Änderungen entsprechend angepasst werden

    Technik ersetzt keine Redaktion

    Metadaten, Wasserzeichen oder Detektoren können entfernt werden oder Fehler machen. Transparenz braucht deshalb zusätzlich sichtbare Hinweise und redaktionelle Verantwortung.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Checkliste: KI privat sicher und sinnvoll nutzen

    Für private Aufgaben genügt oft eine einfache Regel: keine unnötigen sensiblen Daten, wichtige Aussagen unabhängig prüfen und bei Folgen für Gesundheit, Geld oder Rechte qualifizierte Hilfe einbeziehen.

    Vor der Eingabe

    • Braucht die Aufgabe wirklich persönliche Daten?
    • Ist der Dienst für diese Daten geeignet?
    • Kann ich Namen, Orte und Zahlen durch Platzhalter ersetzen?

    Nach der Ausgabe

    • Sind Tatsachen, Zitate und Links überprüft?
    • Sind Personen unfair oder stereotyp dargestellt?
    • Enthält das Ergebnis vertrauliche oder fremde Inhalte?
    • Darf ich die Ausgabe für meinen Zweck verwenden?

    Vor einer Handlung

    • Welche Folgen hätte ein Fehler?
    • Kann ich die Entscheidung rückgängig machen?
    • Brauche ich eine zweite Quelle oder Fachperson?
    • Ist erkennbar, wenn ein veröffentlichter Inhalt künstlich erzeugt wurde?

    Merksatz

    Je größer der mögliche Schaden, desto weniger darf man sich auf eine ungeprüfte KI-Ausgabe verlassen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • General-Purpose AI: Pflichten für Basismodelle

    General-Purpose-AI-Modelle können viele unterschiedliche Aufgaben unterstützen und bilden oft die technische Grundlage anderer Produkte. Der AI Act richtet deshalb eigene Pflichten an ihre Anbieter. Modelle mit systemischem Risiko unterliegen zusätzlichen Anforderungen zur Bewertung und Minderung von Risiken.

    Grundpflichten

    • Technische Dokumentation für nachgelagerte Anbieter
    • Informationen über Fähigkeiten und Grenzen
    • Vorgaben zum Umgang mit EU-Urheberrecht
    • Öffentliche Zusammenfassung der Trainingsinhalte nach dem vorgesehenen Muster

    Zusätzliche Pflichten bei systemischem Risiko

    • Modellbewertungen und adversariale Tests
    • Bewertung und Minderung systemischer Risiken
    • Meldung schwerwiegender Vorfälle
    • Angemessene Cybersicherheit

    Code of Practice

    Der GPAI Code of Practice ist ein freiwilliges Instrument, mit dem Anbieter die Einhaltung der gesetzlichen Pflichten zu Transparenz, Urheberrecht sowie Sicherheit und Schutz nachweisen können.

    Für normale Anwender

    Die meisten Endnutzer sind keine Anbieter eines Basismodells. Relevant bleibt aber, welche Dokumentation, Lizenz und Sicherheitsinformationen der jeweilige Anbieter bereitstellt.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Checkliste: KI in einer Organisation einführen

    Organisationen sollten nicht mit der Frage beginnen, welches Modell modern ist, sondern welches Problem gelöst werden soll, welche Daten nötig sind und wer für Fehler und Freigaben verantwortlich bleibt.

    1. Einsatzfall definieren

    • Konkrete Aufgabe und erwarteten Nutzen beschreiben
    • Betroffene Personen und mögliche Schäden erfassen
    • Nicht-KI-Alternative und manuelle Ausweichmöglichkeit festlegen

    2. Daten und Anbieter prüfen

    • Datenklassen und Schutzbedarf
    • Vertrag, Speicherort und Unterauftragnehmer
    • Training mit Eingaben und Löschfristen
    • Modellversion, Lizenz und Abhängigkeiten

    3. Pilot kontrollieren

    • Kleine Nutzergruppe und ungefährliche Testdaten
    • Messbare Qualitäts- und Sicherheitskriterien
    • Tests mit schwierigen und missbräuchlichen Eingaben
    • Dokumentierte Freigabe vor produktiver Nutzung

    4. Betrieb organisieren

    • Rollen, Schulung und Support
    • Protokolle, Vorfälle und Beschwerden
    • Regelmäßige Prüfung nach Modell- oder Prozessänderungen
    • Klare Abschalt- und Wechselmöglichkeit

    Rechtliche Prüfung

    Bei personenbezogenen Daten, Beschäftigten, Hochrisiko-Anwendungen oder regulierten Branchen müssen Datenschutz, Mitbestimmung und branchenspezifische Regeln früh geprüft werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Datenschutz bei KI-Modellen: Personenbezug, Anonymität und Rechtsgrundlage

    Der Europäische Datenschutzausschuss betont, dass Anonymität von KI-Modellen im Einzelfall geprüft werden muss. Außerdem müssen Entwicklung und Einsatz eine tragfähige Rechtsgrundlage haben; unrechtmäßig verarbeitete Trainingsdaten können Folgen für die spätere Nutzung des Modells haben.

    Wann ein Modell anonym sein kann

    Entscheidend ist, ob personenbezogene Daten mit Mitteln, die vernünftigerweise eingesetzt werden könnten, direkt oder indirekt aus dem Modell gewonnen werden können. Eine pauschale Aussage für alle Modelle ist nicht möglich.

    Berechtigtes Interesse

    Eine Berufung auf berechtigte Interessen erfordert die übliche dreistufige Prüfung: legitimes Interesse, Erforderlichkeit und Abwägung gegenüber Rechten und Erwartungen betroffener Personen.

    Praktische Maßnahmen

    • Datenminimierung und klare Zweckbindung
    • Prüfung der Herkunft und Rechtmäßigkeit von Trainings- und Eingabedaten
    • Tests auf Memorisation und Datenextraktion
    • Lösch-, Widerspruchs- und Auskunftsprozesse
    • Dokumentation der technischen und organisatorischen Schutzmaßnahmen

    Keine pauschale Freigabe

    Dass Daten öffentlich auffindbar sind oder ein Modell groß ist, macht die Verarbeitung nicht automatisch rechtmäßig oder anonym.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Welche Daten gehören nicht in einen öffentlichen KI-Chat?

    Eine Eingabe in einen Cloud-Dienst ist eine Datenübermittlung an einen externen Anbieter. Ob Inhalte gespeichert, zu Sicherheitszwecken geprüft oder für Produktverbesserung verwendet werden, hängt von Vertrag, Tarif und Einstellungen ab. Vor der Nutzung müssen diese Bedingungen zum Schutzbedarf passen.

    Besonders schützenswerte Inhalte

    • Passwörter, API-Schlüssel und Zugangsdaten
    • Gesundheitsdaten und intime Informationen
    • Unveröffentlichte Kunden- oder Personaldaten
    • Vertrags-, Steuer- oder Rechtsunterlagen
    • Geschäftsgeheimnisse, Quellcode und interne Sicherheitsinformationen

    Sicherer Arbeitsablauf

    1. Aufgabe zuerst ohne vertrauliche Details formulieren
    2. Daten anonymisieren oder durch Platzhalter ersetzen
    3. Nur freigegebene Unternehmensdienste verwenden
    4. Speicher-, Trainings- und Löschoptionen prüfen
    5. Ausgaben vor weiterer Verwendung auf unbeabsichtigte Offenlegung kontrollieren

    Wichtige Grenze

    Anonymisieren bedeutet mehr als Namen zu entfernen. Kombinationen aus Ort, Datum, Funktion oder seltenen Eigenschaften können eine Person weiterhin identifizierbar machen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Lokale KI oder Cloud: Datenschutz ist mehr als der Speicherort

    Bei lokaler KI bleiben Eingaben grundsätzlich auf dem eigenen System, sofern keine Zusatzdienste Daten übertragen. Dafür liegen Aktualisierung, Zugriffsschutz, Backups und Protokollierung stärker in der eigenen Verantwortung. Cloud-Systeme können professionell abgesichert sein, benötigen aber passende Verträge und Einstellungen.

    Lokale Vorteile

    • Keine notwendige Übertragung an einen externen KI-Dienst
    • Bessere Kontrolle über Aufbewahrung und Löschung
    • Einsatz in abgeschotteten Netzen möglich

    Lokale Risiken

    • Unsichere Installation oder veraltete Komponenten
    • Unverschlüsselte Dateien und Backups
    • Modelle oder Erweiterungen aus unbekannten Quellen
    • Fehlende Rechte- und Protokollverwaltung

    Cloud-Prüfpunkte

    • Vertrag und Auftragsverarbeitung
    • Speicherort und Unterauftragnehmer
    • Nutzung von Eingaben für Training oder Qualitätskontrolle
    • Löschfristen und Exportmöglichkeiten
    • Identitäts-, Rollen- und Protokollfunktionen

    Entscheidungsregel

    Schutzbedarf, technische Fähigkeiten, Vertrag und tatsächlicher Datenfluss müssen gemeinsam bewertet werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Urheberrecht und generative KI: die wichtigsten Fragen

    Es gibt keine einzelne pauschale Antwort auf die Frage, ob KI-Inhalte frei genutzt werden dürfen. Maßgeblich sind unter anderem die verwendeten Vorlagen, die Lizenzbedingungen des Dienstes, mögliche Ähnlichkeiten zu geschützten Werken, Persönlichkeits- und Markenrechte sowie die konkrete Rechtsordnung.

    Vier getrennte Ebenen

    • Dürfen Werke für Training oder Text- und Data-Mining verarbeitet werden?
    • Darf ein Werk oder eine geschützte Figur als Eingabe verwendet werden?
    • Enthält die Ausgabe geschützte Elemente oder unzulässige Ähnlichkeiten?
    • Welche Rechte räumt der Anbieter an der Ausgabe ein?

    Menschlicher Beitrag

    Ob eine Ausgabe selbst urheberrechtlich geschützt ist, hängt in vielen Rechtsordnungen vom menschlichen kreativen Beitrag ab. Eine bloße Maschinenausgabe ist nicht automatisch ein geschütztes Werk.

    Praktische Vorsicht

    • Keine vertrauten Logos, Figuren oder Künstlerstile als pauschale Freigabe behandeln
    • Bei kommerzieller Nutzung Anbieterbedingungen und Herkunft der Bestandteile prüfen
    • Entstehungsprozess, Eingaben und Bearbeitungsschritte dokumentieren
    • Bei erheblichen wirtschaftlichen Risiken fachkundige Rechtsprüfung einholen

    Keine Rechtsberatung

    Der Artikel erklärt Fragestellungen und ersetzt keine Prüfung eines konkreten Werkes oder Nutzungsfalls.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Content Credentials und C2PA: Herkunft statt KI-Detektor

    C2PA verfolgt einen Herkunftsansatz: Ein Manifest kann dokumentieren, welches Gerät oder Programm einen Inhalt erzeugt oder verändert hat. Das beweist nicht, dass eine Aussage wahr ist, schafft aber überprüfbare Informationen über die Bearbeitungskette.

    Was gespeichert werden kann

    • Herkunft eines Bildes, Videos, Audios oder Dokuments
    • Verwendete Anwendungen und Bearbeitungsschritte
    • Zeitpunkte und kryptografische Bindungen an den Inhalt
    • Hinweise auf generative oder manipulative Verarbeitung

    Was es nicht beweist

    • Dass die dargestellte Szene tatsächlich stattgefunden hat
    • Dass alle früheren Bearbeitungsschritte vollständig dokumentiert wurden
    • Dass ein Inhalt ohne Credentials automatisch falsch ist
    • Dass Metadaten niemals entfernt oder durch Plattformen verloren gehen

    Vorteil gegenüber Detektoren

    Ein Detektor versucht aus dem fertigen Inhalt zu raten, ob KI beteiligt war. Provenienzsysteme dokumentieren dagegen den Entstehungs- und Bearbeitungsweg, sofern beteiligte Werkzeuge sie unterstützen.

    Praxis

    Bei eigener Medienproduktion Credentials möglichst erhalten, sichtbare Kennzeichnungen ergänzen und die Originaldateien sicher archivieren.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Desinformation mit KI: Geschwindigkeit, Umfang und Glaubwürdigkeit

    Das Risiko entsteht aus der Kombination von massenhafter Produktion, gezielter Ansprache, glaubwürdig wirkenden Medien und schneller Verbreitung. Gegenmaßnahmen müssen daher nicht nur einzelne Fälschungen erkennen, sondern auch Quellen, Verteilung und Anreize betrachten.

    Typische Muster

    • Erfundene Zitate und Dokumente
    • Imitierte Stimmen für Betrug oder Rufschädigung
    • Bilder realer Ereignisse in falschem Kontext
    • Viele leicht veränderte Beiträge zur künstlichen Verstärkung
    • Automatisierte Konten und personalisierte Nachrichten

    Robuste Gegenmaßnahmen

    • Verifizierte Kommunikationskanäle für offizielle Aussagen
    • Vier-Augen-Prinzip bei finanziellen oder sicherheitskritischen Anweisungen
    • Schnelle öffentliche Korrekturen mit Belegen
    • Archivierung von Originalmaterial und Herkunftsinformationen
    • Medienkompetenz statt Vertrauen in einen einzigen Detektor

    Nicht vorschnell als KI bezeichnen

    Auch echte Inhalte können ungewöhnlich aussehen. Eine falsche Deepfake-Behauptung kann selbst zur Desinformation werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.