KI Panorama

Wissensstufe: Einfach

  • KI-Inhalte kennzeichnen: Transparenz, Deepfakes und Artikel 50

    Der AI Act verlangt je nach Rolle und Inhalt maschinenlesbare Markierungen oder eine verständliche Offenlegung gegenüber Menschen. Besonders relevant sind Chatbots, Deepfakes sowie bestimmte KI-erzeugte Texte zu Themen von öffentlichem Interesse.

    Pflichten der Anbieter

    Anbieter generativer Systeme müssen technisch dafür sorgen, dass erzeugte oder manipulierte Ausgaben soweit technisch machbar maschinenlesbar markiert und als künstlich erzeugt oder verändert erkennbar sind.

    Pflichten der Anwender und Betreiber

    Wer Deepfakes veröffentlicht oder bestimmte KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse verbreitet, muss deren künstliche Natur grundsätzlich offenlegen. Ausnahmen und Details hängen vom konkreten Fall ab.

    Was eine gute Kennzeichnung leisten sollte

    • Direkt am Inhalt oder klar damit verbunden sein
    • Für normale Nutzer verständlich sein
    • Nicht nur in versteckten Metadaten stehen
    • Die Art der Erzeugung oder Bearbeitung nicht übertreiben
    • Bei wesentlichen menschlichen Änderungen entsprechend angepasst werden

    Technik ersetzt keine Redaktion

    Metadaten, Wasserzeichen oder Detektoren können entfernt werden oder Fehler machen. Transparenz braucht deshalb zusätzlich sichtbare Hinweise und redaktionelle Verantwortung.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Welche Daten gehören nicht in einen öffentlichen KI-Chat?

    Eine Eingabe in einen Cloud-Dienst ist eine Datenübermittlung an einen externen Anbieter. Ob Inhalte gespeichert, zu Sicherheitszwecken geprüft oder für Produktverbesserung verwendet werden, hängt von Vertrag, Tarif und Einstellungen ab. Vor der Nutzung müssen diese Bedingungen zum Schutzbedarf passen.

    Besonders schützenswerte Inhalte

    • Passwörter, API-Schlüssel und Zugangsdaten
    • Gesundheitsdaten und intime Informationen
    • Unveröffentlichte Kunden- oder Personaldaten
    • Vertrags-, Steuer- oder Rechtsunterlagen
    • Geschäftsgeheimnisse, Quellcode und interne Sicherheitsinformationen

    Sicherer Arbeitsablauf

    1. Aufgabe zuerst ohne vertrauliche Details formulieren
    2. Daten anonymisieren oder durch Platzhalter ersetzen
    3. Nur freigegebene Unternehmensdienste verwenden
    4. Speicher-, Trainings- und Löschoptionen prüfen
    5. Ausgaben vor weiterer Verwendung auf unbeabsichtigte Offenlegung kontrollieren

    Wichtige Grenze

    Anonymisieren bedeutet mehr als Namen zu entfernen. Kombinationen aus Ort, Datum, Funktion oder seltenen Eigenschaften können eine Person weiterhin identifizierbar machen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Lokale KI oder Cloud: Datenschutz ist mehr als der Speicherort

    Bei lokaler KI bleiben Eingaben grundsätzlich auf dem eigenen System, sofern keine Zusatzdienste Daten übertragen. Dafür liegen Aktualisierung, Zugriffsschutz, Backups und Protokollierung stärker in der eigenen Verantwortung. Cloud-Systeme können professionell abgesichert sein, benötigen aber passende Verträge und Einstellungen.

    Lokale Vorteile

    • Keine notwendige Übertragung an einen externen KI-Dienst
    • Bessere Kontrolle über Aufbewahrung und Löschung
    • Einsatz in abgeschotteten Netzen möglich

    Lokale Risiken

    • Unsichere Installation oder veraltete Komponenten
    • Unverschlüsselte Dateien und Backups
    • Modelle oder Erweiterungen aus unbekannten Quellen
    • Fehlende Rechte- und Protokollverwaltung

    Cloud-Prüfpunkte

    • Vertrag und Auftragsverarbeitung
    • Speicherort und Unterauftragnehmer
    • Nutzung von Eingaben für Training oder Qualitätskontrolle
    • Löschfristen und Exportmöglichkeiten
    • Identitäts-, Rollen- und Protokollfunktionen

    Entscheidungsregel

    Schutzbedarf, technische Fähigkeiten, Vertrag und tatsächlicher Datenfluss müssen gemeinsam bewertet werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Urheberrecht und generative KI: die wichtigsten Fragen

    Es gibt keine einzelne pauschale Antwort auf die Frage, ob KI-Inhalte frei genutzt werden dürfen. Maßgeblich sind unter anderem die verwendeten Vorlagen, die Lizenzbedingungen des Dienstes, mögliche Ähnlichkeiten zu geschützten Werken, Persönlichkeits- und Markenrechte sowie die konkrete Rechtsordnung.

    Vier getrennte Ebenen

    • Dürfen Werke für Training oder Text- und Data-Mining verarbeitet werden?
    • Darf ein Werk oder eine geschützte Figur als Eingabe verwendet werden?
    • Enthält die Ausgabe geschützte Elemente oder unzulässige Ähnlichkeiten?
    • Welche Rechte räumt der Anbieter an der Ausgabe ein?

    Menschlicher Beitrag

    Ob eine Ausgabe selbst urheberrechtlich geschützt ist, hängt in vielen Rechtsordnungen vom menschlichen kreativen Beitrag ab. Eine bloße Maschinenausgabe ist nicht automatisch ein geschütztes Werk.

    Praktische Vorsicht

    • Keine vertrauten Logos, Figuren oder Künstlerstile als pauschale Freigabe behandeln
    • Bei kommerzieller Nutzung Anbieterbedingungen und Herkunft der Bestandteile prüfen
    • Entstehungsprozess, Eingaben und Bearbeitungsschritte dokumentieren
    • Bei erheblichen wirtschaftlichen Risiken fachkundige Rechtsprüfung einholen

    Keine Rechtsberatung

    Der Artikel erklärt Fragestellungen und ersetzt keine Prüfung eines konkreten Werkes oder Nutzungsfalls.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Content Credentials und C2PA: Herkunft statt KI-Detektor

    C2PA verfolgt einen Herkunftsansatz: Ein Manifest kann dokumentieren, welches Gerät oder Programm einen Inhalt erzeugt oder verändert hat. Das beweist nicht, dass eine Aussage wahr ist, schafft aber überprüfbare Informationen über die Bearbeitungskette.

    Was gespeichert werden kann

    • Herkunft eines Bildes, Videos, Audios oder Dokuments
    • Verwendete Anwendungen und Bearbeitungsschritte
    • Zeitpunkte und kryptografische Bindungen an den Inhalt
    • Hinweise auf generative oder manipulative Verarbeitung

    Was es nicht beweist

    • Dass die dargestellte Szene tatsächlich stattgefunden hat
    • Dass alle früheren Bearbeitungsschritte vollständig dokumentiert wurden
    • Dass ein Inhalt ohne Credentials automatisch falsch ist
    • Dass Metadaten niemals entfernt oder durch Plattformen verloren gehen

    Vorteil gegenüber Detektoren

    Ein Detektor versucht aus dem fertigen Inhalt zu raten, ob KI beteiligt war. Provenienzsysteme dokumentieren dagegen den Entstehungs- und Bearbeitungsweg, sofern beteiligte Werkzeuge sie unterstützen.

    Praxis

    Bei eigener Medienproduktion Credentials möglichst erhalten, sichtbare Kennzeichnungen ergänzen und die Originaldateien sicher archivieren.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Deepfakes erkennen: Warum Augenmaß wichtiger ist als ein Detektor

    Generative Systeme können Bild, Audio und Video sehr überzeugend verändern. Gleichzeitig erzeugen Kompression, Schnitt, schlechte Verbindung und normale Bearbeitung ähnliche Artefakte. Eine belastbare Prüfung kombiniert Quelle, Kontext, Herkunftsdaten und unabhängige Bestätigung.

    Prüfung in fünf Schritten

    1. Originalquelle und früheste Veröffentlichung suchen
    2. Datum, Ort und behaupteten Kontext prüfen
    3. Mit unabhängigen seriösen Quellen vergleichen
    4. Nach Schnitten, unpassenden Reflexionen oder Tonübergängen suchen, ohne einzelne Artefakte zu überbewerten
    5. Vorhandene Content Credentials oder Originaldateien prüfen

    Detektoren richtig einordnen

    Detektoren liefern Wahrscheinlichkeiten und können durch neue Generatoren, Bearbeitung oder Kompression versagen. Ihr Ergebnis ist ein Hinweis, kein Beweis.

    Bei Stimmen

    Eine vertraut klingende Stimme ist kein Identitätsnachweis. Bei Geldforderungen oder dringenden Anweisungen immer über einen zweiten, bekannten Kommunikationsweg rückfragen.

    Bei akuter Gefahr

    Betrugsversuche dokumentieren, nicht weiterverbreiten und bei Bedarf Plattform, Bank oder zuständige Behörden kontaktieren.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Desinformation mit KI: Geschwindigkeit, Umfang und Glaubwürdigkeit

    Das Risiko entsteht aus der Kombination von massenhafter Produktion, gezielter Ansprache, glaubwürdig wirkenden Medien und schneller Verbreitung. Gegenmaßnahmen müssen daher nicht nur einzelne Fälschungen erkennen, sondern auch Quellen, Verteilung und Anreize betrachten.

    Typische Muster

    • Erfundene Zitate und Dokumente
    • Imitierte Stimmen für Betrug oder Rufschädigung
    • Bilder realer Ereignisse in falschem Kontext
    • Viele leicht veränderte Beiträge zur künstlichen Verstärkung
    • Automatisierte Konten und personalisierte Nachrichten

    Robuste Gegenmaßnahmen

    • Verifizierte Kommunikationskanäle für offizielle Aussagen
    • Vier-Augen-Prinzip bei finanziellen oder sicherheitskritischen Anweisungen
    • Schnelle öffentliche Korrekturen mit Belegen
    • Archivierung von Originalmaterial und Herkunftsinformationen
    • Medienkompetenz statt Vertrauen in einen einzigen Detektor

    Nicht vorschnell als KI bezeichnen

    Auch echte Inhalte können ungewöhnlich aussehen. Eine falsche Deepfake-Behauptung kann selbst zur Desinformation werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • KI-Agenten sicher einsetzen: Rechte, Freigaben und Protokolle

    Die wichtigste Sicherheitsregel lautet: Ein Agent erhält nur die Rechte, Daten und Werkzeuge, die für die konkrete Aufgabe notwendig sind. Kritische oder irreversible Aktionen werden nicht allein aufgrund einer Modellausgabe ausgeführt.

    Mindestmaßnahmen

    • Getrenntes Benutzerkonto mit minimalen Rechten
    • Lesen und Schreiben getrennt freigeben
    • Bestätigung vor Versand, Löschung, Kauf oder Veröffentlichung
    • Grenzen für Kosten, Laufzeit und Anzahl von Aktionen
    • Vollständige Protokolle und nachvollziehbare Werkzeugaufrufe
    • Sicherer Abbruch und Übergabe an einen Menschen

    Externe Inhalte

    Webseiten, E-Mails und Dokumente können versteckte Anweisungen enthalten. Der Agent darf sie nicht als gleichrangig mit den vom Betreiber festgelegten Regeln behandeln.

    Testen

    Vor produktivem Einsatz mit Testkonten, künstlichen Daten, Angriffsszenarien und absichtlich widersprüchlichen Eingaben prüfen.

    Private Nutzung

    Auch ein privater Assistent sollte nicht uneingeschränkt auf Passwortspeicher, Bankkonten, private Nachrichten und alle Dateien zugleich zugreifen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Bias und Diskriminierung: Warum neutrale Daten nicht automatisch neutral sind

    Verzerrungen entstehen nicht nur im Modell. Sie können aus der Auswahl der Aufgabe, unvollständigen Daten, historischen Entscheidungen, Beschriftungen, Zielgrößen oder dem Einsatzkontext stammen. Ein Gesamtergebnis kann trotz guter Durchschnittswerte einzelne Gruppen benachteiligen.

    Typische Ursachen

    • Unterrepräsentierte Gruppen in Trainings- oder Testdaten
    • Historische Daten spiegeln frühere Diskriminierung
    • Stellvertretermerkmale korrelieren mit geschützten Eigenschaften
    • Fehlerhafte oder uneinheitliche Beschriftungen
    • Optimierung auf eine Kennzahl, die reale Folgen nicht abbildet

    Sinnvolle Prüfung

    • Betroffene Gruppen und Schadensarten vorab bestimmen
    • Ergebnisse getrennt nach relevanten Gruppen auswerten
    • Fehlerfälle qualitativ untersuchen
    • Beschwerden und Korrekturmöglichkeiten schaffen
    • System und Arbeitsprozess gemeinsam beurteilen

    Grenze technischer Fairnessmetriken

    Unterschiedliche Fairnessziele können sich widersprechen. Welche Abwägung vertretbar ist, ist nicht nur eine mathematische, sondern auch eine rechtliche und gesellschaftliche Frage.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Menschliche Kontrolle: Mehr als ein Bestätigungsbutton

    Ein Mensch in der Schleife verhindert Fehler nicht automatisch. Zeitdruck, Automatisierungsvertrauen, unklare Zuständigkeit oder fehlende Alternativen können die Kontrolle wirkungslos machen. Gute Aufsicht ist organisatorisch und technisch vorbereitet.

    Wirksame Aufsicht braucht

    • Verständliche Informationen über Zweck, Grenzen und Unsicherheit
    • Ausreichend Zeit und Fachkenntnis für eine Prüfung
    • Zugriff auf zugrunde liegende Daten und Begründungen soweit möglich
    • Befugnis, das Ergebnis zu ändern oder das System abzuschalten
    • Einen funktionierenden manuellen Ersatzprozess

    Warnzeichen

    • Menschen bestätigen fast alle Vorschläge ungeprüft
    • Abweichungen müssen aufwendig begründet werden
    • Leistungsziele lassen keine reale Prüfzeit
    • Es gibt keine Aufzeichnung, wer entschieden hat
    • Betroffene können eine Entscheidung nicht anfechten

    Besonders wichtig

    Bei Entscheidungen über Gesundheit, Beschäftigung, Bildung, Kredit, Versicherung, Recht oder staatliche Leistungen darf KI nicht als unfehlbare Autorität behandelt werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.