KI Panorama

Suche

Thema: Medienkompetenz

  • KI-Inhalte kennzeichnen: Transparenz, Deepfakes und Artikel 50

    Der AI Act verlangt je nach Rolle und Inhalt maschinenlesbare Markierungen oder eine verständliche Offenlegung gegenüber Menschen. Besonders relevant sind Chatbots, Deepfakes sowie bestimmte KI-erzeugte Texte zu Themen von öffentlichem Interesse.

    Pflichten der Anbieter

    Anbieter generativer Systeme müssen technisch dafür sorgen, dass erzeugte oder manipulierte Ausgaben soweit technisch machbar maschinenlesbar markiert und als künstlich erzeugt oder verändert erkennbar sind.

    Pflichten der Anwender und Betreiber

    Wer Deepfakes veröffentlicht oder bestimmte KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse verbreitet, muss deren künstliche Natur grundsätzlich offenlegen. Ausnahmen und Details hängen vom konkreten Fall ab.

    Was eine gute Kennzeichnung leisten sollte

    • Direkt am Inhalt oder klar damit verbunden sein
    • Für normale Nutzer verständlich sein
    • Nicht nur in versteckten Metadaten stehen
    • Die Art der Erzeugung oder Bearbeitung nicht übertreiben
    • Bei wesentlichen menschlichen Änderungen entsprechend angepasst werden

    Technik ersetzt keine Redaktion

    Metadaten, Wasserzeichen oder Detektoren können entfernt werden oder Fehler machen. Transparenz braucht deshalb zusätzlich sichtbare Hinweise und redaktionelle Verantwortung.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Content Credentials und C2PA: Herkunft statt KI-Detektor

    C2PA verfolgt einen Herkunftsansatz: Ein Manifest kann dokumentieren, welches Gerät oder Programm einen Inhalt erzeugt oder verändert hat. Das beweist nicht, dass eine Aussage wahr ist, schafft aber überprüfbare Informationen über die Bearbeitungskette.

    Was gespeichert werden kann

    • Herkunft eines Bildes, Videos, Audios oder Dokuments
    • Verwendete Anwendungen und Bearbeitungsschritte
    • Zeitpunkte und kryptografische Bindungen an den Inhalt
    • Hinweise auf generative oder manipulative Verarbeitung

    Was es nicht beweist

    • Dass die dargestellte Szene tatsächlich stattgefunden hat
    • Dass alle früheren Bearbeitungsschritte vollständig dokumentiert wurden
    • Dass ein Inhalt ohne Credentials automatisch falsch ist
    • Dass Metadaten niemals entfernt oder durch Plattformen verloren gehen

    Vorteil gegenüber Detektoren

    Ein Detektor versucht aus dem fertigen Inhalt zu raten, ob KI beteiligt war. Provenienzsysteme dokumentieren dagegen den Entstehungs- und Bearbeitungsweg, sofern beteiligte Werkzeuge sie unterstützen.

    Praxis

    Bei eigener Medienproduktion Credentials möglichst erhalten, sichtbare Kennzeichnungen ergänzen und die Originaldateien sicher archivieren.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Deepfakes erkennen: Warum Augenmaß wichtiger ist als ein Detektor

    Generative Systeme können Bild, Audio und Video sehr überzeugend verändern. Gleichzeitig erzeugen Kompression, Schnitt, schlechte Verbindung und normale Bearbeitung ähnliche Artefakte. Eine belastbare Prüfung kombiniert Quelle, Kontext, Herkunftsdaten und unabhängige Bestätigung.

    Prüfung in fünf Schritten

    1. Originalquelle und früheste Veröffentlichung suchen
    2. Datum, Ort und behaupteten Kontext prüfen
    3. Mit unabhängigen seriösen Quellen vergleichen
    4. Nach Schnitten, unpassenden Reflexionen oder Tonübergängen suchen, ohne einzelne Artefakte zu überbewerten
    5. Vorhandene Content Credentials oder Originaldateien prüfen

    Detektoren richtig einordnen

    Detektoren liefern Wahrscheinlichkeiten und können durch neue Generatoren, Bearbeitung oder Kompression versagen. Ihr Ergebnis ist ein Hinweis, kein Beweis.

    Bei Stimmen

    Eine vertraut klingende Stimme ist kein Identitätsnachweis. Bei Geldforderungen oder dringenden Anweisungen immer über einen zweiten, bekannten Kommunikationsweg rückfragen.

    Bei akuter Gefahr

    Betrugsversuche dokumentieren, nicht weiterverbreiten und bei Bedarf Plattform, Bank oder zuständige Behörden kontaktieren.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Desinformation mit KI: Geschwindigkeit, Umfang und Glaubwürdigkeit

    Das Risiko entsteht aus der Kombination von massenhafter Produktion, gezielter Ansprache, glaubwürdig wirkenden Medien und schneller Verbreitung. Gegenmaßnahmen müssen daher nicht nur einzelne Fälschungen erkennen, sondern auch Quellen, Verteilung und Anreize betrachten.

    Typische Muster

    • Erfundene Zitate und Dokumente
    • Imitierte Stimmen für Betrug oder Rufschädigung
    • Bilder realer Ereignisse in falschem Kontext
    • Viele leicht veränderte Beiträge zur künstlichen Verstärkung
    • Automatisierte Konten und personalisierte Nachrichten

    Robuste Gegenmaßnahmen

    • Verifizierte Kommunikationskanäle für offizielle Aussagen
    • Vier-Augen-Prinzip bei finanziellen oder sicherheitskritischen Anweisungen
    • Schnelle öffentliche Korrekturen mit Belegen
    • Archivierung von Originalmaterial und Herkunftsinformationen
    • Medienkompetenz statt Vertrauen in einen einzigen Detektor

    Nicht vorschnell als KI bezeichnen

    Auch echte Inhalte können ungewöhnlich aussehen. Eine falsche Deepfake-Behauptung kann selbst zur Desinformation werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Kinder, Jugendliche und KI: Schutz, Lernen und Eigenständigkeit

    Kinder und Jugendliche benötigen altersgerechte Erklärungen über Fehler, Datenverarbeitung und künstlich erzeugte Inhalte. Aufgaben sollten so gestaltet sein, dass Denken, Quellenprüfung und eigene Ausdrucksfähigkeit sichtbar bleiben.

    Sinnvolle Nutzung

    • Begriffe auf unterschiedlichem Niveau erklären
    • Übungsfragen und Lernpläne erstellen
    • Sprachliche Barrieren reduzieren
    • Feedback zu einem eigenen Entwurf geben
    • Barrierearme Darstellungen unterstützen

    Risiken

    • Unkritische Übernahme falscher Antworten
    • Preisgabe persönlicher oder schulischer Daten
    • Umgehung eigener Lernleistung
    • Stereotype und ungeeignete Inhalte
    • Abhängigkeit von einem einzelnen kommerziellen Dienst

    Regeln für Lernen mit KI

    1. Eigene Lösung oder Frage zuerst formulieren
    2. Quellen und Aussagen unabhängig prüfen
    3. KI-Beitrag offenlegen, wenn die Aufgabe es verlangt
    4. Keine persönlichen Daten anderer eingeben
    5. Ergebnis erklären können, statt es nur abzugeben

    Pädagogischer Grundsatz

    Die Anforderungen müssen zum Alter, Lernziel und möglichen Risiko passen. Verbote allein vermitteln keine Medien- und KI-Kompetenz.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Checkliste: KI privat sicher und sinnvoll nutzen

    Für private Aufgaben genügt oft eine einfache Regel: keine unnötigen sensiblen Daten, wichtige Aussagen unabhängig prüfen und bei Folgen für Gesundheit, Geld oder Rechte qualifizierte Hilfe einbeziehen.

    Vor der Eingabe

    • Braucht die Aufgabe wirklich persönliche Daten?
    • Ist der Dienst für diese Daten geeignet?
    • Kann ich Namen, Orte und Zahlen durch Platzhalter ersetzen?

    Nach der Ausgabe

    • Sind Tatsachen, Zitate und Links überprüft?
    • Sind Personen unfair oder stereotyp dargestellt?
    • Enthält das Ergebnis vertrauliche oder fremde Inhalte?
    • Darf ich die Ausgabe für meinen Zweck verwenden?

    Vor einer Handlung

    • Welche Folgen hätte ein Fehler?
    • Kann ich die Entscheidung rückgängig machen?
    • Brauche ich eine zweite Quelle oder Fachperson?
    • Ist erkennbar, wenn ein veröffentlichter Inhalt künstlich erzeugt wurde?

    Merksatz

    Je größer der mögliche Schaden, desto weniger darf man sich auf eine ungeprüfte KI-Ausgabe verlassen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.