KI Panorama

Reifegrad: Verfügbar

  • Stem-Separation und KI-Audiobearbeitung

    Source-Separation-Modelle zerlegen eine gemischte Aufnahme in geschätzte Einzelbestandteile, etwa Gesang, Schlagzeug, Bass und Begleitung. Andere Modelle reduzieren Rauschen, verbessern Sprache oder erzeugen passende Geräusche.

    Typische Anwendungen

    • Gesang und Instrumental trennen
    • alte Aufnahmen restaurieren
    • Dialog verständlicher machen
    • Remix- und Übungsfassungen erstellen
    • Ton für Videos ergänzen

    Keine perfekte Rückgewinnung

    Die getrennten Spuren sind Schätzungen. Wenn sich Frequenzen und Klänge stark überlagern, können Artefakte oder Teile anderer Instrumente hörbar bleiben.

    Rechte beachten

    Technische Trennung schafft keine neuen Nutzungsrechte. Auch isolierte Stimmen oder Instrumente bleiben Bestandteile einer geschützten Aufnahme.

    Qualitätsprüfung

    • Kopfhörer und Lautsprecher verwenden
    • Übergänge und leise Passagen prüfen
    • Phasen- und Hallartefakte kontrollieren
    • Original und bearbeitete Version archivieren

    Quellen und Prüfstand

    Prüfstand: 28.07.2026. Produktfunktionen, Nutzungsbedingungen und Rechte können sich ändern und müssen vor einer Veröffentlichung beim jeweiligen Anbieter geprüft werden.

  • Wie KI Bilder erzeugt

    Bildgeneratoren erzeugen Bilder nicht durch das Kopieren eines einzelnen Vorbilds. Sie berechnen aus gelernten Mustern schrittweise neue Bildinhalte, die zu Text, Referenzbildern und Bearbeitungsanweisungen passen.

    Einfach erklärt

    Ein Bildmodell hat während des Trainings Zusammenhänge zwischen Bildmerkmalen und Sprache gelernt. Bei der Erzeugung startet es mit einer internen Repräsentation und formt daraus schrittweise ein Bild, das zur Beschreibung passt.

    Was als Eingabe möglich ist

    • Textbeschreibung
    • ein oder mehrere Referenzbilder
    • Masken oder markierte Bildbereiche
    • Vorgaben zu Format, Perspektive, Stil und Bildaufbau

    Was heute gut funktioniert

    Illustrationen, Entwürfe, Produktkonzepte, Hintergründe, Variationen und gezielte Bildbearbeitung sind heute praktisch nutzbar. Kleine Schriften, genaue Geometrie, komplexe Hände oder dauerhaft identische Figuren können weiterhin Qualitätskontrolle und Nacharbeit erfordern.

    Wichtige Qualitätskontrolle

    • Sind Text und Logos korrekt?
    • Stimmen Hände, Schatten, Spiegelungen und Perspektive?
    • Ist das Ergebnis rechtlich und inhaltlich verwendbar?
    • Wurde ein reales Ereignis oder eine reale Person irreführend dargestellt?

    Quellen und Prüfstand

    Prüfstand: 28.07.2026. Produktfunktionen, Nutzungsbedingungen und Rechte können sich ändern und müssen vor einer Veröffentlichung beim jeweiligen Anbieter geprüft werden.

  • Urheberrecht und generative KI: die wichtigsten Fragen

    Es gibt keine einzelne pauschale Antwort auf die Frage, ob KI-Inhalte frei genutzt werden dürfen. Maßgeblich sind unter anderem die verwendeten Vorlagen, die Lizenzbedingungen des Dienstes, mögliche Ähnlichkeiten zu geschützten Werken, Persönlichkeits- und Markenrechte sowie die konkrete Rechtsordnung.

    Vier getrennte Ebenen

    • Dürfen Werke für Training oder Text- und Data-Mining verarbeitet werden?
    • Darf ein Werk oder eine geschützte Figur als Eingabe verwendet werden?
    • Enthält die Ausgabe geschützte Elemente oder unzulässige Ähnlichkeiten?
    • Welche Rechte räumt der Anbieter an der Ausgabe ein?

    Menschlicher Beitrag

    Ob eine Ausgabe selbst urheberrechtlich geschützt ist, hängt in vielen Rechtsordnungen vom menschlichen kreativen Beitrag ab. Eine bloße Maschinenausgabe ist nicht automatisch ein geschütztes Werk.

    Praktische Vorsicht

    • Keine vertrauten Logos, Figuren oder Künstlerstile als pauschale Freigabe behandeln
    • Bei kommerzieller Nutzung Anbieterbedingungen und Herkunft der Bestandteile prüfen
    • Entstehungsprozess, Eingaben und Bearbeitungsschritte dokumentieren
    • Bei erheblichen wirtschaftlichen Risiken fachkundige Rechtsprüfung einholen

    Keine Rechtsberatung

    Der Artikel erklärt Fragestellungen und ersetzt keine Prüfung eines konkreten Werkes oder Nutzungsfalls.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Content Credentials und C2PA: Herkunft statt KI-Detektor

    C2PA verfolgt einen Herkunftsansatz: Ein Manifest kann dokumentieren, welches Gerät oder Programm einen Inhalt erzeugt oder verändert hat. Das beweist nicht, dass eine Aussage wahr ist, schafft aber überprüfbare Informationen über die Bearbeitungskette.

    Was gespeichert werden kann

    • Herkunft eines Bildes, Videos, Audios oder Dokuments
    • Verwendete Anwendungen und Bearbeitungsschritte
    • Zeitpunkte und kryptografische Bindungen an den Inhalt
    • Hinweise auf generative oder manipulative Verarbeitung

    Was es nicht beweist

    • Dass die dargestellte Szene tatsächlich stattgefunden hat
    • Dass alle früheren Bearbeitungsschritte vollständig dokumentiert wurden
    • Dass ein Inhalt ohne Credentials automatisch falsch ist
    • Dass Metadaten niemals entfernt oder durch Plattformen verloren gehen

    Vorteil gegenüber Detektoren

    Ein Detektor versucht aus dem fertigen Inhalt zu raten, ob KI beteiligt war. Provenienzsysteme dokumentieren dagegen den Entstehungs- und Bearbeitungsweg, sofern beteiligte Werkzeuge sie unterstützen.

    Praxis

    Bei eigener Medienproduktion Credentials möglichst erhalten, sichtbare Kennzeichnungen ergänzen und die Originaldateien sicher archivieren.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Deepfakes erkennen: Warum Augenmaß wichtiger ist als ein Detektor

    Generative Systeme können Bild, Audio und Video sehr überzeugend verändern. Gleichzeitig erzeugen Kompression, Schnitt, schlechte Verbindung und normale Bearbeitung ähnliche Artefakte. Eine belastbare Prüfung kombiniert Quelle, Kontext, Herkunftsdaten und unabhängige Bestätigung.

    Prüfung in fünf Schritten

    1. Originalquelle und früheste Veröffentlichung suchen
    2. Datum, Ort und behaupteten Kontext prüfen
    3. Mit unabhängigen seriösen Quellen vergleichen
    4. Nach Schnitten, unpassenden Reflexionen oder Tonübergängen suchen, ohne einzelne Artefakte zu überbewerten
    5. Vorhandene Content Credentials oder Originaldateien prüfen

    Detektoren richtig einordnen

    Detektoren liefern Wahrscheinlichkeiten und können durch neue Generatoren, Bearbeitung oder Kompression versagen. Ihr Ergebnis ist ein Hinweis, kein Beweis.

    Bei Stimmen

    Eine vertraut klingende Stimme ist kein Identitätsnachweis. Bei Geldforderungen oder dringenden Anweisungen immer über einen zweiten, bekannten Kommunikationsweg rückfragen.

    Bei akuter Gefahr

    Betrugsversuche dokumentieren, nicht weiterverbreiten und bei Bedarf Plattform, Bank oder zuständige Behörden kontaktieren.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Desinformation mit KI: Geschwindigkeit, Umfang und Glaubwürdigkeit

    Das Risiko entsteht aus der Kombination von massenhafter Produktion, gezielter Ansprache, glaubwürdig wirkenden Medien und schneller Verbreitung. Gegenmaßnahmen müssen daher nicht nur einzelne Fälschungen erkennen, sondern auch Quellen, Verteilung und Anreize betrachten.

    Typische Muster

    • Erfundene Zitate und Dokumente
    • Imitierte Stimmen für Betrug oder Rufschädigung
    • Bilder realer Ereignisse in falschem Kontext
    • Viele leicht veränderte Beiträge zur künstlichen Verstärkung
    • Automatisierte Konten und personalisierte Nachrichten

    Robuste Gegenmaßnahmen

    • Verifizierte Kommunikationskanäle für offizielle Aussagen
    • Vier-Augen-Prinzip bei finanziellen oder sicherheitskritischen Anweisungen
    • Schnelle öffentliche Korrekturen mit Belegen
    • Archivierung von Originalmaterial und Herkunftsinformationen
    • Medienkompetenz statt Vertrauen in einen einzigen Detektor

    Nicht vorschnell als KI bezeichnen

    Auch echte Inhalte können ungewöhnlich aussehen. Eine falsche Deepfake-Behauptung kann selbst zur Desinformation werden.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • Prompt Injection: Wenn fremde Inhalte die KI steuern

    Sprachmodelle trennen Befehle und Daten nicht zuverlässig wie klassische Programme. Ein Agent kann deshalb eine bösartige Anweisung aus einem Dokument übernehmen und anschließend Daten preisgeben oder ein Werkzeug falsch verwenden.

    Direkte und indirekte Injection

    Direkte Angriffe stehen in der Nutzereingabe. Indirekte Angriffe liegen in externen Inhalten wie Webseiten, E-Mails, PDFs, Bildern oder Datenbankeinträgen, die das System verarbeitet.

    Mögliche Folgen

    • Umgehung interner Regeln
    • Offenlegung vertraulicher Informationen
    • Manipulation einer Zusammenfassung oder Entscheidung
    • Missbrauch verbundener Werkzeuge
    • Versteckte Weiterleitung zu schädlichen Inhalten

    Schutzmaßnahmen

    • Externe Inhalte grundsätzlich als nicht vertrauenswürdige Daten behandeln
    • Werkzeugrechte minimieren
    • Kritische Aktionen separat bestätigen
    • Ausgaben und Parameter technisch validieren
    • Geheimnisse nicht in den Modellkontext geben
    • Protokollierung und Tests mit Angriffsmustern

    Keine vollständige Textfilter-Lösung

    Prompt Injection lässt sich nicht allein durch eine Liste verbotener Wörter zuverlässig verhindern. Die Systemarchitektur muss mögliche Fehlentscheidungen begrenzen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • KI-Agenten sicher einsetzen: Rechte, Freigaben und Protokolle

    Die wichtigste Sicherheitsregel lautet: Ein Agent erhält nur die Rechte, Daten und Werkzeuge, die für die konkrete Aufgabe notwendig sind. Kritische oder irreversible Aktionen werden nicht allein aufgrund einer Modellausgabe ausgeführt.

    Mindestmaßnahmen

    • Getrenntes Benutzerkonto mit minimalen Rechten
    • Lesen und Schreiben getrennt freigeben
    • Bestätigung vor Versand, Löschung, Kauf oder Veröffentlichung
    • Grenzen für Kosten, Laufzeit und Anzahl von Aktionen
    • Vollständige Protokolle und nachvollziehbare Werkzeugaufrufe
    • Sicherer Abbruch und Übergabe an einen Menschen

    Externe Inhalte

    Webseiten, E-Mails und Dokumente können versteckte Anweisungen enthalten. Der Agent darf sie nicht als gleichrangig mit den vom Betreiber festgelegten Regeln behandeln.

    Testen

    Vor produktivem Einsatz mit Testkonten, künstlichen Daten, Angriffsszenarien und absichtlich widersprüchlichen Eingaben prüfen.

    Private Nutzung

    Auch ein privater Assistent sollte nicht uneingeschränkt auf Passwortspeicher, Bankkonten, private Nachrichten und alle Dateien zugleich zugreifen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • API-Schlüssel, Passwörter und Geschäftsgeheimnisse vor KI-Systemen schützen

    KI-Systeme verarbeiten häufig Inhalte über mehrere Komponenten: Benutzeroberfläche, Modellanbieter, Protokollierung, Erweiterungen und verbundene Werkzeuge. Ein versehentlich eingegebenes Geheimnis kann dadurch an mehr Stellen landen als erwartet.

    Technische Regeln

    • Schlüssel über Secret-Manager und Umgebungsvariablen bereitstellen
    • Protokolle und Fehlerberichte auf sensible Daten prüfen
    • Berechtigungen und Gültigkeitsdauer von Schlüsseln begrenzen
    • Regelmäßig rotieren und bei Verdacht sofort sperren
    • Testdaten statt Produktivdaten verwenden

    Für Prompts

    Nur Platzhalter wie KUNDENNUMMER oder API_KEY verwenden. Das Modell muss den echten Wert für die meisten Erklär-, Schreib- oder Programmieraufgaben nicht kennen.

    Bei einem Vorfall

    • Schlüssel widerrufen oder rotieren
    • Betroffene Protokolle und Dienste identifizieren
    • Zugriffe prüfen
    • Mögliche Datenverletzung nach den geltenden Prozessen bewerten

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • KI-Lieferkette: Modelle, Daten, Erweiterungen und Abhängigkeiten prüfen

    Neben dem Modell selbst gehören Datenquellen, Bibliotheken, Modellgewichte, APIs, Plugins, Browser-Erweiterungen und Hosting zur Sicherheits- und Vertrauenskette. Eine bekannte Benutzeroberfläche sagt wenig darüber aus, welche Komponenten im Hintergrund beteiligt sind.

    Inventar führen

    • Verwendete Modelle und Versionen
    • Anbieter, Hosting und Datenregion
    • Bibliotheken, Container und Erweiterungen
    • Datenquellen und Vektordatenbanken
    • Werkzeuge, APIs und Berechtigungen

    Prüfung vor Einsatz

    • Herkunft und Integrität von Dateien
    • Lizenz und Nutzungsbedingungen
    • Aktualisierungs- und Sicherheitsprozess des Anbieters
    • Bekannte Schwachstellen und Abhängigkeiten
    • Möglichkeiten zum Austausch oder Abschalten einzelner Komponenten

    Änderungen beobachten

    Ein Cloud-Dienst kann Modell, Filter oder Unterauftragnehmer ändern. Kritische Systeme benötigen deshalb Versionskontrolle, Abnahmetests und einen dokumentierten Änderungsprozess.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.