Verantwortung & Zukunft

Wissensartikel

Content Credentials und C2PA: Herkunft statt KI-Detektor

Content Credentials speichern kryptografisch abgesicherte Informationen über Herkunft und Bearbeitung eines digitalen Inhalts.

Wissensartikel

Deepfakes erkennen: Warum Augenmaß wichtiger ist als ein Detektor

Kein einzelnes Merkmal und kein Detektor kann zuverlässig beweisen, dass ein Medium echt oder künstlich ist.

Wissensartikel

Desinformation mit KI: Geschwindigkeit, Umfang und Glaubwürdigkeit

Generative KI senkt den Aufwand für überzeugende Texte, Stimmen, Bilder und Videos, macht aber nicht jede Falschinformation automatisch wirksam.

Wissensartikel

Prompt Injection: Wenn fremde Inhalte die KI steuern

Bei Prompt Injection verstecken Angreifer Anweisungen in Daten, Webseiten oder Dokumenten, die ein KI-System eigentlich nur auswerten sollte.

Wissensartikel

KI-Agenten sicher einsetzen: Rechte, Freigaben und Protokolle

Ein Agent mit Zugriff auf E-Mail, Dateien, Browser oder Zahlungssysteme kann reale Schäden verursachen und benötigt deshalb technische Grenzen.

Wissensartikel

API-Schlüssel, Passwörter und Geschäftsgeheimnisse vor KI-Systemen schützen

Geheimnisse gehören weder in Prompts noch in frei zugängliche Protokolle, Trainingsdateien oder Quellcode-Repositories.

Wissensartikel

KI-Lieferkette: Modelle, Daten, Erweiterungen und Abhängigkeiten prüfen

Ein KI-System besteht meist aus vielen fremden Komponenten. Jede davon kann Fehler, Manipulationen oder unerwartete Datenflüsse einführen.

Wissensartikel

KI-Risiken systematisch managen: Govern, Map, Measure, Manage

Das NIST AI Risk Management Framework gliedert verantwortlichen KI-Einsatz in Governance, Kontextanalyse, Messung und Behandlung von Risiken.

Wissensartikel

Die vier Risikostufen des EU AI Act

Der AI Act ordnet Anwendungen nach unzulässigem, hohem, Transparenz- sowie minimalem Risiko ein.

Wissensartikel

Bias und Diskriminierung: Warum neutrale Daten nicht automatisch neutral sind

KI kann bestehende Ungleichheiten übernehmen, verstärken oder durch ungeeignete Messgrößen neu erzeugen.

Wissensartikel

Verbotene KI-Praktiken in der EU

Einige KI-Einsätze sind im europäischen Recht grundsätzlich unzulässig oder nur unter sehr engen Ausnahmen erlaubt.

Wissensartikel

Menschliche Kontrolle: Mehr als ein Bestätigungsbutton

Menschliche Aufsicht funktioniert nur, wenn die Person das System verstehen, widersprechen und tatsächlich eingreifen kann.

Wissensartikel

KI-Inhalte kennzeichnen: Transparenz, Deepfakes und Artikel 50

Ab 2. August 2026 gelten in der EU konkrete Transparenzpflichten für bestimmte KI-Interaktionen und synthetische Inhalte.

Wissensartikel

KI in Medizin, Recht und Finanzen: Assistenz statt unkontrollierte Entscheidung

In Bereichen mit erheblichen Folgen muss KI als begrenztes Hilfsmittel mit geprüften Daten, Fachaufsicht und klarer Verantwortlichkeit eingesetzt werden.

Wissensartikel

General-Purpose AI: Pflichten für Basismodelle

Für Anbieter breit einsetzbarer Modelle gelten seit August 2025 besondere Transparenz-, Urheberrechts- und gegebenenfalls Sicherheitsanforderungen.

Wissensartikel

Kinder, Jugendliche und KI: Schutz, Lernen und Eigenständigkeit

KI kann Lernen unterstützen, darf aber weder persönliche Entwicklung noch pädagogische Verantwortung ersetzen.

Wissensartikel

Datenschutz bei KI-Modellen: Personenbezug, Anonymität und Rechtsgrundlage

Auch ein trainiertes Modell kann datenschutzrechtlich relevant bleiben, wenn personenbezogene Daten aus ihm mit vertretbarem Aufwand gewonnen werden können.

Wissensartikel

Checkliste: KI privat sicher und sinnvoll nutzen

Eine kurze Prüfroutine reduziert die häufigsten Fehler bei Chatbots, Bildgeneratoren und anderen KI-Diensten.

Wissensartikel

Welche Daten gehören nicht in einen öffentlichen KI-Chat?

Vertrauliche, personenbezogene oder sicherheitsrelevante Informationen sollten nur in dafür freigegebenen Systemen verarbeitet werden.

Wissensartikel

Checkliste: KI in einer Organisation einführen

Ein kontrollierter Pilot mit klarer Aufgabe, freigegebenen Daten und messbaren Kriterien ist sicherer als eine sofortige breite Einführung.

Wissensartikel

Lokale KI oder Cloud: Datenschutz ist mehr als der Speicherort

Lokale Verarbeitung kann Datenabflüsse reduzieren, ist aber nicht automatisch sicher oder rechtmäßig.

Wissensartikel

Urheberrecht und generative KI: die wichtigsten Fragen

Bei generativer KI sind Trainingsdaten, Eingaben, Ausgaben und deren Nutzung rechtlich getrennt zu betrachten.

Wissensartikel

EU AI Act: Was gilt wann?

Ein aktueller Überblick über die wichtigsten Anwendungsdaten des europäischen KI-Rechts nach dem AI Omnibus 2026.

Wissensartikel

Halluzinationen und Konfabulationen

Generative Systeme können plausible, aber falsche oder unbelegte Inhalte erzeugen. NIST verwendet dafür den Begriff Konfabulation.