KI Panorama

Suche

Medium oder Format: Daten

  • KI für Entwickler: vom Sprachmodell zum Agenten

    Der Lernpfad ordnet die wichtigsten Bausteine moderner KI-Anwendungen ein und führt von Sprachmodellen und Embeddings zu RAG, Werkzeugnutzung, MCP und Agenten.

    Für wen ist dieser Lernpfad?

    Für Entwickler und technisch Interessierte mit grundlegender Programmiererfahrung.

    Lernschritte

    1. Programmcode verstehen und prüfen
      KI als Assistenz für Erklärung, Review und Tests einsetzen.
    2. Große Sprachmodelle
      Modellverhalten, Kontext und probabilistische Ausgabe einordnen.
    3. Embeddings und Vektorsuche
      Semantische Repräsentationen und Ähnlichkeitssuche verstehen.
    4. Retrieval-Augmented Generation
      Modelle mit kontrolliert ausgewählten Wissensquellen verbinden.
    5. Tool Use und Function Calling
      Strukturierte Werkzeugaufrufe planen und validieren.
    6. Model Context Protocol
      Standardisierte Verbindungen zu Werkzeugen und Datenquellen einordnen.
    7. KI-Agenten
      Planung, Aktionen, Beobachtung und Kontrolle zusammensetzen.
    8. Prompt Injection
      Angriffe über fremde Inhalte und unzuverlässige Instruktionen abwehren.

    Was du danach kannst

    • zentrale Architekturbausteine moderner KI-Anwendungen erklären
    • RAG, Tool Use und Agenten voneinander abgrenzen
    • kritische Ein- und Ausgaben validieren
    • Sicherheitsgrenzen und menschliche Freigaben einplanen

    Hinweise zur Nutzung

    Für produktive Systeme sind zusätzlich anwendungsspezifische Tests, Protokollierung, Berechtigungen und Sicherheitsprüfungen erforderlich.

    Grundlagen für die Lernstruktur

  • KI in der Forschung verstehen

    Dieser Lernpfad zeigt anhand konkreter Forschungsprojekte, wie unterschiedlich KI wissenschaftliche Probleme bearbeiten kann und warum Ergebnisse, Benchmarks und Grenzen getrennt betrachtet werden müssen.

    Für wen ist dieser Lernpfad?

    Für wissenschaftlich Interessierte, Lehrende, Studierende und Leser, die KI jenseits von Chatbots kennenlernen möchten.

    Lernschritte

    1. AlphaFold
      Proteinstrukturen als etabliertes Beispiel datengetriebener Forschung verstehen.
    2. GraphCast
      Graph Neural Networks für Wettervorhersagen einordnen.
    3. AlphaEvolve
      Evolutionäre Codesuche und automatische Bewertung kennenlernen.
    4. GNoME
      Vorhersagen neuer stabiler Kristallstrukturen untersuchen.
    5. GenCast
      Probabilistische Vorhersagen und Unsicherheit verstehen.
    6. Aeneas
      KI-Unterstützung in den Geisteswissenschaften kennenlernen.
    7. KI-Benchmarks und Evaluationen
      Messwerte, Vergleichbarkeit und tatsächliche Praxistauglichkeit unterscheiden.

    Was du danach kannst

    • unterschiedliche wissenschaftliche KI-Aufgaben voneinander unterscheiden
    • Vorhersage, Generierung, Suche und Optimierung einordnen
    • Forschungsergebnisse von Produktversprechen trennen
    • Benchmarks und offene Fragen kritischer lesen

    Hinweise zur Nutzung

    Ein Forschungsresultat belegt nicht automatisch die allgemeine Praxistauglichkeit eines Systems. Maßgeblich sind Aufgabenstellung, Daten, Vergleichsmethode und unabhängige Replikation.

    Grundlagen für die Lernstruktur

  • Verantwortung und Sicherheit bei KI

    Der Lernpfad vermittelt die wichtigsten Schutz- und Kontrollfragen beim Einsatz von KI. Er verbindet rechtliche Orientierung mit praktischen Sicherheitsmaßnahmen.

    Für wen ist dieser Lernpfad?

    Für private Nutzer, Verantwortliche in Organisationen und alle, die KI nicht nur leistungsfähig, sondern auch nachvollziehbar und sicher einsetzen möchten.

    Lernschritte

    1. EU AI Act: Was gilt wann?
      Regelungsbereiche und zeitliche Anwendung einordnen.
    2. Datenschutz bei KI-Modellen
      Personenbezug, Rechtsgrundlage und Anonymität unterscheiden.
    3. Urheberrecht und generative KI
      Rechte an Eingaben, Ausgaben und verwendeten Materialien prüfen.
    4. Deepfakes erkennen und prüfen
      Quellen, Kontext und technische Hinweise kombinieren.
    5. Bias und Diskriminierung
      Verzerrungen in Daten, Modellen und Anwendungskontext erkennen.
    6. Menschliche Kontrolle
      Echte Prüfung und Eingriffsmöglichkeiten statt formaler Bestätigung gestalten.
    7. KI-Agenten sicher einsetzen
      Rechte begrenzen, Aktionen protokollieren und Freigaben einbauen.
    8. Checkliste für Organisationen
      Verantwortung, Daten, Risiken und Betrieb systematisch vorbereiten.

    Was du danach kannst

    • zentrale rechtliche und sicherheitstechnische Fragen identifizieren
    • kritische Daten und Entscheidungen stärker schützen
    • menschliche Kontrolle konkret planen
    • Risiken vor dem Einsatz statt erst nach einem Vorfall bearbeiten

    Hinweise zur Nutzung

    Rechtliche Inhalte dienen der allgemeinen Orientierung und ersetzen keine Rechtsberatung für einen konkreten Fall.

    Grundlagen für die Lernstruktur

  • KI im Büro: produktiver arbeiten und Ergebnisse prüfen

    Dieser Lernpfad verbindet direkt nutzbare Büroanwendungen mit Qualitätskontrolle, Datenschutz und sinnvoller Automatisierung.

    Für wen ist dieser Lernpfad?

    Für Angestellte, Selbstständige und kleine Organisationen, die wiederkehrende Büroarbeit mit KI unterstützen möchten.

    Lernschritte

    1. E-Mails entwerfen und verbessern
      Ton, Struktur und Zielgruppe kontrolliert anpassen.
    2. Besprechungen transkribieren und protokollieren
      Gespräche in überprüfbare Aufgaben und Entscheidungen überführen.
    3. Präsentationen strukturieren
      Kernaussagen, Dramaturgie und Folienlogik vorbereiten.
    4. Lange Dokumente zusammenfassen
      Wichtige Inhalte extrahieren und mit dem Original abgleichen.
    5. Tabellen und Daten analysieren
      Muster, Fehler und Kennzahlen systematisch untersuchen.
    6. Wiederkehrende Büroprozesse automatisieren
      Geeignete Abläufe erkennen und kontrollierte Workflows aufbauen.
    7. Geschäftsgeheimnisse schützen
      Passwörter, Zugangsdaten und vertrauliche Informationen aus KI-Systemen fernhalten.

    Was du danach kannst

    • geeignete Büroaufgaben für KI auswählen
    • Ergebnisse mit klaren Prüfschritten absichern
    • wiederkehrende Abläufe sinnvoll automatisieren
    • Datenschutz und Vertraulichkeit stärker berücksichtigen

    Hinweise zur Nutzung

    Vor dem Einsatz mit internen Dokumenten müssen die Regeln des Arbeitgebers und die Datenverarbeitung des gewählten Dienstes geprüft werden.

    Grundlagen für die Lernstruktur

  • KI im Handwerk: praktische Unterstützung ohne Technikballast

    Der Lernpfad zeigt praktische KI-Unterstützung für kleine Handwerksbetriebe. Im Mittelpunkt stehen Zeitersparnis, nachvollziehbare Kontrolle und der Schutz von Kunden- und Betriebsdaten.

    Für wen ist dieser Lernpfad?

    Für Handwerker, Betriebsinhaber und Beschäftigte ohne besondere IT-Vorkenntnisse.

    Lernschritte

    1. Angebote und Leistungsbeschreibungen vorbereiten
      Notizen in klare, überprüfbare Leistungspositionen überführen.
    2. Baustellendokumentation ordnen
      Fotos, Notizen und Tagesberichte strukturiert zusammenfassen.
    3. Wartungs- und Fehlerberichte auswerten
      Wiederkehrende Muster erkennen, ohne die Fachdiagnose zu ersetzen.
    4. Arbeitsanweisungen und Checklisten entwerfen
      Abläufe verständlich dokumentieren und anschließend fachlich prüfen.
    5. Daten aus Formularen und Dokumenten extrahieren
      Übertragungsarbeit reduzieren und Ergebnisse stichprobenartig kontrollieren.
    6. Welche Daten nicht in öffentliche KI-Chats gehören
      Kunden-, Personal- und Betriebsdaten schützen.

    Was du danach kannst

    • geeignete handwerkliche Büro- und Dokumentationsaufgaben auswählen
    • KI-Entwürfe fachlich kontrollieren
    • wiederkehrende Schreib- und Sortierarbeit reduzieren
    • sensible Betriebs- und Kundendaten besser schützen

    Hinweise zur Nutzung

    KI darf keine sicherheitsrelevante Fachprüfung, Messung, Freigabe oder Diagnose ersetzen.

    Grundlagen für die Lernstruktur

  • Prompt Injection: Wenn fremde Inhalte die KI steuern

    Sprachmodelle trennen Befehle und Daten nicht zuverlässig wie klassische Programme. Ein Agent kann deshalb eine bösartige Anweisung aus einem Dokument übernehmen und anschließend Daten preisgeben oder ein Werkzeug falsch verwenden.

    Direkte und indirekte Injection

    Direkte Angriffe stehen in der Nutzereingabe. Indirekte Angriffe liegen in externen Inhalten wie Webseiten, E-Mails, PDFs, Bildern oder Datenbankeinträgen, die das System verarbeitet.

    Mögliche Folgen

    • Umgehung interner Regeln
    • Offenlegung vertraulicher Informationen
    • Manipulation einer Zusammenfassung oder Entscheidung
    • Missbrauch verbundener Werkzeuge
    • Versteckte Weiterleitung zu schädlichen Inhalten

    Schutzmaßnahmen

    • Externe Inhalte grundsätzlich als nicht vertrauenswürdige Daten behandeln
    • Werkzeugrechte minimieren
    • Kritische Aktionen separat bestätigen
    • Ausgaben und Parameter technisch validieren
    • Geheimnisse nicht in den Modellkontext geben
    • Protokollierung und Tests mit Angriffsmustern

    Keine vollständige Textfilter-Lösung

    Prompt Injection lässt sich nicht allein durch eine Liste verbotener Wörter zuverlässig verhindern. Die Systemarchitektur muss mögliche Fehlentscheidungen begrenzen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • KI-Agenten sicher einsetzen: Rechte, Freigaben und Protokolle

    Die wichtigste Sicherheitsregel lautet: Ein Agent erhält nur die Rechte, Daten und Werkzeuge, die für die konkrete Aufgabe notwendig sind. Kritische oder irreversible Aktionen werden nicht allein aufgrund einer Modellausgabe ausgeführt.

    Mindestmaßnahmen

    • Getrenntes Benutzerkonto mit minimalen Rechten
    • Lesen und Schreiben getrennt freigeben
    • Bestätigung vor Versand, Löschung, Kauf oder Veröffentlichung
    • Grenzen für Kosten, Laufzeit und Anzahl von Aktionen
    • Vollständige Protokolle und nachvollziehbare Werkzeugaufrufe
    • Sicherer Abbruch und Übergabe an einen Menschen

    Externe Inhalte

    Webseiten, E-Mails und Dokumente können versteckte Anweisungen enthalten. Der Agent darf sie nicht als gleichrangig mit den vom Betreiber festgelegten Regeln behandeln.

    Testen

    Vor produktivem Einsatz mit Testkonten, künstlichen Daten, Angriffsszenarien und absichtlich widersprüchlichen Eingaben prüfen.

    Private Nutzung

    Auch ein privater Assistent sollte nicht uneingeschränkt auf Passwortspeicher, Bankkonten, private Nachrichten und alle Dateien zugleich zugreifen.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • API-Schlüssel, Passwörter und Geschäftsgeheimnisse vor KI-Systemen schützen

    KI-Systeme verarbeiten häufig Inhalte über mehrere Komponenten: Benutzeroberfläche, Modellanbieter, Protokollierung, Erweiterungen und verbundene Werkzeuge. Ein versehentlich eingegebenes Geheimnis kann dadurch an mehr Stellen landen als erwartet.

    Technische Regeln

    • Schlüssel über Secret-Manager und Umgebungsvariablen bereitstellen
    • Protokolle und Fehlerberichte auf sensible Daten prüfen
    • Berechtigungen und Gültigkeitsdauer von Schlüsseln begrenzen
    • Regelmäßig rotieren und bei Verdacht sofort sperren
    • Testdaten statt Produktivdaten verwenden

    Für Prompts

    Nur Platzhalter wie KUNDENNUMMER oder API_KEY verwenden. Das Modell muss den echten Wert für die meisten Erklär-, Schreib- oder Programmieraufgaben nicht kennen.

    Bei einem Vorfall

    • Schlüssel widerrufen oder rotieren
    • Betroffene Protokolle und Dienste identifizieren
    • Zugriffe prüfen
    • Mögliche Datenverletzung nach den geltenden Prozessen bewerten

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • KI-Lieferkette: Modelle, Daten, Erweiterungen und Abhängigkeiten prüfen

    Neben dem Modell selbst gehören Datenquellen, Bibliotheken, Modellgewichte, APIs, Plugins, Browser-Erweiterungen und Hosting zur Sicherheits- und Vertrauenskette. Eine bekannte Benutzeroberfläche sagt wenig darüber aus, welche Komponenten im Hintergrund beteiligt sind.

    Inventar führen

    • Verwendete Modelle und Versionen
    • Anbieter, Hosting und Datenregion
    • Bibliotheken, Container und Erweiterungen
    • Datenquellen und Vektordatenbanken
    • Werkzeuge, APIs und Berechtigungen

    Prüfung vor Einsatz

    • Herkunft und Integrität von Dateien
    • Lizenz und Nutzungsbedingungen
    • Aktualisierungs- und Sicherheitsprozess des Anbieters
    • Bekannte Schwachstellen und Abhängigkeiten
    • Möglichkeiten zum Austausch oder Abschalten einzelner Komponenten

    Änderungen beobachten

    Ein Cloud-Dienst kann Modell, Filter oder Unterauftragnehmer ändern. Kritische Systeme benötigen deshalb Versionskontrolle, Abnahmetests und einen dokumentierten Änderungsprozess.

    Quellen und Rechtsstand

    Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.

  • World Models: gelernte Modelle einer Umgebung

    World Models lernen nicht die gesamte Wirklichkeit. Sie bilden diejenigen Zusammenhänge ab, die in den Trainingsdaten und für eine bestimmte Aufgabe sichtbar sind. Ein Agent kann solche Modelle nutzen, um mögliche Folgen von Handlungen zu simulieren, bevor er handelt.

    Einfach erklärt

    Ein World Model ist eine gelernte Simulation. Es versucht vorherzusagen, wie eine Szene oder ein System nach einer Aktion aussehen könnte.

    Grundidee

    • Beobachtungen werden in eine kompakte Repräsentation übersetzt
    • Ein Dynamikmodell sagt den nächsten Zustand voraus
    • Ein Agent bewertet mögliche Handlungen in dieser internen Simulation
    • Die gewählte Handlung wird in der realen oder virtuellen Umgebung ausgeführt

    Einsatzfelder

    • Robotik und autonome Systeme
    • Spiele und interaktive Umgebungen
    • Planung von Handlungsfolgen
    • Simulation physikalischer oder visueller Prozesse

    Grenzen

    • Unbekannte Situationen werden möglicherweise falsch simuliert
    • Seltene Ereignisse fehlen oft in den Daten
    • Visuell plausible Vorhersagen können physikalisch falsch sein
    • Fehler wachsen bei langen Simulationen schrittweise an

    Expertenwissen

    Frühe World-Model-Architekturen kombinierten einen visuellen Autoencoder, ein rekurrentes Dynamikmodell und einen kompakten Controller. Neuere Ansätze verwenden Transformer und generative Modelle, um hochdimensionale Umgebungen und interaktive Szenen abzubilden.

    Primärquellen