KI Panorama

Suche

Reifegrad: Verfügbar

  • Embeddings und Vektorsuche

    Ein Embedding übersetzt Text, Bilder oder andere Daten in eine Zahlenliste. In diesem Vektorraum lassen sich ähnliche Inhalte suchen, gruppieren und miteinander vergleichen.

    Einfach erklärt

    Ein Computer kann Bedeutungen nicht direkt mit menschlichen Begriffen vergleichen. Ein Embedding macht aus einem Inhalt einen Punkt in einem mehrdimensionalen Raum.

    Texte mit ähnlicher Bedeutung landen häufig näher beieinander als inhaltlich unterschiedliche Texte. So kann eine Suche passende Abschnitte finden, auch wenn nicht exakt dieselben Wörter vorkommen.

    Anschauliches Beispiel

    Eine Suche nach „Wie kann ich mein Passwort ändern?“ kann auch einen Abschnitt mit der Überschrift „Zugangsdaten zurücksetzen“ finden. Die Begriffe sind nicht identisch, ihre Bedeutungen können im Embedding-Raum aber ähnlich repräsentiert sein.

    Fortgeschrittene Erklärung

    Embeddings werden von trainierten Modellen erzeugt. Die Ähnlichkeit zweier Vektoren wird häufig mit Kosinusähnlichkeit oder einer Distanzfunktion gemessen. Vektordatenbanken speichern viele Embeddings und ermöglichen eine effiziente Suche nach den nächstgelegenen Einträgen.

    Embeddings werden für semantische Suche, Clustering, Empfehlungen, Duplikaterkennung und Retrieval-Augmented Generation eingesetzt.

    Expertenwissen

    Frühe Verfahren wie Word2Vec lernten statische Wortvektoren aus Kontextbeziehungen. Neuere Transformer-basierte Modelle erzeugen kontextabhängige Repräsentationen für Wörter, Sätze, Dokumente oder mehrere Modalitäten.

    Die Qualität einer Vektorsuche hängt von Modell, Segmentierung, Indexverfahren, Ähnlichkeitsmetrik, Sprache und Domäne ab. Nähe im Vektorraum ist ein statistisches Signal, kein Beweis für sachliche Gleichheit.

    Möglichkeiten und Grenzen

    • Semantische Suche ohne exakte Stichwortübereinstimmung.
    • Verknüpfung von Text und Bildern in gemeinsamen Repräsentationsräumen.
    • Ähnliche, aber sachlich unterschiedliche Inhalte können verwechselt werden.
    • Sensible Inhalte bleiben auch in Vektorform schutzbedürftig.

    Quellen

  • Foundation Model

    Ein breit vortrainiertes Basismodell, das für viele nachgelagerte Aufgaben angepasst oder direkt verwendet werden kann.

    Einfach erklärt

    Ein breit vortrainiertes Basismodell, das für viele nachgelagerte Aufgaben angepasst oder direkt verwendet werden kann.

    Beispiel

    Dasselbe Grundmodell kann Texte zusammenfassen, Fragen beantworten und Code erklären.

    Technische Bedeutung

    Foundation Models werden auf umfangreichen Daten trainiert und durch Prompting, Fine-Tuning, Retrieval oder Werkzeuge für konkrete Anwendungen genutzt.

    Verwandte Begriffe

    LLM, Fine-Tuning, multimodal

    Quellen

  • Retrieval-Augmented Generation (RAG)

    Bei RAG beantwortet ein Sprachmodell eine Frage nicht nur aus seinen Parametern. Zuerst werden passende Quellen gesucht, anschließend erzeugt das Modell auf Basis dieser Fundstellen eine Antwort.

    Einfach erklärt

    RAG funktioniert wie eine offene Buchprüfung: Das System sucht zuerst relevante Textstellen und legt sie dem Sprachmodell vor. Das Modell formuliert daraus eine Antwort.

    Dadurch können aktuelle oder interne Dokumente verwendet werden, ohne das Basismodell vollständig neu zu trainieren.

    Anschauliches Beispiel

    Ein Unternehmen speichert Bedienungsanleitungen in einer Wissensbasis. Bei einer Frage sucht das System passende Abschnitte, fügt sie in den Kontext ein und erzeugt eine Antwort mit Verweisen auf die verwendeten Dokumente.

    Fortgeschrittene Erklärung

    Typische RAG-Systeme zerlegen Dokumente in Abschnitte, erzeugen Embeddings, speichern sie in einem Index und suchen bei einer Anfrage nach ähnlichen Passagen. Ein Retriever liefert Kandidaten, die im Prompt des Generators verwendet werden.

    Varianten kombinieren Vektorsuche mit Stichwortsuche, Reranking, Metadatenfiltern, mehrstufiger Suche oder Werkzeugaufrufen.

    Expertenwissen

    Das ursprüngliche RAG-Konzept kombiniert parametrisches Wissen eines Seq2Seq-Modells mit nichtparametrischem Wissen in einem externen Index. Moderne Implementierungen sind oft modularer und verwenden unabhängige Embedding-, Retrieval-, Reranking- und Generationsmodelle.

    Die Gesamtqualität wird durch Retrieval Recall, Präzision, Chunking, Kontextaufbereitung, Zitierlogik und Generatorverhalten bestimmt. RAG verhindert Halluzinationen nicht automatisch: Ein Modell kann Quellen falsch interpretieren oder trotz fehlender Belege antworten.

    Möglichkeiten und Grenzen

    • Aktuelle und interne Wissensbestände nutzbar machen.
    • Quellen und Dokumentstellen können angezeigt werden.
    • Schlechte Suche führt zu schlechten Antworten.
    • Berechtigungen und Datenschutz müssen bereits beim Retrieval durchgesetzt werden.
    • Antworten müssen gegen die tatsächlich gefundenen Belege geprüft werden.

    Quellen

  • Halluzination

    Eine plausible, aber falsche, unbelegte oder zur Quelle widersprüchliche Ausgabe eines generativen Systems. NIST verwendet auch den Begriff Konfabulation.

    Einfach erklärt

    Eine plausible, aber falsche, unbelegte oder zur Quelle widersprüchliche Ausgabe eines generativen Systems. NIST verwendet auch den Begriff Konfabulation.

    Beispiel

    Ein Modell nennt ein überzeugend klingendes Buch, das nicht existiert.

    Technische Bedeutung

    Die Definition hängt von der Aufgabe ab. Gegenmaßnahmen umfassen Retrieval, Verifikation, Kalibrierung und menschliche Prüfung.

    Verwandte Begriffe

    RAG, Quellenprüfung, generative KI

    Quellen

  • Diffusionsmodelle

    Ein Diffusionsmodell kann aus Rauschen schrittweise ein strukturiertes Bild oder andere Daten erzeugen. Es hat im Training gelernt, wie verrauschte Beispiele wieder in plausible Daten zurückgeführt werden.

    Einfach erklärt

    Im Training wird ein Bild zunehmend verrauscht. Das Modell lernt für viele Rauschstufen, wie es einen kleinen Teil dieses Rauschens wieder entfernen kann.

    Bei der Erzeugung beginnt das System mit Rauschen und wiederholt den gelernten Entrauschungsschritt. Eine Texteingabe kann den Prozess in Richtung eines gewünschten Motivs steuern.

    Anschauliches Beispiel

    Aus einer zufälligen Pixelwolke entstehen zuerst grobe Flächen, dann Formen, Objekte und Details. Der Prozess ist nicht mit dem Freilegen eines versteckten fertigen Bildes gleichzusetzen; das Bild wird während der Berechnung erzeugt.

    Fortgeschrittene Erklärung

    Denoising Diffusion Probabilistic Models definieren einen Vorwärtsprozess, der Daten schrittweise in Rauschen überführt, und einen gelernten Rückwärtsprozess. In praktischen Bildsystemen findet die Diffusion häufig in einem komprimierten latenten Raum statt.

    Konditionierung kann über Text-Embeddings, Bilder, Kanten, Tiefenkarten oder andere Steuersignale erfolgen. Dadurch sind Text-zu-Bild, Bildvariation, Inpainting und strukturell kontrollierte Erzeugung möglich.

    Expertenwissen

    Der Rückwärtsprozess approximiert bedingte Übergangsverteilungen beziehungsweise eine Score-Funktion. Die Trainingsziele können auf Rauschvorhersage, Datenvorhersage oder andere Parametrisierungen ausgerichtet sein.

    Sampling-Verfahren beeinflussen Geschwindigkeit, Qualität und Reproduzierbarkeit. Weniger Schritte beschleunigen die Erzeugung, können aber Detailtreue und Stabilität verändern.

    Möglichkeiten und Grenzen

    • Hochwertige Erzeugung und Bearbeitung von Bildern sowie zunehmend weiterer Modalitäten.
    • Gezielte Steuerung über Text und zusätzliche Kontrollsignale.
    • Details, Textdarstellung und räumliche Konsistenz können fehlerhaft sein.
    • Trainingsdaten, Urheberrecht, Identitätsmissbrauch und Deepfakes erfordern klare Regeln.

    Quellen

  • Inferenz

    Die Nutzung eines trainierten Modells, um für neue Eingaben eine Ausgabe oder Vorhersage zu berechnen.

    Einfach erklärt

    Die Nutzung eines trainierten Modells, um für neue Eingaben eine Ausgabe oder Vorhersage zu berechnen.

    Beispiel

    Nach dem Training erkennt ein Bildmodell ein neues Foto – dieser Anwendungsschritt ist Inferenz.

    Technische Bedeutung

    Inferenz umfasst den Vorwärtslauf durch das Modell und gegebenenfalls Sampling, Decoding oder Werkzeugaufrufe.

    Verwandte Begriffe

    Training, Modell, Token

    Quellen

  • Multimodale KI

    Ein multimodales KI-System kann mehrere Medienarten miteinander verknüpfen. Es kann beispielsweise ein Bild analysieren, eine Frage dazu verstehen und eine gesprochene Antwort erzeugen.

    Einfach erklärt

    Menschen nehmen die Welt nicht nur als Text wahr. Multimodale Systeme verbinden verschiedene Formen von Information – zum Beispiel Wörter, Bilder, Töne, Videos oder Sensordaten.

    Dadurch kann ein System Inhalte zwischen Modalitäten übersetzen: ein Bild beschreiben, Sprache transkribieren, aus Text ein Bild erzeugen oder Video und Ton gemeinsam auswerten.

    Anschauliches Beispiel

    Ein Nutzer fotografiert eine defekte Maschine und stellt dazu eine gesprochene Frage. Ein multimodales System kann Bild und Sprache gemeinsam verarbeiten und eine textliche oder gesprochene Hilfestellung erzeugen. Für eine verlässliche Diagnose wären jedoch technische Dokumente und fachliche Prüfung nötig.

    Fortgeschrittene Erklärung

    Multimodale Modelle verwenden Encoder und Decoder für unterschiedliche Datentypen oder eine gemeinsame Tokenrepräsentation. Kontrastives Lernen kann Bild- und Textrepräsentationen in einem gemeinsamen Raum ausrichten.

    Vision-Language-Modelle kombinieren visuelle Merkmale mit Sprachmodellen. Weitere Systeme integrieren Audio, Video, 3D oder Roboteraktionen.

    Expertenwissen

    CLIP zeigte, wie Bild- und Textencoder durch kontrastives Lernen auf große Mengen gepaarter Bild-Text-Daten ausgerichtet werden können. Flamingo verband vortrainierte visuelle und sprachliche Komponenten für flexible visuelle Fragebeantwortung und Few-Shot-Lernen.

    Aktuelle Systeme unterscheiden sich stark darin, ob Modalitäten nativ gemeinsam trainiert, über Adapter verbunden oder über getrennte Spezialmodelle orchestriert werden. Multimodalität allein garantiert weder räumliches Verständnis noch physikalische Korrektheit.

    Möglichkeiten und Grenzen

    • Barrierefreiheit durch Bildbeschreibung, Transkription und Sprachausgabe.
    • Medienproduktion, visuelle Recherche und technische Assistenz.
    • Fehler können sich aus mehreren Modalitäten gegenseitig verstärken.
    • Bilder, Stimmen und Videos erhöhen Datenschutz- und Identitätsrisiken.
    • Sensordaten benötigen domänenspezifische Validierung.

    Quellen

  • Kontextfenster

    Die Menge an Token, die ein Modell in einem Verarbeitungsschritt berücksichtigen kann.

    Einfach erklärt

    Die Menge an Token, die ein Modell in einem Verarbeitungsschritt berücksichtigen kann.

    Beispiel

    Ein sehr langes Gespräch kann den verfügbaren Arbeitsbereich überschreiten; ältere Inhalte müssen dann gekürzt oder ausgelagert werden.

    Technische Bedeutung

    Technische Kontextlimits und effektive Nutzung sind verschieden. Auch innerhalb des Limits können relevante Stellen schwach berücksichtigt werden.

    Verwandte Begriffe

    Token, Transformer, RAG

    Quellen

  • Halluzinationen und Konfabulationen

    Ein KI-System kann eine flüssige und selbstbewusste Antwort erzeugen, obwohl Angaben erfunden, verwechselt oder nicht belegt sind. Sprachqualität und sachliche Richtigkeit sind getrennte Eigenschaften.

    Einfach erklärt

    Ein Sprachmodell berechnet wahrscheinliche Fortsetzungen. Es prüft nicht automatisch in einer verlässlichen Datenbank, ob jede Aussage stimmt.

    Darum kann es Quellen, Namen, Zahlen oder Ereignisse erfinden. Die Antwort klingt oft überzeugend, weil das Modell gut darin ist, sprachlich passende Muster zu erzeugen.

    Anschauliches Beispiel

    Bei der Frage nach einem seltenen Gerichtsurteil kann ein Modell einen plausibel klingenden Aktennamen und eine Zusammenfassung erzeugen, obwohl das Urteil nicht existiert. Ohne Prüfung in einer echten Rechtsdatenbank bleibt die Antwort unzuverlässig.

    Fortgeschrittene Erklärung

    NIST bezeichnet die selbstbewusste Erzeugung falscher oder irreführender Inhalte als Konfabulation. In der Forschung wird häufig weiterhin der Begriff Halluzination verwendet.

    Ursachen können unvollständige Trainingsdaten, mehrdeutige Eingaben, Sampling, fehlender Zugriff auf aktuelle Quellen, fehlerhaftes Retrieval oder ein Konflikt zwischen hilfreicher Formulierung und Unsicherheit sein.

    Expertenwissen

    Halluzinationen werden je nach Aufgabe unterschiedlich definiert: als Widerspruch zu einer Quelle, als nicht durch eine Quelle gestützte Aussage oder als faktisch falscher Inhalt. Entsprechend unterscheiden sich Messverfahren und Gegenmaßnahmen.

    RAG, Werkzeugzugriff, strengere Ausgabestrukturen, Kalibrierung, Verifikationsschritte und menschliche Prüfung können Risiken verringern, beseitigen sie aber nicht vollständig.

    Möglichkeiten und Grenzen

    • Fakten, Zitate, Quellen, Zahlen und aktuelle Angaben immer prüfen.
    • Für Recherche Originalquellen verlangen und tatsächlich öffnen.
    • Bei fehlender Evidenz sollte das System Unsicherheit ausweisen oder nicht antworten.
    • Medizinische, rechtliche, finanzielle und sicherheitskritische Entscheidungen nicht auf ungeprüfte Ausgaben stützen.

    Quellen

  • Large Language Model (LLM)

    Ein großes Sprachmodell, das Text als Token verarbeitet und Wahrscheinlichkeiten für mögliche Fortsetzungen berechnet.

    Einfach erklärt

    Ein großes Sprachmodell, das Text als Token verarbeitet und Wahrscheinlichkeiten für mögliche Fortsetzungen berechnet.

    Beispiel

    Das Modell setzt einen begonnenen Satz fort und kann daraus Antworten, Zusammenfassungen oder Code erzeugen.

    Technische Bedeutung

    Moderne LLMs sind meist Transformer-basierte Foundation Models und werden durch Vortraining sowie zusätzliche Anpassungsschritte entwickelt.

    Verwandte Begriffe

    Transformer, Token, Foundation Model

    Quellen