KI Panorama

Suche

Thema: Generative KI

  • Mistral-Modellfamilie

    Die Mistral-Modellfamilie umfasst Open-Weight- und kommerzielle Modelle mit unterschiedlichen Größen und Spezialisierungen. Sie kann über APIs, Cloud-Dienste oder teilweise selbst betrieben werden.

    Modelltyp und Fähigkeiten

    • Sprachmodelle für Text, Reasoning, Code und Werkzeugnutzung.
    • Spezialisierte Modelle und Dienste für Dokumentverarbeitung, OCR und Embeddings.
    • Unterschiedliche offene und kommerzielle Bereitstellungsformen.

    Technische Einordnung

    Mistral entwickelt Transformer-basierte Modelle mit verschiedenen Leistungs-, Größen- und Lizenzprofilen. Der Modellkatalog wird fortlaufend aktualisiert und enthält allgemeine sowie spezialisierte Endpunkte.

    Verfügbarkeit und Zugang

    Zugang erfolgt über Mistrals API und Plattform, Cloud-Partner oder bei ausgewählten Open-Weight-Modellen durch eigenen Betrieb. Lizenz und Modellkarte sind pro Variante zu prüfen.

    Benchmarks und Grenzen

    Modellgröße allein bestimmt nicht die Eignung. Sprachabdeckung, Kontext, Werkzeugunterstützung, Hardwarebedarf und reale Evaluationen sind entscheidend. Auch selbst betriebene Modelle benötigen Schutzmaßnahmen gegen Datenabfluss und missbräuchliche Eingaben.

    Offizielle Quellen

  • Transformer und Attention

    Ein Transformer bewertet, welche Teile einer Eingabe für andere Teile besonders wichtig sind. Dieser Attention-Mechanismus ermöglicht kontextabhängige Repräsentationen und eine stark parallelisierbare Verarbeitung.

    Einfach erklärt

    In einem Satz hängt die Bedeutung eines Wortes von anderen Wörtern ab. Attention berechnet, auf welche Stellen das Modell bei der Verarbeitung besonders achten sollte.

    Bei „Die Bank am Fluss“ und „die Bank überweist Geld“ erhält das Wort „Bank“ durch den umgebenden Kontext unterschiedliche Repräsentationen.

    Anschauliches Beispiel

    Bei der Übersetzung eines langen Satzes kann ein Transformer für jedes Wort Beziehungen zu allen relevanten Wörtern berechnen. Dadurch muss Information nicht nur Schritt für Schritt durch eine lange Kette weitergereicht werden.

    Fortgeschrittene Erklärung

    Self-Attention erzeugt aus Eingaberepräsentationen Query-, Key- und Value-Vektoren. Ähnlichkeiten zwischen Queries und Keys bestimmen Gewichte, mit denen Values kombiniert werden. Multi-Head Attention berechnet mehrere solcher Beziehungsmuster parallel.

    Positionsinformationen müssen zusätzlich eingebracht werden, weil reine Attention keine natürliche Reihenfolge kennt. Feedforward-Schichten, Residualverbindungen und Normalisierung ergänzen die Architektur.

    Expertenwissen

    Die skalierte Dot-Product-Attention berechnet softmax(QKᵀ/√d)V. Die quadratische Abhängigkeit von der Sequenzlänge ist bei langen Kontexten ein wesentlicher Ressourcenfaktor. Zahlreiche spätere Varianten optimieren Speicher, Rechenaufwand, Positionskodierung und den Umgang mit langen Sequenzen.

    Der ursprüngliche Transformer wurde für maschinelle Übersetzung vorgestellt. Seine Architektur wurde anschließend auf Sprachmodelle, Vision, Audio, Biologie, Robotik und multimodale Systeme übertragen.

    Möglichkeiten und Grenzen

    • Effiziente parallele Verarbeitung während des Trainings.
    • Gute Modellierung weiter Abhängigkeiten in Sequenzen.
    • Hoher Speicher- und Rechenbedarf bei langen Kontexten.
    • Attention-Gewichte sind nicht automatisch eine vollständige Erklärung einer Modellentscheidung.

    Quellen

  • Token, Kontextfenster und Wahrscheinlichkeiten

    Ein Sprachmodell liest keine Wörter wie ein Mensch. Es zerlegt Text in Token und berechnet für mögliche Fortsetzungen Wahrscheinlichkeiten. Das Kontextfenster bestimmt, welche Token gleichzeitig berücksichtigt werden.

    Einfach erklärt

    Token können ganze Wörter, Wortteile, Satzzeichen oder Zeichenfolgen sein. Häufige Wörter bestehen oft aus wenigen Token, seltene Wörter aus mehreren.

    Das Kontextfenster ist der begrenzte Arbeitsbereich des Modells. Enthält ein Gespräch mehr Token als verarbeitet werden können, müssen ältere Teile gekürzt, zusammengefasst oder anderweitig gespeichert werden.

    Anschauliches Beispiel

    Das deutsche Kompositum „Datenschutzfolgenabschätzung“ kann in mehrere Token zerlegt werden. Für das Modell ist deshalb die Anzahl der Wörter nicht identisch mit der Anzahl der verarbeiteten Einheiten.

    Fortgeschrittene Erklärung

    Tokenizer ordnen Textstücken numerische IDs zu. Das Modell wandelt diese IDs in Vektorrepräsentationen um. Für die nächste Position entsteht eine Wahrscheinlichkeitsverteilung über das Vokabular.

    Sampling-Parameter beeinflussen, wie vorhersehbar oder vielfältig eine Ausgabe wird. Eine niedrigere Zufälligkeit kann Antworten konsistenter machen, garantiert aber keine sachliche Richtigkeit.

    Expertenwissen

    Tokenisierung ist ein Kompromiss zwischen Vokabulargröße und Sequenzlänge. Verfahren wie Byte Pair Encoding oder verwandte Subword-Methoden können unbekannte Wörter aus kleineren Einheiten zusammensetzen.

    Die nutzbare Kontextlänge ist nicht mit einem perfekten Langzeitgedächtnis gleichzusetzen. Auch innerhalb des technischen Limits können relevante Informationen übersehen, schwächer gewichtet oder durch konkurrierenden Kontext verdrängt werden.

    Möglichkeiten und Grenzen

    • Lange Kontexte ermöglichen die Analyse umfangreicher Dokumente und Dialoge.
    • Mehr Kontext erhöht Kosten und kann neue Ablenkungen erzeugen.
    • Tokenlimits unterscheiden sich je nach Modell und Produkt.
    • Ein großer Kontext ersetzt keine strukturierte Dokumentensuche oder Qualitätskontrolle.

    Quellen

  • Retrieval-Augmented Generation (RAG)

    Bei RAG beantwortet ein Sprachmodell eine Frage nicht nur aus seinen Parametern. Zuerst werden passende Quellen gesucht, anschließend erzeugt das Modell auf Basis dieser Fundstellen eine Antwort.

    Einfach erklärt

    RAG funktioniert wie eine offene Buchprüfung: Das System sucht zuerst relevante Textstellen und legt sie dem Sprachmodell vor. Das Modell formuliert daraus eine Antwort.

    Dadurch können aktuelle oder interne Dokumente verwendet werden, ohne das Basismodell vollständig neu zu trainieren.

    Anschauliches Beispiel

    Ein Unternehmen speichert Bedienungsanleitungen in einer Wissensbasis. Bei einer Frage sucht das System passende Abschnitte, fügt sie in den Kontext ein und erzeugt eine Antwort mit Verweisen auf die verwendeten Dokumente.

    Fortgeschrittene Erklärung

    Typische RAG-Systeme zerlegen Dokumente in Abschnitte, erzeugen Embeddings, speichern sie in einem Index und suchen bei einer Anfrage nach ähnlichen Passagen. Ein Retriever liefert Kandidaten, die im Prompt des Generators verwendet werden.

    Varianten kombinieren Vektorsuche mit Stichwortsuche, Reranking, Metadatenfiltern, mehrstufiger Suche oder Werkzeugaufrufen.

    Expertenwissen

    Das ursprüngliche RAG-Konzept kombiniert parametrisches Wissen eines Seq2Seq-Modells mit nichtparametrischem Wissen in einem externen Index. Moderne Implementierungen sind oft modularer und verwenden unabhängige Embedding-, Retrieval-, Reranking- und Generationsmodelle.

    Die Gesamtqualität wird durch Retrieval Recall, Präzision, Chunking, Kontextaufbereitung, Zitierlogik und Generatorverhalten bestimmt. RAG verhindert Halluzinationen nicht automatisch: Ein Modell kann Quellen falsch interpretieren oder trotz fehlender Belege antworten.

    Möglichkeiten und Grenzen

    • Aktuelle und interne Wissensbestände nutzbar machen.
    • Quellen und Dokumentstellen können angezeigt werden.
    • Schlechte Suche führt zu schlechten Antworten.
    • Berechtigungen und Datenschutz müssen bereits beim Retrieval durchgesetzt werden.
    • Antworten müssen gegen die tatsächlich gefundenen Belege geprüft werden.

    Quellen

  • Diffusionsmodelle

    Ein Diffusionsmodell kann aus Rauschen schrittweise ein strukturiertes Bild oder andere Daten erzeugen. Es hat im Training gelernt, wie verrauschte Beispiele wieder in plausible Daten zurückgeführt werden.

    Einfach erklärt

    Im Training wird ein Bild zunehmend verrauscht. Das Modell lernt für viele Rauschstufen, wie es einen kleinen Teil dieses Rauschens wieder entfernen kann.

    Bei der Erzeugung beginnt das System mit Rauschen und wiederholt den gelernten Entrauschungsschritt. Eine Texteingabe kann den Prozess in Richtung eines gewünschten Motivs steuern.

    Anschauliches Beispiel

    Aus einer zufälligen Pixelwolke entstehen zuerst grobe Flächen, dann Formen, Objekte und Details. Der Prozess ist nicht mit dem Freilegen eines versteckten fertigen Bildes gleichzusetzen; das Bild wird während der Berechnung erzeugt.

    Fortgeschrittene Erklärung

    Denoising Diffusion Probabilistic Models definieren einen Vorwärtsprozess, der Daten schrittweise in Rauschen überführt, und einen gelernten Rückwärtsprozess. In praktischen Bildsystemen findet die Diffusion häufig in einem komprimierten latenten Raum statt.

    Konditionierung kann über Text-Embeddings, Bilder, Kanten, Tiefenkarten oder andere Steuersignale erfolgen. Dadurch sind Text-zu-Bild, Bildvariation, Inpainting und strukturell kontrollierte Erzeugung möglich.

    Expertenwissen

    Der Rückwärtsprozess approximiert bedingte Übergangsverteilungen beziehungsweise eine Score-Funktion. Die Trainingsziele können auf Rauschvorhersage, Datenvorhersage oder andere Parametrisierungen ausgerichtet sein.

    Sampling-Verfahren beeinflussen Geschwindigkeit, Qualität und Reproduzierbarkeit. Weniger Schritte beschleunigen die Erzeugung, können aber Detailtreue und Stabilität verändern.

    Möglichkeiten und Grenzen

    • Hochwertige Erzeugung und Bearbeitung von Bildern sowie zunehmend weiterer Modalitäten.
    • Gezielte Steuerung über Text und zusätzliche Kontrollsignale.
    • Details, Textdarstellung und räumliche Konsistenz können fehlerhaft sein.
    • Trainingsdaten, Urheberrecht, Identitätsmissbrauch und Deepfakes erfordern klare Regeln.

    Quellen

  • Multimodale KI

    Ein multimodales KI-System kann mehrere Medienarten miteinander verknüpfen. Es kann beispielsweise ein Bild analysieren, eine Frage dazu verstehen und eine gesprochene Antwort erzeugen.

    Einfach erklärt

    Menschen nehmen die Welt nicht nur als Text wahr. Multimodale Systeme verbinden verschiedene Formen von Information – zum Beispiel Wörter, Bilder, Töne, Videos oder Sensordaten.

    Dadurch kann ein System Inhalte zwischen Modalitäten übersetzen: ein Bild beschreiben, Sprache transkribieren, aus Text ein Bild erzeugen oder Video und Ton gemeinsam auswerten.

    Anschauliches Beispiel

    Ein Nutzer fotografiert eine defekte Maschine und stellt dazu eine gesprochene Frage. Ein multimodales System kann Bild und Sprache gemeinsam verarbeiten und eine textliche oder gesprochene Hilfestellung erzeugen. Für eine verlässliche Diagnose wären jedoch technische Dokumente und fachliche Prüfung nötig.

    Fortgeschrittene Erklärung

    Multimodale Modelle verwenden Encoder und Decoder für unterschiedliche Datentypen oder eine gemeinsame Tokenrepräsentation. Kontrastives Lernen kann Bild- und Textrepräsentationen in einem gemeinsamen Raum ausrichten.

    Vision-Language-Modelle kombinieren visuelle Merkmale mit Sprachmodellen. Weitere Systeme integrieren Audio, Video, 3D oder Roboteraktionen.

    Expertenwissen

    CLIP zeigte, wie Bild- und Textencoder durch kontrastives Lernen auf große Mengen gepaarter Bild-Text-Daten ausgerichtet werden können. Flamingo verband vortrainierte visuelle und sprachliche Komponenten für flexible visuelle Fragebeantwortung und Few-Shot-Lernen.

    Aktuelle Systeme unterscheiden sich stark darin, ob Modalitäten nativ gemeinsam trainiert, über Adapter verbunden oder über getrennte Spezialmodelle orchestriert werden. Multimodalität allein garantiert weder räumliches Verständnis noch physikalische Korrektheit.

    Möglichkeiten und Grenzen

    • Barrierefreiheit durch Bildbeschreibung, Transkription und Sprachausgabe.
    • Medienproduktion, visuelle Recherche und technische Assistenz.
    • Fehler können sich aus mehreren Modalitäten gegenseitig verstärken.
    • Bilder, Stimmen und Videos erhöhen Datenschutz- und Identitätsrisiken.
    • Sensordaten benötigen domänenspezifische Validierung.

    Quellen

  • Halluzinationen und Konfabulationen

    Ein KI-System kann eine flüssige und selbstbewusste Antwort erzeugen, obwohl Angaben erfunden, verwechselt oder nicht belegt sind. Sprachqualität und sachliche Richtigkeit sind getrennte Eigenschaften.

    Einfach erklärt

    Ein Sprachmodell berechnet wahrscheinliche Fortsetzungen. Es prüft nicht automatisch in einer verlässlichen Datenbank, ob jede Aussage stimmt.

    Darum kann es Quellen, Namen, Zahlen oder Ereignisse erfinden. Die Antwort klingt oft überzeugend, weil das Modell gut darin ist, sprachlich passende Muster zu erzeugen.

    Anschauliches Beispiel

    Bei der Frage nach einem seltenen Gerichtsurteil kann ein Modell einen plausibel klingenden Aktennamen und eine Zusammenfassung erzeugen, obwohl das Urteil nicht existiert. Ohne Prüfung in einer echten Rechtsdatenbank bleibt die Antwort unzuverlässig.

    Fortgeschrittene Erklärung

    NIST bezeichnet die selbstbewusste Erzeugung falscher oder irreführender Inhalte als Konfabulation. In der Forschung wird häufig weiterhin der Begriff Halluzination verwendet.

    Ursachen können unvollständige Trainingsdaten, mehrdeutige Eingaben, Sampling, fehlender Zugriff auf aktuelle Quellen, fehlerhaftes Retrieval oder ein Konflikt zwischen hilfreicher Formulierung und Unsicherheit sein.

    Expertenwissen

    Halluzinationen werden je nach Aufgabe unterschiedlich definiert: als Widerspruch zu einer Quelle, als nicht durch eine Quelle gestützte Aussage oder als faktisch falscher Inhalt. Entsprechend unterscheiden sich Messverfahren und Gegenmaßnahmen.

    RAG, Werkzeugzugriff, strengere Ausgabestrukturen, Kalibrierung, Verifikationsschritte und menschliche Prüfung können Risiken verringern, beseitigen sie aber nicht vollständig.

    Möglichkeiten und Grenzen

    • Fakten, Zitate, Quellen, Zahlen und aktuelle Angaben immer prüfen.
    • Für Recherche Originalquellen verlangen und tatsächlich öffnen.
    • Bei fehlender Evidenz sollte das System Unsicherheit ausweisen oder nicht antworten.
    • Medizinische, rechtliche, finanzielle und sicherheitskritische Entscheidungen nicht auf ungeprüfte Ausgaben stützen.

    Quellen

  • Generative KI

    Generative KI berechnet neue Inhalte, die zu einer Eingabe und zu den im Training gelernten Mustern passen. Sie ruft dabei nicht einfach einen fertigen Text oder ein fertiges Bild aus einer Datenbank ab.

    Einfach erklärt

    Ein generatives Modell lernt, wie bestimmte Daten typischerweise aufgebaut sind. Ein Sprachmodell lernt Muster in Texten. Ein Bildmodell lernt statistische Zusammenhänge zwischen Bildinhalten und Beschreibungen. Aus einer neuen Anweisung erzeugt es dann eine neue Ausgabe.

    Das Ergebnis kann originell wirken, bleibt aber eine mathematisch erzeugte Kombination gelernter Strukturen. Es besitzt keine automatische Garantie für Wahrheit, Urheberrechtsfreiheit oder Eignung.

    Anschauliches Beispiel

    Bei der Eingabe „eine technische Zeichnung eines freundlichen Haushaltsroboters“ erzeugt ein Bildmodell keine Fotografie aus einem Archiv. Es startet je nach Modelltyp mit Rauschen oder einer latenten Repräsentation und formt daraus schrittweise ein Bild, das zur Beschreibung passt.

    Fortgeschrittene Erklärung

    Zu generativen Modellklassen gehören autoregressive Modelle, Diffusionsmodelle, Variational Autoencoder und Generative Adversarial Networks. Autoregressive Sprachmodelle erzeugen Sequenzen schrittweise. Diffusionsmodelle lernen, Rauschen zu entfernen und daraus strukturierte Daten zu rekonstruieren.

    Die Ausgabe wird durch Eingabe, Kontext, Sampling-Verfahren, Modellparameter und Sicherheitsmechanismen beeinflusst. Unterschiedliche Einstellungen können bei derselben Eingabe unterschiedliche Ergebnisse erzeugen.

    Expertenwissen

    Generative Modelle approximieren eine Datenverteilung oder eine bedingte Verteilung. Beim Sampling werden neue Beispiele aus dieser gelernten Verteilung erzeugt. Bei Foundation Models wird ein breit trainiertes Basismodell für viele Aufgaben genutzt und durch Prompting, Fine-Tuning, Retrieval oder Werkzeuge angepasst.

    NIST beschreibt für generative KI unter anderem Risiken wie Konfabulationen, Datenschutzverletzungen, schädliche Verzerrungen, Informationsintegrität, Sicherheitsprobleme und problematische Mensch-System-Konfigurationen.

    Möglichkeiten und Grenzen

    • Erzeugung und Bearbeitung von Text, Bild, Audio, Video, 3D und Code.
    • Schnelle Variantenbildung, Entwürfe und Unterstützung kreativer Prozesse.
    • Ausgaben können sachlich falsch, verzerrt oder rechtlich problematisch sein.
    • Vertrauliche Daten dürfen nicht ungeprüft an externe Dienste übermittelt werden.
    • Qualitätskontrolle und Quellenprüfung bleiben erforderlich.

    Quellen

  • Große Sprachmodelle (LLMs)

    Ein Large Language Model erzeugt Sprache, indem es aus dem bisherigen Kontext Wahrscheinlichkeiten für die nächsten Token berechnet. Seine flüssige Sprache ist kein Beweis für gesichertes Wissen oder menschliches Verständnis.

    Einfach erklärt

    Ein Sprachmodell erhält einen Text und berechnet, welche Textteile wahrscheinlich folgen. Dieser Vorgang wird wiederholt, bis eine Antwort entstanden ist.

    Durch sehr umfangreiches Training kann das Modell Grammatik, Stil, Faktenmuster und viele Aufgabenformen abbilden. Es besitzt aber kein eingebautes Wahrheitsprüfsystem. Es kann überzeugend formulieren und trotzdem falsch liegen.

    Anschauliches Beispiel

    Nach dem Satz „Die Hauptstadt von Frankreich ist“ erhält das Token „Paris“ eine sehr hohe Wahrscheinlichkeit. Bei offenen Fragen gibt es viele mögliche Fortsetzungen. Das Modell wählt abhängig von seinen Einstellungen eine davon aus.

    Fortgeschrittene Erklärung

    LLMs sind meist Transformer-basierte Foundation Models. Sie werden zunächst auf großen Text- und Codedatensätzen vortrainiert. Danach können weitere Trainingsschritte folgen, etwa Instruction Tuning oder Präferenzoptimierung, damit das Modell Anweisungen besser befolgt.

    Der Kontext umfasst die aktuelle Eingabe und gegebenenfalls vorherige Nachrichten oder eingefügte Dokumente. Informationen außerhalb des Kontextes stammen aus den gelernten Parametern oder aus angebundenen Werkzeugen wie Suche und Retrieval.

    Expertenwissen

    Autoregressive LLMs modellieren eine Sequenzwahrscheinlichkeit als Produkt bedingter Wahrscheinlichkeiten. Die Transformer-Architektur berechnet kontextabhängige Repräsentationen mit Attention. Beim Training wird häufig die Vorhersage verdeckter oder nächster Token optimiert.

    Skalierung verbessert viele Fähigkeiten, beseitigt aber grundlegende Probleme nicht automatisch. Kalibrierung, Datenherkunft, Evaluierung, Systemprompt, Sampling und externe Werkzeuge beeinflussen Zuverlässigkeit und Verhalten.

    Möglichkeiten und Grenzen

    • Texterzeugung, Zusammenfassung, Übersetzung, Klassifikation, Code und dialogische Unterstützung.
    • Kann mit Dokumenten, Suchsystemen und Programmierschnittstellen verbunden werden.
    • Kennt nicht automatisch den aktuellen Stand und kann Quellen erfinden.
    • Kann Anweisungen missverstehen oder widersprüchliche Ziele verfolgen.
    • Vertrauliche und kritische Inhalte erfordern kontrollierte Prozesse.

    Quellen