KI Panorama

Suche

Medium oder Format: Code

  • GPT-Modellfamilie

    Die GPT-Modellfamilie umfasst generative Modelle von OpenAI für Text, visuelle Eingaben, Programmierung, Reasoning und Werkzeugnutzung. Der konkrete Modellkatalog wird laufend aktualisiert; für technische Entscheidungen ist deshalb die offizielle Modellübersicht maßgeblich.

    Modelltyp und Fähigkeiten

    • Transformer-basierte generative Modelle für Text und weitere Modalitäten.
    • Unterstützung für mehrsprachige Aufgaben, visuelle Eingaben, Code und strukturierte Ausgaben – modellabhängig.
    • Werkzeugaufrufe, agentische Abläufe und unterschiedliche Reasoning-Stufen in aktuellen Modelllinien.

    Technische Einordnung

    GPT-Modelle erzeugen Ausgaben tokenweise auf Grundlage gelernter Wahrscheinlichkeitsverteilungen. Moderne Varianten kombinieren Vortraining, Nachtraining, Sicherheitsverfahren, Werkzeugnutzung und zusätzliche Laufzeitberechnung für komplexe Aufgaben.

    Verfügbarkeit und Zugang

    Der Zugang erfolgt über ChatGPT sowie über OpenAIs API. Modellnamen, Kontextgrößen, Preise und Endpunkte verändern sich; produktive Systeme sollten auf die offizielle Modellliste und Migrationshinweise abgestimmt werden.

    Benchmarks und Grenzen

    Benchmarks zeigen nur Ausschnitte der Leistung. Modelle können halluzinieren, bei ungewöhnlichen Verteilungen versagen und in agentischen Abläufen falsche Aktionen planen. Evaluationen müssen den realen Einsatzzweck, Kosten, Latenz und Sicherheitsanforderungen abbilden.

    Offizielle Quellen

  • Claude-Modellfamilie

    Die Claude-Modellfamilie von Anthropic umfasst Modelle mit unterschiedlichen Profilen für komplexes Reasoning, schnelle Aufgaben, Programmierung und agentische Abläufe. Konkrete Modellvarianten und Grenzwerte werden in der offiziellen Dokumentation gepflegt.

    Modelltyp und Fähigkeiten

    • Große Sprachmodelle für Text, Bilder, Code und Dokumentanalyse.
    • Unterschiedliche Modellklassen für maximale Leistungsfähigkeit, ausgewogene Nutzung und schnelle kosteneffiziente Aufgaben.
    • Werkzeugnutzung, strukturierte Ausgaben und agentische Arbeitsabläufe.

    Technische Einordnung

    Claude-Modelle sind generative Transformer-Systeme. Anthropic kombiniert Vortraining und Nachtraining mit Verfahren zur Steuerbarkeit und Sicherheit. Die Produktfamilie wird regelmäßig durch neue Modellgenerationen ersetzt oder ergänzt.

    Verfügbarkeit und Zugang

    Claude ist über Anthrophics API, die Claude-Anwendungen und ausgewählte Cloud-Plattformen verfügbar. Für stabile Integrationen sind konkrete Modell-IDs und Abschaltfristen zu beachten.

    Benchmarks und Grenzen

    Leistungsangaben sind abhängig von Aufgaben, Prompt, Werkzeugen und Evaluationsmethode. Auch leistungsfähige Varianten können Quellen erfinden, fehlerhafte Schlüsse ziehen oder Werkzeugaktionen falsch ausführen.

    Offizielle Quellen

  • Gemini-Modellfamilie

    Gemini bezeichnet Googles Familie multimodaler Modelle. Verschiedene Varianten sind auf hohe Leistungsfähigkeit, Geschwindigkeit, geringe Kosten, Echtzeit-Audio oder spezielle Aufgaben ausgerichtet.

    Modelltyp und Fähigkeiten

    • Multimodale Verarbeitung von Text, Bildern, Audio, Video und Code – abhängig vom Modell.
    • Unterschiedliche Pro-, Flash- und spezialisierte Varianten.
    • Werkzeugnutzung, lange Kontexte und Echtzeitanwendungen in ausgewählten Modellen.

    Technische Einordnung

    Gemini-Modelle werden als multimodale Foundation Models entwickelt. Die Modellfamilie umfasst verschiedene Größen und Laufzeitprofile; experimentelle Endpunkte können sich schneller ändern als stabile Varianten.

    Verfügbarkeit und Zugang

    Zugang besteht über die Gemini-Anwendungen, Google AI Studio, die Gemini API und Google-Cloud-Angebote. Für produktive Systeme sollten stabile Modellkennungen und offizielle Lebenszyklusangaben verwendet werden.

    Benchmarks und Grenzen

    Vergleiche zwischen Modellvarianten sind nur bei identischen Aufgaben und Einstellungen aussagekräftig. Multimodalität beseitigt weder Halluzinationen noch Fehler bei Bildern, langen Kontexten oder Werkzeugaktionen.

    Offizielle Quellen

  • Llama-Modellfamilie

    Llama ist eine von Meta entwickelte Modellfamilie mit veröffentlichten Gewichten. Sie wird für lokale, cloudbasierte und angepasste Anwendungen eingesetzt und umfasst Sprach- sowie multimodale Varianten.

    Modelltyp und Fähigkeiten

    • Generative Sprachmodelle für Text, Code, Reasoning und Werkzeugnutzung.
    • Multimodale Varianten für Text- und Bildverarbeitung.
    • Unterschiedliche Größen für Server, einzelne Beschleuniger und ressourcenärmere Umgebungen.

    Technische Einordnung

    Llama-Modelle sind Transformer-basierte Foundation Models. Open Weight bedeutet, dass Modellgewichte unter den jeweiligen Lizenzbedingungen heruntergeladen werden können; es bedeutet nicht automatisch uneingeschränktes Open Source.

    Verfügbarkeit und Zugang

    Modelle werden über Meta, Partnerplattformen und Modell-Repositories bereitgestellt. Lizenz, Hardwarebedarf, Quantisierung und Sicherheitskonfiguration müssen für den jeweiligen Einsatz geprüft werden.

    Benchmarks und Grenzen

    Lokale Kontrolle ist ein Vorteil, verlagert aber Verantwortung für Betrieb, Schutzmaßnahmen und Updates auf den Betreiber. Kleinere oder stark quantisierte Varianten können deutlich an Genauigkeit verlieren.

    Offizielle Quellen

  • Generative KI

    Generative KI berechnet neue Inhalte, die zu einer Eingabe und zu den im Training gelernten Mustern passen. Sie ruft dabei nicht einfach einen fertigen Text oder ein fertiges Bild aus einer Datenbank ab.

    Einfach erklärt

    Ein generatives Modell lernt, wie bestimmte Daten typischerweise aufgebaut sind. Ein Sprachmodell lernt Muster in Texten. Ein Bildmodell lernt statistische Zusammenhänge zwischen Bildinhalten und Beschreibungen. Aus einer neuen Anweisung erzeugt es dann eine neue Ausgabe.

    Das Ergebnis kann originell wirken, bleibt aber eine mathematisch erzeugte Kombination gelernter Strukturen. Es besitzt keine automatische Garantie für Wahrheit, Urheberrechtsfreiheit oder Eignung.

    Anschauliches Beispiel

    Bei der Eingabe „eine technische Zeichnung eines freundlichen Haushaltsroboters“ erzeugt ein Bildmodell keine Fotografie aus einem Archiv. Es startet je nach Modelltyp mit Rauschen oder einer latenten Repräsentation und formt daraus schrittweise ein Bild, das zur Beschreibung passt.

    Fortgeschrittene Erklärung

    Zu generativen Modellklassen gehören autoregressive Modelle, Diffusionsmodelle, Variational Autoencoder und Generative Adversarial Networks. Autoregressive Sprachmodelle erzeugen Sequenzen schrittweise. Diffusionsmodelle lernen, Rauschen zu entfernen und daraus strukturierte Daten zu rekonstruieren.

    Die Ausgabe wird durch Eingabe, Kontext, Sampling-Verfahren, Modellparameter und Sicherheitsmechanismen beeinflusst. Unterschiedliche Einstellungen können bei derselben Eingabe unterschiedliche Ergebnisse erzeugen.

    Expertenwissen

    Generative Modelle approximieren eine Datenverteilung oder eine bedingte Verteilung. Beim Sampling werden neue Beispiele aus dieser gelernten Verteilung erzeugt. Bei Foundation Models wird ein breit trainiertes Basismodell für viele Aufgaben genutzt und durch Prompting, Fine-Tuning, Retrieval oder Werkzeuge angepasst.

    NIST beschreibt für generative KI unter anderem Risiken wie Konfabulationen, Datenschutzverletzungen, schädliche Verzerrungen, Informationsintegrität, Sicherheitsprobleme und problematische Mensch-System-Konfigurationen.

    Möglichkeiten und Grenzen

    • Erzeugung und Bearbeitung von Text, Bild, Audio, Video, 3D und Code.
    • Schnelle Variantenbildung, Entwürfe und Unterstützung kreativer Prozesse.
    • Ausgaben können sachlich falsch, verzerrt oder rechtlich problematisch sein.
    • Vertrauliche Daten dürfen nicht ungeprüft an externe Dienste übermittelt werden.
    • Qualitätskontrolle und Quellenprüfung bleiben erforderlich.

    Quellen

  • Große Sprachmodelle (LLMs)

    Ein Large Language Model erzeugt Sprache, indem es aus dem bisherigen Kontext Wahrscheinlichkeiten für die nächsten Token berechnet. Seine flüssige Sprache ist kein Beweis für gesichertes Wissen oder menschliches Verständnis.

    Einfach erklärt

    Ein Sprachmodell erhält einen Text und berechnet, welche Textteile wahrscheinlich folgen. Dieser Vorgang wird wiederholt, bis eine Antwort entstanden ist.

    Durch sehr umfangreiches Training kann das Modell Grammatik, Stil, Faktenmuster und viele Aufgabenformen abbilden. Es besitzt aber kein eingebautes Wahrheitsprüfsystem. Es kann überzeugend formulieren und trotzdem falsch liegen.

    Anschauliches Beispiel

    Nach dem Satz „Die Hauptstadt von Frankreich ist“ erhält das Token „Paris“ eine sehr hohe Wahrscheinlichkeit. Bei offenen Fragen gibt es viele mögliche Fortsetzungen. Das Modell wählt abhängig von seinen Einstellungen eine davon aus.

    Fortgeschrittene Erklärung

    LLMs sind meist Transformer-basierte Foundation Models. Sie werden zunächst auf großen Text- und Codedatensätzen vortrainiert. Danach können weitere Trainingsschritte folgen, etwa Instruction Tuning oder Präferenzoptimierung, damit das Modell Anweisungen besser befolgt.

    Der Kontext umfasst die aktuelle Eingabe und gegebenenfalls vorherige Nachrichten oder eingefügte Dokumente. Informationen außerhalb des Kontextes stammen aus den gelernten Parametern oder aus angebundenen Werkzeugen wie Suche und Retrieval.

    Expertenwissen

    Autoregressive LLMs modellieren eine Sequenzwahrscheinlichkeit als Produkt bedingter Wahrscheinlichkeiten. Die Transformer-Architektur berechnet kontextabhängige Repräsentationen mit Attention. Beim Training wird häufig die Vorhersage verdeckter oder nächster Token optimiert.

    Skalierung verbessert viele Fähigkeiten, beseitigt aber grundlegende Probleme nicht automatisch. Kalibrierung, Datenherkunft, Evaluierung, Systemprompt, Sampling und externe Werkzeuge beeinflussen Zuverlässigkeit und Verhalten.

    Möglichkeiten und Grenzen

    • Texterzeugung, Zusammenfassung, Übersetzung, Klassifikation, Code und dialogische Unterstützung.
    • Kann mit Dokumenten, Suchsystemen und Programmierschnittstellen verbunden werden.
    • Kennt nicht automatisch den aktuellen Stand und kann Quellen erfinden.
    • Kann Anweisungen missverstehen oder widersprüchliche Ziele verfolgen.
    • Vertrauliche und kritische Inhalte erfordern kontrollierte Prozesse.

    Quellen

  • Transformer und Attention

    Ein Transformer bewertet, welche Teile einer Eingabe für andere Teile besonders wichtig sind. Dieser Attention-Mechanismus ermöglicht kontextabhängige Repräsentationen und eine stark parallelisierbare Verarbeitung.

    Einfach erklärt

    In einem Satz hängt die Bedeutung eines Wortes von anderen Wörtern ab. Attention berechnet, auf welche Stellen das Modell bei der Verarbeitung besonders achten sollte.

    Bei „Die Bank am Fluss“ und „die Bank überweist Geld“ erhält das Wort „Bank“ durch den umgebenden Kontext unterschiedliche Repräsentationen.

    Anschauliches Beispiel

    Bei der Übersetzung eines langen Satzes kann ein Transformer für jedes Wort Beziehungen zu allen relevanten Wörtern berechnen. Dadurch muss Information nicht nur Schritt für Schritt durch eine lange Kette weitergereicht werden.

    Fortgeschrittene Erklärung

    Self-Attention erzeugt aus Eingaberepräsentationen Query-, Key- und Value-Vektoren. Ähnlichkeiten zwischen Queries und Keys bestimmen Gewichte, mit denen Values kombiniert werden. Multi-Head Attention berechnet mehrere solcher Beziehungsmuster parallel.

    Positionsinformationen müssen zusätzlich eingebracht werden, weil reine Attention keine natürliche Reihenfolge kennt. Feedforward-Schichten, Residualverbindungen und Normalisierung ergänzen die Architektur.

    Expertenwissen

    Die skalierte Dot-Product-Attention berechnet softmax(QKᵀ/√d)V. Die quadratische Abhängigkeit von der Sequenzlänge ist bei langen Kontexten ein wesentlicher Ressourcenfaktor. Zahlreiche spätere Varianten optimieren Speicher, Rechenaufwand, Positionskodierung und den Umgang mit langen Sequenzen.

    Der ursprüngliche Transformer wurde für maschinelle Übersetzung vorgestellt. Seine Architektur wurde anschließend auf Sprachmodelle, Vision, Audio, Biologie, Robotik und multimodale Systeme übertragen.

    Möglichkeiten und Grenzen

    • Effiziente parallele Verarbeitung während des Trainings.
    • Gute Modellierung weiter Abhängigkeiten in Sequenzen.
    • Hoher Speicher- und Rechenbedarf bei langen Kontexten.
    • Attention-Gewichte sind nicht automatisch eine vollständige Erklärung einer Modellentscheidung.

    Quellen

  • Token, Kontextfenster und Wahrscheinlichkeiten

    Ein Sprachmodell liest keine Wörter wie ein Mensch. Es zerlegt Text in Token und berechnet für mögliche Fortsetzungen Wahrscheinlichkeiten. Das Kontextfenster bestimmt, welche Token gleichzeitig berücksichtigt werden.

    Einfach erklärt

    Token können ganze Wörter, Wortteile, Satzzeichen oder Zeichenfolgen sein. Häufige Wörter bestehen oft aus wenigen Token, seltene Wörter aus mehreren.

    Das Kontextfenster ist der begrenzte Arbeitsbereich des Modells. Enthält ein Gespräch mehr Token als verarbeitet werden können, müssen ältere Teile gekürzt, zusammengefasst oder anderweitig gespeichert werden.

    Anschauliches Beispiel

    Das deutsche Kompositum „Datenschutzfolgenabschätzung“ kann in mehrere Token zerlegt werden. Für das Modell ist deshalb die Anzahl der Wörter nicht identisch mit der Anzahl der verarbeiteten Einheiten.

    Fortgeschrittene Erklärung

    Tokenizer ordnen Textstücken numerische IDs zu. Das Modell wandelt diese IDs in Vektorrepräsentationen um. Für die nächste Position entsteht eine Wahrscheinlichkeitsverteilung über das Vokabular.

    Sampling-Parameter beeinflussen, wie vorhersehbar oder vielfältig eine Ausgabe wird. Eine niedrigere Zufälligkeit kann Antworten konsistenter machen, garantiert aber keine sachliche Richtigkeit.

    Expertenwissen

    Tokenisierung ist ein Kompromiss zwischen Vokabulargröße und Sequenzlänge. Verfahren wie Byte Pair Encoding oder verwandte Subword-Methoden können unbekannte Wörter aus kleineren Einheiten zusammensetzen.

    Die nutzbare Kontextlänge ist nicht mit einem perfekten Langzeitgedächtnis gleichzusetzen. Auch innerhalb des technischen Limits können relevante Informationen übersehen, schwächer gewichtet oder durch konkurrierenden Kontext verdrängt werden.

    Möglichkeiten und Grenzen

    • Lange Kontexte ermöglichen die Analyse umfangreicher Dokumente und Dialoge.
    • Mehr Kontext erhöht Kosten und kann neue Ablenkungen erzeugen.
    • Tokenlimits unterscheiden sich je nach Modell und Produkt.
    • Ein großer Kontext ersetzt keine strukturierte Dokumentensuche oder Qualitätskontrolle.

    Quellen

  • Tabellen und Daten analysieren

    Bei Datenanalysen kann KI Formeln, Code und Erklärungen erzeugen. Verlässlich wird der Prozess erst, wenn Datenqualität, Berechnungsschritte und Ergebnisse nachvollziehbar kontrolliert werden.

    Geeignet für

    • Datenbereinigung und Plausibilitätsprüfungen
    • Formeln und Auswertungen
    • Diagramme und Zusammenfassungen
    • Erklärung statistischer Kennzahlen
    • Erzeugung reproduzierbaren Analyse-Codes

    Voraussetzungen

    Eine verständliche Beschreibung der Spalten, Einheiten, fehlenden Werte und Analysefrage. Sensible Daten müssen anonymisiert oder in einer geeigneten Umgebung verarbeitet werden.

    Vorgehensweise

    1. Datenstruktur und Ziel der Analyse beschreiben.
    2. Fehlende Werte, Datentypen und Ausreißer prüfen.
    3. Berechnungsschritte vor der Ausführung erläutern lassen.
    4. Analyse mit Formeln oder Code reproduzierbar durchführen.
    5. Ergebnisse gegen Kontrollrechnungen prüfen.
    6. Annahmen, Unsicherheiten und ausgeschlossene Daten dokumentieren.

    Beispiel

    „Prüfe diese Tabelle auf fehlende Werte und unplausible Einheiten. Berechne anschließend Median und Quartile je Kategorie und gib reproduzierbaren Python-Code aus.“

    Qualitätskontrolle

    • Stimmen Spalten, Einheiten und Filter?
    • Sind Kennzahlen passend zur Fragestellung?
    • Lässt sich das Ergebnis reproduzieren?
    • Werden Korrelation und Kausalität unterschieden?

    Grenzen und Risiken

    • Fehlerhafte Datentypen können unbemerkt falsche Resultate erzeugen.
    • Automatisch erzeugte Diagramme können irreführende Skalen verwenden.
    • Personenbezogene und geschäftskritische Daten benötigen besondere Schutzmaßnahmen.

    Passende Tools und Modelle

    Geeignet sind Systeme mit einer kontrollierten Rechenumgebung, Tabellenzugriff und sichtbarem Code. Reine Textantworten ohne ausführbare Berechnung sind für präzise Analysen ungeeignet.

    Quellen

  • Programmcode verstehen und prüfen

    Ein Sprachmodell kann Quellcode in natürlicher Sprache erklären und Änderungsvorschläge machen. Verlässlich ist das Ergebnis erst nach Ausführung, Tests, Versionsprüfung und fachlichem Review.

    Geeignet für

    • unbekannten Code erklären
    • Fehlerstellen eingrenzen
    • Tests und Dokumentation entwerfen
    • API-Nutzung anhand offizieller Dokumentation prüfen
    • kleine Prototypen vorbereiten

    Voraussetzungen

    Programmiersprache, Laufzeitversion, Bibliotheksversionen, erwartetes Verhalten und Fehlermeldung müssen genannt werden. Geheimnisse, Zugangsdaten und proprietärer Code gehören nur in freigegebene Systeme.

    Vorgehensweise

    1. Umgebung und exakte Versionen angeben.
    2. Erwartetes und tatsächliches Verhalten beschreiben.
    3. Zuerst Erklärung und Fehlerhypothesen anfordern.
    4. Nur eine Änderung nach der anderen durchführen.
    5. Tests vor und nach der Änderung ausführen.
    6. Sicherheits- und Lizenzfragen getrennt prüfen.

    Beispiel

    „Erkläre diesen Python-3.13-Code Zeile für Zeile. Ändere noch nichts. Nenne anschließend drei überprüfbare Ursachen für die Fehlermeldung und jeweils einen Test.“

    Qualitätskontrolle

    • Passt der Vorschlag zur genannten Version?
    • Laufen vorhandene und neue Tests?
    • Wurden Seiteneffekte und Fehlerbehandlung berücksichtigt?
    • Entstehen neue Sicherheitslücken oder Abhängigkeiten?

    Grenzen und Risiken

    • Modelle können nicht existierende APIs oder veraltete Parameter vorschlagen.
    • Funktionierender Code kann unsicher oder ineffizient sein.
    • Große Projekte benötigen Architekturverständnis, Tests und Code-Review.

    Passende Tools und Modelle

    Geeignet sind codefähige Sprachmodelle mit Zugriff auf das Repository, eine isolierte Ausführungsumgebung und aktuelle offizielle Dokumentation.

    Quellen