Ein Embedding übersetzt Text, Bilder oder andere Daten in eine Zahlenliste. In diesem Vektorraum lassen sich ähnliche Inhalte suchen, gruppieren und miteinander vergleichen.
Einfach erklärt
Ein Computer kann Bedeutungen nicht direkt mit menschlichen Begriffen vergleichen. Ein Embedding macht aus einem Inhalt einen Punkt in einem mehrdimensionalen Raum.
Texte mit ähnlicher Bedeutung landen häufig näher beieinander als inhaltlich unterschiedliche Texte. So kann eine Suche passende Abschnitte finden, auch wenn nicht exakt dieselben Wörter vorkommen.
Anschauliches Beispiel
Eine Suche nach „Wie kann ich mein Passwort ändern?“ kann auch einen Abschnitt mit der Überschrift „Zugangsdaten zurücksetzen“ finden. Die Begriffe sind nicht identisch, ihre Bedeutungen können im Embedding-Raum aber ähnlich repräsentiert sein.
Fortgeschrittene Erklärung
Embeddings werden von trainierten Modellen erzeugt. Die Ähnlichkeit zweier Vektoren wird häufig mit Kosinusähnlichkeit oder einer Distanzfunktion gemessen. Vektordatenbanken speichern viele Embeddings und ermöglichen eine effiziente Suche nach den nächstgelegenen Einträgen.
Embeddings werden für semantische Suche, Clustering, Empfehlungen, Duplikaterkennung und Retrieval-Augmented Generation eingesetzt.
Expertenwissen
Frühe Verfahren wie Word2Vec lernten statische Wortvektoren aus Kontextbeziehungen. Neuere Transformer-basierte Modelle erzeugen kontextabhängige Repräsentationen für Wörter, Sätze, Dokumente oder mehrere Modalitäten.
Die Qualität einer Vektorsuche hängt von Modell, Segmentierung, Indexverfahren, Ähnlichkeitsmetrik, Sprache und Domäne ab. Nähe im Vektorraum ist ein statistisches Signal, kein Beweis für sachliche Gleichheit.
Möglichkeiten und Grenzen
- Semantische Suche ohne exakte Stichwortübereinstimmung.
- Verknüpfung von Text und Bildern in gemeinsamen Repräsentationsräumen.
- Ähnliche, aber sachlich unterschiedliche Inhalte können verwechselt werden.
- Sensible Inhalte bleiben auch in Vektorform schutzbedürftig.