Eine plausible, aber falsche, unbelegte oder zur Quelle widersprüchliche Ausgabe eines generativen Systems. NIST verwendet auch den Begriff Konfabulation.
Einfach erklärt
Eine plausible, aber falsche, unbelegte oder zur Quelle widersprüchliche Ausgabe eines generativen Systems. NIST verwendet auch den Begriff Konfabulation.
Beispiel
Ein Modell nennt ein überzeugend klingendes Buch, das nicht existiert.
Technische Bedeutung
Die Definition hängt von der Aufgabe ab. Gegenmaßnahmen umfassen Retrieval, Verifikation, Kalibrierung und menschliche Prüfung.
Verwandte Begriffe
RAG, Quellenprüfung, generative KI