Die Nutzung eines trainierten Modells, um für neue Eingaben eine Ausgabe oder Vorhersage zu berechnen.
Einfach erklärt
Die Nutzung eines trainierten Modells, um für neue Eingaben eine Ausgabe oder Vorhersage zu berechnen.
Beispiel
Nach dem Training erkennt ein Bildmodell ein neues Foto – dieser Anwendungsschritt ist Inferenz.
Technische Bedeutung
Inferenz umfasst den Vorwärtslauf durch das Modell und gegebenenfalls Sampling, Decoding oder Werkzeugaufrufe.
Verwandte Begriffe
Training, Modell, Token