World Models lernen nicht die gesamte Wirklichkeit. Sie bilden diejenigen Zusammenhänge ab, die in den Trainingsdaten und für eine bestimmte Aufgabe sichtbar sind. Ein Agent kann solche Modelle nutzen, um mögliche Folgen von Handlungen zu simulieren, bevor er handelt.
Einfach erklärt
Ein World Model ist eine gelernte Simulation. Es versucht vorherzusagen, wie eine Szene oder ein System nach einer Aktion aussehen könnte.
Grundidee
- Beobachtungen werden in eine kompakte Repräsentation übersetzt
- Ein Dynamikmodell sagt den nächsten Zustand voraus
- Ein Agent bewertet mögliche Handlungen in dieser internen Simulation
- Die gewählte Handlung wird in der realen oder virtuellen Umgebung ausgeführt
Einsatzfelder
- Robotik und autonome Systeme
- Spiele und interaktive Umgebungen
- Planung von Handlungsfolgen
- Simulation physikalischer oder visueller Prozesse
Grenzen
- Unbekannte Situationen werden möglicherweise falsch simuliert
- Seltene Ereignisse fehlen oft in den Daten
- Visuell plausible Vorhersagen können physikalisch falsch sein
- Fehler wachsen bei langen Simulationen schrittweise an
Expertenwissen
Frühe World-Model-Architekturen kombinierten einen visuellen Autoencoder, ein rekurrentes Dynamikmodell und einen kompakten Controller. Neuere Ansätze verwenden Transformer und generative Modelle, um hochdimensionale Umgebungen und interaktive Szenen abzubilden.