Grid World

Laboratoire Grid World RL

Sandbox interactif de RL avec Q-Learning, Value Iteration et Policy Iteration.

Un agent se déplace sur une grille 2D, reçoit des récompenses et apprend une politique qui maximise le retour tout en gérant les murs et objectifs terminaux.

  • Q-Learning: mise à jour TD sans modèle avec exploration epsilon-greedy.
  • Value Iteration: backups d’optimalité de Bellman sur tous les états.
  • Policy Iteration: alternance entre évaluation et amélioration de la politique.

Constructeur du monde

Définissez la grille, les récompenses et les conditions de départ.

x
Outils
Récompenses

Simulation

Lancez des épisodes et inspectez le comportement.

Info d’exécution

Suivi en direct des épisodes et du retour.

Mode : Inactif
Épisode : 0 / 0
Pas (épisode) : 0
Dernier retour : -

Politique & valeurs

Les flèches indiquent des actions gloutonnes à partir des Q ou des mises à jour modèle.


                

Notes d’algorithme

  • Q-Learning met à jour les valeurs d’action en ligne avec des cibles bootstrap.
  • Value Iteration calcule les valeurs optimales via des backups de Bellman.
  • Policy Iteration alterne évaluation et amélioration jusqu’à convergence.