Grid World

Laboratorio RL Grid World

Sandbox interattiva di reinforcement learning con Q-Learning, Value Iteration e Policy Iteration.

Un agente si muove su una griglia 2D, riceve ricompense e apprende una policy che massimizza il ritorno gestendo muri e obiettivi terminali.

  • Q-Learning: aggiornamento temporal-difference model-free con esplorazione epsilon-greedy.
  • Value Iteration: backup di ottimalita di Bellman su tutti gli stati.
  • Policy Iteration: alternanza tra valutazione della policy e miglioramento.

World Builder

Definisci griglia, ricompense e condizioni iniziali.

x
Strumenti
Ricompense

Simulazione

Esegui episodi e ispeziona il comportamento dell agente.

Info run

Tracciamento live di episodio e ritorno.

Modalita: Idle
Episodio: 0 / 0
Step (episodio): 0
Ultimo ritorno: -

Policy e valori

Le frecce della policy indicano azioni greedy da Q values memorizzati o update model-based.


                

Note sugli algoritmi

  • Q-Learning aggiorna i valori azione online con target bootstrapped.
  • Value Iteration calcola i valori ottimali degli stati dai backup di Bellman.
  • Policy Iteration alterna valutazione e miglioramento per la convergenza.