Grid World

Laboratório Grid World RL

Sandbox interativo de RL com Q-Learning, Value Iteration e Policy Iteration.

Um agente se move em uma grade 2D, recebe recompensas e aprende uma política que maximiza o retorno lidando com paredes e metas terminais.

  • Q-Learning: atualização TD sem modelo com exploração epsilon-greedy.
  • Value Iteration: backups de optimalidade de Bellman em todos os estados.
  • Policy Iteration: alternância entre avaliação e melhoria de política.

Construtor do Mundo

Defina a grade, recompensas e condições iniciais.

x
Ferramentas
Recompensas

Simulação

Execute episódios e inspecione o comportamento do agente.

Info da execução

Acompanhamento ao vivo de episódios e retorno.

Modo: Inativo
Episódio: 0 / 0
Passos (episódio): 0
Último retorno: -

Política e valores

Setas indicam ações gananciosas a partir de Q ou atualizações baseadas em modelo.


                

Notas do algoritmo

  • Q-Learning atualiza valores de ação online com alvos bootstrap.
  • Value Iteration calcula valores ótimos com backups de Bellman.
  • Policy Iteration alterna avaliação e melhoria até convergir.