Grid World

Лаборатория Grid World RL

Интерактивная среда RL с Q-Learning, Value Iteration и Policy Iteration.

Агент перемещается по 2D-решётке, получает награды и учится политике, максимизирующей возврат, учитывая стены и терминальные цели.

  • Q-Learning: model-free TD-обновление с epsilon-greedy исследованием.
  • Value Iteration: обновления Беллмана для оптимальности по всем состояниям.
  • Policy Iteration: чередование оценки политики и улучшения политики.

Конструктор мира

Задайте сетку, награды и стартовые условия.

x
Инструменты
Награды

Симуляция

Запускайте эпизоды и наблюдайте за поведением агента.

Информация о запуске

Отслеживание эпизодов и возврата в реальном времени.

Режим: Ожидание
Episode: 0 / 0
Шаги (эпизод): 0
Последний возврат: -

Политика и значения

Стрелки политики показывают жадные действия из Q или модельных обновлений.


                

Заметки по алгоритмам

  • Q-Learning обновляет значения действий онлайн с бутстреп-целями.
  • Value Iteration вычисляет оптимальные значения состояний из обновлений Беллмана.
  • Policy Iteration чередует оценку и улучшение для сходимости.