Візуалізація лінійної регресії
Інтерактивна симуляція для OLS, GD та SGD.
Лінійна регресія оцінює прямолінійний звʼязок між входом x та виходом y.
y = ax + b
Тут a — нахил, b — перетин. У цьому симуляторі кожна точка — це training sample, і модель знаходить найкращі a та b.
Модель мінімізує середньоквадратичну помилку (MSE):
$$ MSE(a,b) = \frac{1}{n}\sum_{i=1}^{n}(y_i-(ax_i+b))^2 $$
Квадрат сильніше штрафує великі помилки і дає гладку ціль оптимізації. Менша loss означає кращий fit.
- OLS: Closed-form і one-shot.
- Batch GD: Використовує всі зразки за епоху, стабільно, але повільніше.
- SGD: Оновлення по одному зразку з shuffle, швидше але більш шумно.
Використайте ті самі точки і порівняйте криві навчання для кожного методу.
- Додайте точки або завантажте demo data.
- Спершу запустіть OLS для baseline.
- Перейдіть до GD/SGD і налаштуйте learning rate та epochs.
- У Test Mode порівняйте фактичні та передбачені значення.
Клікніть, щоб додати точки. Довге натискання видаляє точку.
Loss (MSE)
Модель
Точки: 0
Нахил (a): -
Перетин (b): -
R2: -
Остання loss: -
Примітки до методів
OLS
Closed-form розвʼязок з коваріації та дисперсії:
$$ a = \frac{\sum (x_i-\bar{x})(y_i-\bar{y})}{\sum (x_i-\bar{x})^2}, \quad b = \bar{y} - a\bar{x} $$