Linear Regression

Linear Regression Visualization

OLS, GD और SGD के लिए इंटरैक्टिव सिमुलेशन।

Linear regression इनपुट x और आउटपुट y के बीच सीधी रेखा का संबंध अनुमान करता है।

y = ax + b

यहां a slope है और b intercept है। इस सिमुलेटर में हर जोड़ा गया पॉइंट एक training sample है और मॉडल सबसे अच्छा a और b ढूंढता है।

मॉडल mean squared error (MSE) को न्यूनतम करता है:

$$ MSE(a,b) = \frac{1}{n}\sum_{i=1}^{n}(y_i-(ax_i+b))^2 $$

स्क्वेयरिंग बड़े errors को ज्यादा penalize करता है और एक smooth optimization target देता है। कम loss मतलब बेहतर fit।

  • OLS: Closed-form और one-shot।
  • Batch GD: हर epoch में सभी samples, स्थिर पर भारी।
  • SGD: Shuffled single-sample updates, तेज पर noisy।

एक ही points के साथ हर method की learning curves तुलना करें।

  1. Points जोड़ें या demo data लोड करें।
  2. पहले OLS चलाएं ताकि baseline line मिले।
  3. GD/SGD पर जाएं और learning rate व epochs ट्यून करें।
  4. Test Mode से actual vs predicted values देखें।

क्लिक करके points जोड़ें। किसी point को हटाने के लिए long-press करें।


Loss (MSE)
Model
Points: 0
Slope (a): -
Intercept (b): -
R2: -
Last Loss: -
Method Notes
OLS

Covariance और variance से closed-form solution:

$$ a = \frac{\sum (x_i-\bar{x})(y_i-\bar{y})}{\sum (x_i-\bar{x})^2}, \quad b = \bar{y} - a\bar{x} $$