Linear Regression

Visualisierung der linearen Regression

Interaktive Simulation für OLS, GD und SGD.

Lineare Regression schätzt eine Gerade zwischen Eingabe x und Ausgabe y.

y = ax + b

Hier ist a die Steigung und b der Achsenabschnitt. In diesem Simulator ist jeder hinzugefügte Punkt ein Trainingsbeispiel und das Modell findet die besten a und b.

Das Modell minimiert den mittleren quadratischen Fehler (MSE):

$$ MSE(a,b) = \frac{1}{n}\sum_{i=1}^{n}(y_i-(ax_i+b))^2 $$

Quadratieren bestraft große Fehler stärker und liefert ein glattes Optimierungsziel. Geringere Verlustwerte bedeuten bessere Anpassung.

  • OLS: Geschlossene Formel, einmalig.
  • Batch GD: Nutzt alle Samples pro Epoche, stabil aber schwerer.
  • SGD: Nutzt gemischte Einzel-Sample-Updates, schneller aber rauschiger.

Nutze dieselben Punkte und vergleiche Lernkurven der Methoden.

  1. Punkte hinzufügen oder Demo-Daten laden.
  2. Zuerst OLS ausführen, um eine Basislinie zu erhalten.
  3. Auf GD/SGD umstellen und Lernrate sowie Epochen anpassen.
  4. Testmodus verwenden, um Ist- vs. Vorhersagewerte zu prüfen.

Klicken, um Punkte hinzuzufügen. Langes Drücken auf einen Punkt entfernt ihn.


Verlust (MSE)
Modell
Punkte: 0
Steigung (a): -
Achsenabschnitt (b): -
R2: -
Letzter Verlust: -
Methodenhinweise
OLS

Geschlossene Lösung aus Kovarianz und Varianz:

$$ a = \frac{\sum (x_i-\bar{x})(y_i-\bar{y})}{\sum (x_i-\bar{x})^2}, \quad b = \bar{y} - a\bar{x} $$