Linear Regression

선형 회귀는 입력 x와 출력 y 사이의 직선 관계를 추정합니다.

y = ax + b

여기서 a는 기울기, b는 절편입니다. 이 시뮬레이터에서는 추가한 각 점이 학습 샘플이며 모델이 가장 잘 맞는 a와 b를 찾습니다.

모델은 평균제곱오차(MSE)를 최소화합니다:

$$ MSE(a,b) = \frac{1}{n}\sum_{i=1}^{n}(y_i-(ax_i+b))^2 $$

제곱은 큰 오차를 더 강하게 벌하고, 매끄러운 최적화 목표를 제공합니다. 손실이 낮을수록 더 잘 맞습니다.

• OLS: 폐형식 해, 한 번에 계산.
• Batch GD: 에폭마다 모든 샘플 사용, 안정적이지만 무거움.
• SGD: 셔플된 단일 샘플 업데이트, 빠르지만 노이즈가 큼.

같은 점으로 각 방법의 학습 곡선을 비교해 보세요.

1. 점 추가 또는 데모 데이터 로드.
2. 먼저 OLS로 기준선을 얻기.
3. GD/SGD로 전환해 학습률과 에폭 조정.
4. 테스트 모드로 실제값과 예측값 확인.