비선형 신경 회귀 실습
다층 퍼셉트론으로 비선형 곡선을 맞추고 과적합 시 train/val 분기를 관찰합니다.
선형 회귀 y=ax+b와 달리, 은닉층으로 비선형 매핑 x → y를 학습합니다.
$$\hat{y}=W_L\,\phi(W_{L-1}\phi(\cdots\phi(W_1x+b_1)\cdots)+b_{L-1})+b_L$$
깊이, 너비, 활성화를 선택해 모델 용량을 조절합니다.
목표는 학습 서브셋의 평균제곱오차(MSE)입니다:
$$\text{MSE}=\frac{1}{n}\sum_{i=1}^{n}(y_i-\hat{y}_i)^2$$
train 손실은 감소하지만 val 손실이 정체/상승하면 과적합입니다.
클릭해서 샘플을 추가합니다. 테스트 모드에서는 x 위치를 클릭해 예측 y와 잔차를 확인합니다.
학습 상태
점 수: 0
Train / Val: 0 / 0
에폭: 0
Train 손실: -
Val 손실: -
해석
- 파란 점: 학습, 주황 점: 검증.
- 테스트 모드의 노란 마커: 클릭한 x의 예측 출력.
- train 손실이 내려가고 val 손실이 오르면 과적합입니다.
- L2 규제를 높이거나 은닉층을 줄여 과적합을 완화하세요.