Lab Regresi Neural Nonlinier
Fit kurva nonlinier dengan perceptron multilapis, lalu amati perbedaan train/validasi saat overtraining.
Berbeda dengan regresi linear y=ax+b, lab ini memakai hidden layer untuk mempelajari pemetaan nonlinier x → y.
$$\hat{y}=W_L\,\phi(W_{L-1}\phi(\cdots\phi(W_1x+b_1)\cdots)+b_{L-1})+b_L$$
Pilih kedalaman, lebar, dan aktivasi untuk mengatur kapasitas model.
Tujuan utamanya adalah mean squared error pada subset training:
$$\text{MSE}=\frac{1}{n}\sum_{i=1}^{n}(y_i-\hat{y}_i)^2$$
Overfitting muncul ketika loss training terus turun sementara loss validasi mendatar atau naik.
Klik untuk menambah sampel. Di Mode Uji, klik posisi x untuk melihat y prediksi dan residual.
Status Training
Titik: 0
Train / Val: 0 / 0
Epoch: 0
Loss Training: -
Loss Validasi: -
Interpretasi
- Titik biru: subset training, titik oranye: subset validasi.
- Penanda kuning di Mode Uji: keluaran prediksi pada x yang diklik.
- Jika loss training turun tetapi loss validasi naik, kapasitas terlalu tinggi atau training terlalu lama.
- Coba regulasi L2 lebih kuat atau hidden layer lebih kecil untuk mengurangi overfitting.