Nonlinear Neural Regression

Doğrusal Olmayan Sinirsel Regresyon Lab

Çok katmanlı algılayıcı ile doğrusal olmayan eğrileri uydur ve aşırı eğitimde train/validation ayrışmasını gözlemle.

Doğrusal regresyon y=ax+b’den farklı olarak bu lab, doğrusal olmayan eşlemeler öğrenmek için gizli katmanlar kullanır x → y.

$$\hat{y}=W_L\,\phi(W_{L-1}\phi(\cdots\phi(W_1x+b_1)\cdots)+b_{L-1})+b_L$$

Derinlik, genişlik ve aktivasyon seçerek model kapasitesini kontrol et.

Amaç, eğitim alt kümesinde ortalama karesel hatadır:

$$\text{MSE}=\frac{1}{n}\sum_{i=1}^{n}(y_i-\hat{y}_i)^2$$

Train loss düşerken validation loss düzleşir veya yükselirse overfitting oluşur.

Örnek eklemek için tıkla. Test Mode’da x konumuna tıklayarak tahmin y ve artık değerini incele.

Eğitim Durumu
Noktalar: 0
Train / Val: 0 / 0
Epoch: 0
Train Loss: -
Val Loss: -
Yorumlama
  • Mavi noktalar: eğitim alt kümesi, turuncu noktalar: doğrulama alt kümesi.
  • Test Mode’daki sarı işaret: tıklanan x’te tahmin çıktı.
  • Train loss düşüp val loss yükselirse kapasite çok yüksek ya da eğitim çok uzundur.
  • Overfitting’i azaltmak için daha güçlü L2 regularization veya daha küçük gizli katmanlar dene.