Nonlinear Neural Regression

Laboratorio de regresión neuronal no lineal

Ajusta curvas no lineales con un perceptrón multicapa y observa la divergencia train/val por sobreentrenamiento.

A diferencia de la regresión lineal y=ax+b, este laboratorio usa capas ocultas para aprender mapeos no lineales x → y.

$$\hat{y}=W_L\,\phi(W_{L-1}\phi(\cdots\phi(W_1x+b_1)\cdots)+b_{L-1})+b_L$$

Elige profundidad, ancho y activación para controlar la capacidad.

El objetivo es el error cuadrático medio en el subconjunto de entrenamiento:

$$\text{MSE}=\frac{1}{n}\sum_{i=1}^{n}(y_i-\hat{y}_i)^2$$

El sobreajuste aparece cuando la pérdida de train baja pero la de validación se estanca o sube.

Haz clic para añadir muestras. En Modo de prueba, haz clic en x para ver y predicha y residuo.

Estado de entrenamiento
Puntos: 0
Train / Val: 0 / 0
Época: 0
Pérdida train: -
Pérdida val: -
Interpretación
  • Puntos azules: entrenamiento; naranjas: validación.
  • Marcador amarillo en Modo de prueba: salida predicha en x.
  • Si baja train pero sube val, la capacidad es alta o el entrenamiento es largo.
  • Prueba L2 más fuerte o capas ocultas más pequeñas para reducir sobreajuste.