Laboratório de regressão neural não linear
Ajuste curvas não lineares com um MLP e observe a divergência treino/val em sobreajuste.
Ao contrário da regressão linear y=ax+b, este laboratório usa camadas ocultas para aprender mapeamentos não lineares x → y.
$$\hat{y}=W_L\,\phi(W_{L-1}\phi(\cdots\phi(W_1x+b_1)\cdots)+b_{L-1})+b_L$$
Escolha profundidade, largura e ativação para controlar a capacidade.
O objetivo é o MSE no subconjunto de treino:
$$\text{MSE}=\frac{1}{n}\sum_{i=1}^{n}(y_i-\hat{y}_i)^2$$
Overfitting ocorre quando a perda de treino cai e a de validação estagna ou sobe.
Clique para adicionar amostras. No modo de teste, clique em x para ver y prevista e resíduo.
Status de treino
Pontos: 0
Treino / Val: 0 / 0
Época: 0
Perda treino: -
Perda val: -
Interpretação
- Pontos azuis: treino; laranja: validação.
- Marcador amarelo no modo de teste: saída prevista em x.
- Se treino cai e validação sobe, a capacidade é alta ou o treino é longo.
- Tente L2 maior ou camadas menores para reduzir overfitting.