非线性神经回归实验
用多层感知机拟合非线性曲线，并观察过拟合导致的 train/val 分歧。
不同于线性回归 y=ax+b，本实验使用隐藏层学习非线性映射 x → y。
$$\hat{y}=W_L\,\phi(W_{L-1}\phi(\cdots\phi(W_1x+b_1)\cdots)+b_{L-1})+b_L$$
通过深度、宽度和激活函数控制模型容量。
目标是在训练子集上的均方误差：
$$\text{MSE}=\frac{1}{n}\sum_{i=1}^{n}(y_i-\hat{y}_i)^2$$
若训练损失继续下降而验证损失持平或上升，则出现过拟合。
点击添加样本。测试模式下点击 x 位置查看预测 y 和残差。
训练状态
点数： 0
Train / Val： 0 / 0
Epoch： 0
训练损失： -
验证损失： -
解读
- 蓝点：训练子集，橙点：验证子集。
- 测试模式中的黄色标记：点击位置的预测输出。
- 若 train 降而 val 升，说明容量过大或训练过久。
- 尝试更强的 L2 正则或更小的隐藏层以减少过拟合。