XOR 神经网络实验
可视化小型多层感知机的前向/反向传播。
XOR 无法由单一线性分隔器解决。模型必须学习非线性决策面。
因此 XOR 是展示隐藏层与非线性激活的标准玩具问题。
模拟器使用紧凑的 MLP：
Input(2) -> Hidden(4) -> Hidden(2) -> Output(1)
输出激活为 sigmoid 以表示二元概率。隐藏层激活可选 tanh 或 ReLU。
每一步采样一个 XOR 案例，执行前向传播、计算损失并应用反向传播更新。
$$ z^{(l)} = a^{(l-1)}W^{(l)} + b^{(l)}, \quad a^{(l)} = f(z^{(l)}) $$
$$ W \leftarrow W - \eta \nabla_W L, \quad b \leftarrow b - \eta \nabla_b L $$
- 损失曲线展示训练收敛趋势。
- 预测面板显示四个 XOR 输入的输出置信度。
- 计算面板记录最近一次的前向/反向数值。
训练控制
步： 0 | 损失： -
前向/反向追踪
预测快照
圆越大表示输出概率越接近类 1。
XOR 目标
- (0,0) -> 0
- (0,1) -> 1
- (1,0) -> 1
- (1,1) -> 0