Laboratorio rete neurale XOR
Visualizzazione del forward/backward pass per un piccolo percettrone multistrato.
XOR non puo essere risolto da un singolo separatore lineare. Un modello deve apprendere una superficie decisionale non lineare.
Questo rende XOR il problema giocattolo standard per dimostrare strati nascosti e attivazioni non lineari.
Il simulatore usa un MLP compatto:
Input(2) -> Hidden(4) -> Hidden(2) -> Output(1)
L attivazione di output e sigmoide per probabilita binaria. L attivazione nascosta puo essere tanh o ReLU.
Ogni step campiona un caso XOR, esegue un forward pass, calcola la loss e poi applica backprop.
$$ z^{(l)} = a^{(l-1)}W^{(l)} + b^{(l)}, \quad a^{(l)} = f(z^{(l)}) $$
$$ W \leftarrow W - \eta \nabla_W L, \quad b \leftarrow b - \eta \nabla_b L $$
- Il grafico della loss mostra il trend di convergenza durante il training.
- Il pannello di predizione mostra la confidenza di output per tutti e quattro gli input XOR.
- Il pannello di calcolo registra gli ultimi valori forward/backward per ispezione.
Controlli di training
Trace forward/backward
Snapshot predizione
Cerchi piu grandi indicano maggiore probabilita di output vicino alla classe 1.
Target XOR
- (0,0) -> 0
- (0,1) -> 1
- (1,0) -> 1
- (1,1) -> 0