XOR Neural Lab

XOR không thể giải bằng một đường phân tách tuyến tính. Mô hình phải học bề mặt quyết định phi tuyến.

Vì vậy XOR là bài toán đồ chơi chuẩn để minh họa lớp ẩn và kích hoạt phi tuyến.

Mô phỏng dùng MLP gọn:

Input(2) -> Hidden(4) -> Hidden(2) -> Output(1)

Kích hoạt đầu ra là sigmoid cho xác suất nhị phân. Kích hoạt ẩn có thể là tanh hoặc ReLU.

Mỗi bước lấy một trường hợp XOR, chạy forward, tính loss rồi cập nhật backprop.

$$ z^{(l)} = a^{(l-1)}W^{(l)} + b^{(l)}, \quad a^{(l)} = f(z^{(l)}) $$

$$ W \leftarrow W - \eta \nabla_W L, \quad b \leftarrow b - \eta \nabla_b L $$