Support Vector Machine

Phòng lab SVM

So sánh phân loại biên tối đa tuyến tính và tách phi tuyến bằng kernel trên dữ liệu 2D.

SVM tuyến tính học siêu phẳng f(x)=w^Tx+b để tách lớp và tối đa hóa biên.

$$\min_{w,b}\ \frac{1}{2}\|w\|^2 + C\sum_i \max(0, 1-y_i(w^Tx_i+b))$$

Trong mô phỏng này, mô hình tuyến tính dùng cập nhật ngẫu nhiên kiểu Pegasos để tối ưu hinge loss.

Khi dữ liệu không tách tuyến tính, kernel so sánh điểm trong không gian đặc trưng đã biến đổi.

Thử RBF cho ranh giới cục bộ mượt hoặc Polynomial cho ranh giới cong toàn cục.

Support vectors được tô nổi bật là các mẫu xác định bề mặt quyết định.

  • lambda: độ mạnh regularization cho cập nhật Pegasos tuyến tính.
  • lr: kích thước bước ảnh hưởng tốc độ và độ ổn định.
  • gamma (RBF): giá trị lớn tạo ranh giới hẹp và cục bộ hơn.
  • degree (Poly): bậc cao làm tăng độ phức tạp ranh giới.
  1. Tải dữ liệu demo và huấn luyện Linear SVM vài epoch.
  2. Quan sát đường biên và xu hướng độ chính xác.
  3. Chuyển sang Kernel Perceptron và so sánh vùng phi tuyến.
  4. Chỉnh tham số kernel và quan sát số support vector tăng.

Nhấp để đặt mẫu. Chọn Class A/B trước, rồi huấn luyện và quan sát ranh giới.

Trạng thái
Số điểm: 0 A | 0 B
Epoch: 0
Độ chính xác huấn luyện: -
Thông tin mô hình