Support Vector Machine

Лабораторія Support Vector Machine

Порівняння лінійної класифікації з максимальним зазором та нелінійного розділення з kernel на 2D даних.

Лінійна SVM навчає гіперплощину f(x)=w^Tx+b, що розділяє класи й максимізує зазор.

$$\min_{w,b}\ \frac{1}{2}\|w\|^2 + C\sum_i \max(0, 1-y_i(w^Tx_i+b))$$

У цьому симуляторі лінійна модель використовує стохастичні оновлення в стилі Pegasos для оптимізації hinge-loss.

Коли дані не лінійно роздільні, kernel методи порівнюють точки у перетвореному просторі ознак.

Спробуйте RBF для мʼяких локальних меж або Polynomial для вигнутих глобальних меж.

Support vectors підсвічені як ключові зразки, що визначають поверхню рішень.

  • lambda: сила регуляризації для лінійних оновлень Pegasos.
  • lr: крок, що керує швидкістю та стабільністю оновлень.
  • gamma (RBF): більші значення створюють більш локальні межі.
  • degree (Poly): більший degree підвищує складність межі.
  1. Завантажте demo дані та тренуйте Linear SVM кілька епох.
  2. Огляньте margin lines і тренд точності.
  3. Перейдіть на Kernel Perceptron і порівняйте нелінійні регіони.
  4. Налаштуйте kernel параметри й спостерігайте зростання support vectors.

Клікніть, щоб розмістити зразки. Спочатку оберіть Class A/B, потім train і огляньте межі.

Статус
Точки: 0 A | 0 B
Епоха: 0
Точність training: -
Model Info