Лаборатория SVM
Сравнение линейной классификации с максимальным зазором и нелинейного разделения с ядрами на интерактивных 2D данных.
Линейный SVM обучает гиперплоскость f(x)=w^Tx+b, разделяющую классы и максимизирующую зазор.
$$\min_{w,b}\ \frac{1}{2}\|w\|^2 + C\sum_i \max(0, 1-y_i(w^Tx_i+b))$$
В этом симуляторе линейная модель использует стохастические обновления в стиле Pegasos для оптимизации hinge-loss.
Когда данные не линейно разделимы, методы ядра сравнивают точки в преобразованном пространстве признаков.
RBF даёт гладкие локальные границы, Polynomial — изогнутые глобальные границы.
Опорные векторы выделены как ключевые образцы, определяющие поверхность решения.
- lambda: сила регуляризации для линейных обновлений Pegasos.
- lr: шаг обновления, влияющий на скорость и стабильность.
- gamma (RBF): большие значения дают более узкие локальные границы.
- degree (Poly): более высокий порядок увеличивает сложность границы.
- Загрузите демо-данные и обучите Linear SVM несколько эпох.
- Изучите линии зазора и динамику точности.
- Переключитесь на Kernel Perceptron и сравните нелинейные регионы.
- Настройте параметры ядра и наблюдайте рост числа опорных векторов.
Кликните, чтобы размещать образцы. Сначала выберите Class A/B, затем обучайте и изучайте границы.