Support Vector Machine

支持向量机实验

在交互式 2D 数据上比较线性最大间隔分类与核方法的非线性分离。

线性 SVM 学习超平面 f(x)=w^Tx+b,在分离类别的同时最大化间隔。

$$\min_{w,b}\ \frac{1}{2}\|w\|^2 + C\sum_i \max(0, 1-y_i(w^Tx_i+b))$$

本模拟器中,线性模型使用 Pegasos 风格的随机更新优化 hinge-loss。

当数据线性不可分时,核方法在变换后的特征空间比较点。

RBF 适合平滑的局部边界,Polynomial 适合弯曲的全局边界。

支持向量会高亮显示,它们定义了决策边界。

  • lambda:线性 Pegasos 更新的正则化强度。
  • lr:控制更新速度与稳定性的步长。
  • gamma(RBF):值越大边界越局部。
  • degree(Poly):次数越高边界越复杂。
  1. 加载演示数据并训练线性 SVM 若干 epoch。
  2. 观察间隔线与训练准确率趋势。
  3. 切换到 Kernel Perceptron 比较非线性区域。
  4. 调整核参数并观察支持向量的增长。

点击放置样本。先选择类 A/B,再训练并观察边界。

状态
点数: 0 A | 0 B
Epoch: 0
训练准确率: -
模型信息