Support Vector Machine

サポートベクターマシンラボ

線形最大マージン分類とカーネルによる非線形分離を2Dデータで比較。

線形SVMは f(x)=w^Tx+b の超平面を学習し、クラスを分離しながらマージンを最大化します。

$$\min_{w,b}\ \frac{1}{2}\|w\|^2 + C\sum_i \max(0, 1-y_i(w^Tx_i+b))$$

このシミュレータでは、線形モデルはPegasos風の確率的更新でヒンジ損失の挙動を最適化します。

データが線形分離できない場合、カーネル法は変換された特徴空間で点を比較します。

RBFは滑らかな局所境界、ポリノミアルは曲線的なグローバル境界に向きます。

サポートベクターは決定境界を定義する強調サンプルとして表示されます。

  • lambda: 線形Pegasos更新の正則化強度。
  • lr: 更新速度と安定性を制御するステップサイズ。
  • gamma(RBF): 値が大きいほど局所的でタイトな境界。
  • degree(Poly): 次数が高いほど境界が複雑。
  1. デモデータを読み込み、線形SVMを数エポック学習。
  2. マージン線と学習精度の傾向を確認。
  3. カーネルPerceptronに切り替えて非線形領域を比較。
  4. カーネルのパラメータを調整し、サポートベクターの増加を観察。

クリックでサンプルを配置。先にクラスA/Bを切り替えてから学習し、境界を確認します。

ステータス
ポイント: 0 A | 0 B
エポック: 0
学習精度: -
モデル情報