K-Nächste-Nachbarn-Labor
Instanzbasierte Klassifikation mit interaktiven Entscheidungsregionen, Nachbarschaftsprüfung und gewichteter Abstimmung.
K-NN lernt keine globalen Modellparameter. Es sagt mithilfe der Labels nahegelegener Trainingspunkte im Merkmalsraum voraus.
Für einen Abfragepunkt x wähle die K nächsten Samples und aggregiere ihre Labels per Mehrheits- (oder gewichteter) Abstimmung.
$$\hat{y}(x)=\arg\max_c \sum_{i\in \mathcal{N}_K(x)} w_i\,\mathbf{1}(y_i=c)$$
- K klein: sehr flexible Grenze, empfindlich gegenüber lokalem Rauschen.
- K groß: glattere Grenze, geringere Varianz, potenziell höherer Bias.
- Gewichtete Abstimmung (w=1/d) gibt sehr nahen Nachbarn mehr Einfluss.
Da K-NN auf Distanz beruht, ist Feature-Skalierung in realen Datensätzen kritisch. Standardisierung verbessert meist die Zuverlässigkeit.
Die Vorhersagekosten steigen mit der Datensatzgröße, da bei der Inferenz viele Distanzen berechnet werden müssen.
Nutze Validierung, um K zu wählen, und bewerte Robustheit bei verrauschten oder überlappenden Klassenverteilungen.
- Lade eine Demo-Verteilung (vertikal, XOR, konzentrisch, Überlappung, zufällig).
- Passe K an und schalte gewichtete Abstimmung um, um Grenzen zu vergleichen.
- Aktiviere den Testmodus und klicke, um Nachbarn und Klassenwahrscheinlichkeit zu prüfen.
- Erhöhe die Regionsdichte für feinere Details und senke sie für schnelleres Rendering.
Klicken, um Trainingspunkte hinzuzufügen. Im Testmodus klicken, um einen Punkt zu klassifizieren und Nachbarn zu prüfen.