Laboratorio de K-Nearest Neighbors
Clasificacion basada en instancias con regiones de decision interactivas, inspeccion de vecinos y votacion ponderada.
K-NN no aprende parametros globales. Predice usando las etiquetas de puntos de entrenamiento cercanos en el espacio de caracteristicas.
Para un punto de consulta x, selecciona las K muestras mas cercanas y agrega sus etiquetas por voto mayoritario (o ponderado).
$$\hat{y}(x)=\arg\max_c \sum_{i\in \mathcal{N}_K(x)} w_i\,\mathbf{1}(y_i=c)$$
- K pequeno: frontera muy flexible, sensible al ruido local.
- K grande: frontera mas suave, menor varianza, mayor sesgo potencial.
- Votacion ponderada (w=1/d) da mas influencia a vecinos muy cercanos.
Como K-NN depende de la distancia, el escalado de caracteristicas es critico. La estandarizacion suele mejorar la fiabilidad.
El coste de prediccion crece con el tamano del conjunto, ya que hay que calcular distancias contra muchas muestras.
Usa validacion para elegir K y evaluar robustez con clases ruidosas o solapadas.
- Carga una distribucion de demo (vertical, XOR, concentrica, solapada, aleatoria).
- Ajusta K y activa la votacion ponderada para comparar fronteras de decision.
- Activa el Modo de prueba y haz clic para inspeccionar vecinos y probabilidad de clase.
- Aumenta la densidad de region para ver mas detalle y luego bajala para renderizar mas rapido.
Haz clic para agregar muestras. En Modo de prueba, haz clic para clasificar un punto y ver sus vecinos mas cercanos.