Laboratório K-Nearest Neighbors
Classificação baseada em instâncias com regiões de decisão interativas, inspeção de vizinhos e votação ponderada.
O K-NN não aprende parâmetros globais do modelo. Ele prevê usando os rótulos de pontos de treino próximos no espaço de atributos.
Para um ponto de consulta x, selecione as K amostras mais próximas e agregue seus rótulos por maioria (ou votação ponderada).
$$\hat{y}(x)=\arg\max_c \sum_{i\in \mathcal{N}_K(x)} w_i\,\mathbf{1}(y_i=c)$$
- K pequeno: fronteira muito flexível, sensível a ruído local.
- K grande: fronteira mais suave, menor variância, possivelmente maior viés.
- Votação ponderada (w=1/d) dá mais influência a vizinhos muito próximos.
Como o K-NN depende de distância, o escalonamento de atributos é crítico em dados reais. Padronização geralmente melhora a confiabilidade.
O custo de predição cresce com o tamanho do dataset, pois as distâncias devem ser calculadas contra muitas amostras no momento da inferência.
Use validação para escolher K e avaliar robustez sob distribuições ruidosas ou sobrepostas.
- Carregue uma distribuição demo (vertical, XOR, concêntrica, sobreposição, aleatória).
- Ajuste K e alterne a votação ponderada para comparar fronteiras.
- Ative o Modo Teste e clique para inspecionar vizinhos mais próximos e probabilidade de classe.
- Aumente a densidade da região para ver mais detalhes e depois reduza para renderização mais rápida.
Clique para adicionar amostras de treino. No Modo Teste, clique para classificar um ponto e inspecionar os vizinhos.