K-Means Clustering

K-Means डेटा को K clusters में बांटता है और within-cluster squared distance (inertia) को न्यूनतम करता है।

$$ J = \sum_{i=1}^{N} \min_{1 \leq j \leq K} \left\lVert x_i - \mu_j \right\rVert^2 $$

हर sample सबसे नज़दीकी centroid को assign होता है, फिर centroids को assigned samples की mean से recompute किया जाता है।

Algorithm दो deterministic steps के बीच चलता है:

$$ c_i \leftarrow \arg\min_j \lVert x_i - \mu_j \rVert^2 $$

$$ \mu_j \leftarrow \frac{1}{|C_j|}\sum_{x_i \in C_j} x_i $$

Inertia monotonically घटती है जब तक local optimum पर converge न हो जाए।

Random initialization सरल है लेकिन खराब seeds से शुरू हो सकता है।

k-means++ प्रारंभिक centroids फैलाता है, जिससे अक्सर तेज convergence और कम final inertia मिलती है।

Production में अलग-अलग seeds के साथ multiple runs करें ताकि local-minimum sensitivity कम हो।