K-最近邻算法是一种非参数监督学习分类器，它运用邻近度对单个数据点的分组进行分类或预测。 虽然此算法主要用于分类问题，但它也可解决回归问题。 它通常作为分类算法，由于它假设数据集中的相似点可以在彼此的附近找到。 k-最近邻算法是监督机器学习中最简单的算法之一。 我们将在本文中构筑我们的算法作为分类器。

图源: skicit-learn.org

在我们潜心编写代码之前，我们先了解一下 KNN 算法的工作原理：

这一步很简单，我们所要做的就是选择我们将在 CKNNnearestNeighbors 类中使用的 k 的数量，而这就提出了我们如何分解 k 的问题。

我们如何分解 K？

K 是针对给定值/点应属于的位置进行投票的最近邻居数量。 选择较低的 k 数值将导致分类数据点中存在大量噪声，故这可能导致较高的偏差数；而同时，较高的 k 数值会令算法明显变慢。 

k 值需要是一个奇数，从而避免卡在决策过程中，而这意味着什么呢？因为投票过程需要 k 个邻居，如果它设置为 4，然后 2 个成员投票给属于类别 A 的点，那么剩下的 2 票它属于类别 B？？ 那您如何判定哪一方赢得了决议？

当有 2 个类别需要分类时，这样的情况发生得最多，我们将看看以后当 k 个邻居有很多类别时，如果发生这样的情况，我们该怎么办。

在我们的聚类库内，我们创建一个函数从数据集矩阵中获取可用的类，并将它们存储在名为 m_classesVector 的类全局向量之中。