一、k-近邻算法(分类算法)

k-近邻算法:如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别。
相似的样本,同一特征的值应该是相近的。
k的取值会影响结果。

1、计算k-近邻距离公式

两个样本的距离可以通过如下公式计算,又叫欧式距离。需要事先对数据进行标准化处理。
比如说,a(a1,a2,a3),b(b1,b2,b3) 间的距离= ( a 1 − b 1 ) 2 + ( a 2 − b 2 ) 2 + ( a 3 − b 3 ) 2 \sqrt{(a_1-b_1)^2+(a_2-b_2)^2+(a_3-b_3)^2} (a1b1)2+(a2b2)2+(a3b3)2

人工智能-机器学习-算法

2、sklearn的k-近邻算法Api

sklearn.neighbors.KNeighborsClassifier(n_neighbors=5,algorithm=‘auto’)

  • n_neighbors:int,可选(默认= 5),k_neighbors查询默认使用的邻居数
  • algorithm:{‘auto’,‘ball_tree’,‘kd_tree’,‘brute’},可选用于计算最近邻居的算法:‘ball_tree’将会使用 BallTree,‘kd_tree’将使用 KDTree。‘auto’将尝试根据传递给fit方法的值来决定最合适的算法。 (不同实现方式影响效率)

3、k-近邻算法实例流程

3.1 数据集的处理

  1. 缩小数据集范围:DataFrame.query()
  2. 处理日期数据:pd.to_datetime、pd.DatetimeIndex
  3. 增加分割的日期数据
  4. 删除没用的日期数据:pd.drop
  5. 将签到位置少于n个用户的删除
    place_count =data.groupby(‘place_id’).aggregate(np.count_nonzero)
    tf = place_count[place_count.row_id > 3].reset_index()
    data = data[data[‘place_id’].isin(tf.place_id)]

3.2、分割数据集

3.3、对数据集进行标准化

3.4、estimator流程进行分类预测

相关文章: