scikit-learn机器学习初体验

点击上方“程序员大咖”，选择“置顶公众号”

关键时刻，第一时间送达！

Why

机器学习在图像和语音识别领域已经有很多成熟的应用，比如：

• 图像识别，比如人脸识别

• 机器翻译

• 语音输入

那机器学习究竟是如何做到这些的呢？本文以图像识别中比较简单的数字识别为例来了解一下。

What

scikit-learn 是一个用于数据挖掘和分析的 Python 库，完全开源并封装了很多机器学习的算法，我们可以很方便得对其提供的 SVM 算法进行训练并将其用于实际应用场景，解决一些数据量不是很大的问题。

下面的例子将演示如何使用 sklearn 库中提供的数字图片 dataset 来识别它们表示的实际数字。

最后画出的图形为：

How

安装 scikit-learn

根据 numpy 官方文档 的说明，官方发布的 源码和包在 SourceForge 上。那么分别从下面的地址下载安装最新 release 版本：

• SciPy: Scientific Library for Python

• Numerical Python

解决了依赖项问题之后，通过下面的命令安装 sklearn：

1. pip install - U scikit-learn

一个手写数字识别的例子

scikit_learn 官方有个例子，使用 sklearn 自带的 dataset 对算法进行训练并用于手写数字识别的例子。

准备工作

• 按照本文前半部分的步骤安装sklearn

• 安装 matplotlib的依赖库 dateutil

1. pip install  python-dateutil

• 安装 matplotlib 的依赖库 pyparsing

1. pip install  pyparsing

• 安装科学计算库 matplotlib

Python 代码：

1. # -*- coding: utf-8 -*-

2. """

3. ================================

4. Recognizing hand-written digits

5. ================================

7. An example showing how the scikit-learn can be used to recognize images of

8. hand-written digits.

10. This example is commented in the

11. :ref:`tutorial section of the user manual <introduction>`.

13. """

15. # 打印出上面的文档信息，Python 里面使用 """

16. # 多行注释的信息被当作文档信息，可以对源代码、类、方法等进行注释从而生成文档，是自解释的机制

17. print(__doc__)

19. # 下面是 scikit----learn 官方例子的作者信息

20. # Author: Gael Varoquaux <gael dot varoquaux at normalesup dot org>

21. # License: BSD 3 clause

23. # 导入用于科学计算的库

24. import matplotlib.pyplot as plt

26. # 导入 sklearn 自带的手写数字 dataset，以及进行机器学习的模块

27. from sklearn import datasets, svm, metrics

29. # 加载 sklearn 自带的手写数字 dataset

30. digits = datasets.load_digits()

32. # 这里我们感兴趣的数据是不同灰度的 8x8 个小格子组成的图像

33. # 如果我们直接使用图像进行处理，就需要使用 pylab.imread 来加载图像数据，而且这些图像数据必须都是 8x8 的格式

34. # 对于这个 dataset 中的图像，dataset.target 给出了它们实际对应的数字

35. images_and_labels = list(zip(digits.images, digits.target))

36. for index, (image, label) in enumerate(images_and_labels[:4]):

37.    plt.subplot(2, 4, index + 1)

38.    plt.axis('off')

39.    plt.imshow(image, cmap=plt.cm.gray_r, interpolation='nearest')

40.    plt.title('Training: %i' % label)

42. # 为了使用分类器，需要将每个表示手写图像的 8x8 数字转换为一个数字数组

43. # 这样 digits.images 就变为了(采样，采样特性)的一个矩阵

44. n_samples = len(digits.images)

45. data = digits.images.reshape((n_samples, -1))

46. print(digits.images[0])

47. print(data[0])

49. # 创建一个分类器，这里 gamma 的值是给定的，可以通过 grid search 和 cross validation 等技术算出更好的值。

50. # 下面的链接有个例子是自己算 gamma：

51. # http://efavdb.com/machine-learning-with-wearable-sensors/

52. classifier = svm.SVC(gamma=0.001)

54. # 用前半部分数据训练分类器

55. classifier.fit(data[:n_samples / 2], digits.target[:n_samples / 2])

57. # 对后半部分数据使用训练好的分类器进行识别

58. expected = digits.target[n_samples / 2:]

59. predicted = classifier.predict(data[n_samples / 2:])

61. # 打印分类器的运行时信息以及期望值和实际识别的值

62. print("Classification report for classifier %s:n%sn"

63.      % (classifier, metrics.classification_report(expected, predicted)))

64. print("Confusion matrix:n%s" %

65.      metrics.confusion_matrix(expected, predicted))

67. # 画出手写数字的图像并给出识别出的值

68. images_and_predictions = list(

69.    zip(digits.images[n_samples / 2:], predicted))

70. for index, (image, prediction) in enumerate(images_and_predictions[:4]):

71.    plt.subplot(2, 4, index + 5)

72.    plt.axis('off')

73.    plt.imshow(image, cmap=plt.cm.gray_r, interpolation='nearest')

74.    plt.title('Prediction: %i' % prediction)

76. plt.show()

下面的代码将输出注释中提到的将 8 x 8 数字矩阵转换为数组：

1. n_samples = len(digits.images)

2. data = digits.images.reshape((n_samples, -1))

3. print("Number picture matrix:")

4. print(digits.images[0])

5. print("flatten array:")

6. print(data[0])

其输出为：

1. Number picture matrix:

2. [[0.   0.   5.  13.   9.   1.   0.   0.]

3. [0.   0.  13.  15.  10.  15.   5.   0.]

4. [0.   3.  15.   2.   0.  11.   8.   0.]

5. [0.   4.  12.   0.   0.   8.   8.   0.]

6. [0.   5.   8.   0.   0.   9.   8.   0.]

7. [0.   4.  11.   0.   1.  12.   7.   0.]

8. [0.   2.  14.   5.  10.  12.   0.   0.]

9. [0.   0.   6.  13.  10.   0.   0.   0.]]

10. flatten array:

11. [0.   0.   5.  13.   9.   1.   0.   0.   0.   0.  13.  15.  10.  15.   5.

12. 0.   0.   3.  15.   2.   0.  11.   8.   0.   0.   4.  12.   0.   0.   8.

13. 8.   0.   0.   5.   8.   0.   0.   9.   8.   0.   0.   4.  11.   0.   1.

14. 12.   7.   0.   0.   2.  14.   5.  10.  12.   0.   0.   0.   0.   6.  13.

15. 10.   0.   0.   0.]

从结果看，识别率已经很高，如果有更多更多样化的训练数据并且自己算 gamma 参数的话，结果还能更好：

1.             precision    recall  f1 - score   support

3.          0       1.00      0.99      0.99        88

4.          1       0.99      0.97      0.98        91

5.          2       0.99      0.99      0.99        86

6.          3       0.98      0.87      0.92        91

7.          4       0.99      0.96      0.97        92

8.          5       0.95      0.97      0.96        91

9.          6       0.99      0.99      0.99        91

10.          7       0.96      0.99      0.97        89

11.          8       0.94      1.00      0.97        88

12.          9       0.93      0.98      0.95        92

14. avg / total       0.97      0.97      0.97       899

• 作者：xhrwang

• 原文链接：http://xhrwang.me/2015/02/13/scikit_learn-tutorial.html 

• 程序员大咖整理发布，转载请联系作者获得授权

【点击成为Java大神】