目前现有的机器学习定义
Arthur Samuel(1959)：机器学习为在特定编程的情况下给予计算机学习能力的领域。
西洋棋程序就是出自他。
Tom Mitchell(1998): 一个程序被认为能从经验E中学习，解决任务T,达到性能度量值P，当且仅当有了经验E后，经过P评判，程序在处理T时的性能有所提升。
例如：在西洋棋的例子中
经验E：程序上万次的自我练习的经验
任务T：下棋
性能度量P：程序在与一些新的对手比赛时，赢得比赛的概率
监督学习
例1.预测房价（回归问题）
已知：{},
表示房子的大小，
表示房子的价格
求：预测模型
输出：给一栋房子的大小，输出该房子的价格。
例2.预测胸部肿瘤的状况（良性，恶性）（分类问题）
问题：给一个肿瘤块的大小，估计这个肿瘤是良性还是恶性的概率。
分类问题（预测值是离散值）
求：分类模型
输出：给定一个病人的肿瘤块大小，判断该肿瘤是良性还是恶性。
无监督学习
例1.谷歌新闻搜索成千上万条新闻，自动将同一主题的新闻聚合在一起 。
例2.基因芯片：给定一组不同的个体，对于每个个体检测它们是否拥有某个特定的基因，分析有多少基因显现出来了
无监督学习：给定数据，不知道有哪些类型，自动的找到这些数据中的类型，自动的按得到的类型把这些个体分类 。
应用
1.组织大型的计算机集群。找出哪些机器趋向于协同工作，把这些机器放在一起
2.用于社交网络的分析。如果可以得知 已知你用email联系的最多 ，或者知道你的Facebook好友或者你Google+里的朋 友 ，知道这些信息后，我们自动识别 ，哪些是很要好的朋友组 ，哪些仅仅是互相认识的朋友组
3.市场分割中的应用。给一个客户数据集，能否自动找出不同的市场分割并自动将你的客户分到不同的细分市场中
从而有助于我在不同的细分市场中进行更有效的销售。
4.天文数据分析 。
鸡尾酒宴问题
假设宴会上只有两个人，两个人同时说话在房间里有两个麦克风 ，这两个麦克风距离这两个人的距离是不同的， 每个麦克风都记录下了来自两个人的声音的不同组合，将这两个人的声音从麦克风里分离出来。
学习总结：
监督学习：已知{X,Y},找出X，Y之间的关系。在给定一个X的值时，利用这个关系求出Y。
非监督学习：已知X，求模型找到Y，在给定一个X的值时，利用这个模型求Y。