机器学习 day05(五)

使用决策树回归模型

1. 导入数据

1. 从数据集中导入波士顿房价数据
   
2. 分割训练集和测试集
   

2. 决策树回归模型

1. 创建决策树回归模型,训练
   
2. 查看相关特征的情况
   

3. 性能检测

1. 导入均方误差和平均绝对误差模块
   查看经验误差和泛化误差
   说明该数据有点过拟合
2. 绘制图像,
   

4.调优

上面的模型有些过拟合,如果这个范围不能被接受,那么就需要进行调优

4.1 如果用网格搜索进行调优

1. 创建新的决策树回归模型
   
2. 使用网格搜索进行调优
   
   虽然这个准确率还是比较高的
   但是网格搜索,比价适用于分类问题，因为网格搜索判断的依据score（即准确率），对于回归问题来说， 准确率不能作为决断唯一的标准

4.2 回归问题，一般用for循环来调优

查看性能

均方误差对比就减小了一些,现在的算法为最优算法