泰坦尼克号
- 1 导入包
- 2 加载并合并数据
- 3 查看数据
- 4 处理数据
- 4.1 删除Cabin => 客舱、Ticket => 船票信息、PassengerId => 乘客ID
- 4.2 处理Age => 年龄的缺失值
- 4.3接着，我们需要从年龄中提取一个特征出来，即：孩子。尊老爱幼
- 4.4处理Embarked => 登船港口的缺失值
- 4.5 填补Fare => 票价 缺失值
- 4.6Pclass => 乘客等级(1/2/3等舱位)
- 4.7老规矩，首先看看Sex与Survived的关系：
- 4.8Name（姓名），Parch（父母/孩子的数量），SibSp（配偶的数量）：
- 4.9对Embarked进行变量转换
- 4.10再观察一下数据，看看还有那些特征可以用到，整理出三个新特征：称谓、家庭大小、姓。
- 6 对数据进行标准化、降维等操作
- 7 可视化研究不同特征的影响
- 8 删去影响较小的特征--Q
- 9 网格搜索最优参数
- 10 模型构建
- 11 验证结果
- 12 实验报告和源代码下载地址
作者：东北大学软件工程1704张志浩
1 导入包
2 加载并合并数据
3 查看数据
我们知道了总的数据一共有1309行，也知道了每个特征的数据类型，很多数据都出现了缺失，总结一下：
1、Age缺失 263个，不算多，处理数据
2、Survived缺失418个，不用处理，因为test.csv中的数据本来就是没有Survived的。
3、Cabin缺失1014个，缺失太多，丢弃这个特征
4、Fare缺失1个
5、Embarked缺失2个
4 处理数据
在数据中出现缺失或者错误的Value是很正常的事，一些预测模型可以很好的处理缺失数据，如神经网络(neural networks)，有些则需要单独处理他们。但是我们使用的随机森林(Random Forest)来做预测模型，随机森林(自身并不能对付缺失数据，所以我们需要对缺失值单独进行处理。
4.1 删除Cabin => 客舱、Ticket => 船票信息、PassengerId => 乘客ID
4.2 处理Age => 年龄的缺失值
4.2.1 平均值来填充
Age（年龄）有263个缺失项，就简单地用平均值来填充，并看看填充前后的直方图：
4.2.2 随机选取平均值加减标准差范围的数来填充
4.3接着，我们需要从年龄中提取一个特征出来，即：孩子。尊老爱幼
4.4处理Embarked => 登船港口的缺失值
4.5 填补Fare => 票价 缺失值
Fare（票价）只有1个缺失项,直接用平均值填充：
可以看出票价集中在10左右，幸存的人的票价平均在48。
4.6Pclass => 乘客等级(1/2/3等舱位)
可视化
得到Pclass与Survived的关系，可以看出Pclass为3的生存率很低，我们试试把它的Dummy Variables去掉：
4.7老规矩，首先看看Sex与Survived的关系：
4.8Name（姓名），Parch（父母/孩子的数量），SibSp（配偶的数量）：
4.9对Embarked进行变量转换
4.10再观察一下数据，看看还有那些特征可以用到，整理出三个新特征：称谓、家庭大小、姓。
4.10.1处理姓
4.10.2处理称谓
4.10.3处理家庭大小
5 提取模型需要的数据
6 对数据进行标准化、降维等操作
我只使用了离差标准化，其他的没有离差标准化准确率高，注释掉的代码是我没有使用的方法
6.1 离差标准化
6.2 标准差标准化数据
6.3 对特征进行二值化处理
6.4 对定性特征进行独热编码处理
6.5 PCA降维
7 可视化研究不同特征的影响
从图中可以看出Q影响较小，删去
8 删去影响较小的特征–Q
9 网格搜索最优参数
我得到n_estimators=26,max_depth=6,最优
10 模型构建
我试了几乎所以的模型，但是只有随机森林的准确率最高，可能我处理得到的数和这个模型比较匹配
10.1 随机森林
10.2 GBDT
10.3SVM模型
10.4逻辑回归Logistic Regression
11 验证结果
12 实验报告和源代码下载地址
泰坦尼克号0.81准确率python源代码
泰坦尼克号0.81准确率实验报告