将保存在txt中的数据集划分为训练集测试集验证集,代码如下(该代码划分的比例是训练集:验证集:测试集=6:2:2):
import os
import random
l_train=[]
l_val=[]
l_test=[]
# 读取文件中的内容,并将其打乱写入列表FileNameList
def ReadFileDatas(original_filename):
file=open(original_filename,'r+')
FileNameList=file.readlines()
random.shuffle(FileNameList)
file.close()
print("数据集总量:", len(FileNameList))
return FileNameList
#将数据集随机划分
def TrainValTestFile(FileNameList):
i=0
j=len(FileNameList)
for line in FileNameList:
if i<(j*0.6):
i+=1
l_train.append(line)
elif i<(j*0.8):
i+=1
l_val.append(line)
else:
i+=1
l_test.append(line)
print("总数量:%d,此时创建train,val,test数据集"%i)
return l_train,l_val,l_test
#将获取到的各个数据集的包含的文件名写入txt中
def WriteDatasToFile(listInfo, new_filename):
file_handle = open(new_filename,'w')
for str_Result in listInfo:
file_handle.write(str_Result)
file_handle.close()
print('写入 %s 文件成功.' % new_filename)
if __name__ == "__main__":
listFileInfo = ReadFileDatas('F:/wangjiao/划分服务器训练的VIN数据集/all.txt') # 读取文件
l_train,l_val,l_test=TrainValTestFile(listFileInfo)
WriteDatasToFile(l_train, 'F:/wangjiao/划分服务器训练的VIN数据集/all_train.txt')
WriteDatasToFile(l_val, 'F:/wangjiao/划分服务器训练的VIN数据集/all_val.txt')
WriteDatasToFile(l_test, 'F:/wangjiao/划分服务器训练的VIN数据集/all_test.txt')
备注:
'F:/wangjiao/划分服务器训练的VIN数据集/all.txt'中保存着所有数据集,如下所示:
参考文章:
https://blog.csdn.net/qq_38473254/article/details/99417019