划分数据集
在实现机器学习的过程中，训练集是用来训练模型的，给模型输入和对应的输出，让模型学习它们之间的关系。
验证集是用来估计模型的训练水平，比如分类器的分类精确度，预测的误差等，我们可以根据验证集的表现来选择最好的模型。
划分数据集功能描述：将一个大数据集按比例划分为训练集和验证集（如下图)
代码：
#split_data.py # 划分数据集flower_data，数据集划分到flower_datas中，训练验证比例为8：2 import os from shutil import copy import random def mkfile(file): if not os.path.exists(file): os.makedirs(file) # 获取data文件夹下所有文件夹名（即需要分类的类名） #划分数据集flower_data，数据集划分到flower_datas中 file_path = 'F:/gao/data/flower_data' new_file_path = 'F:/gao/data/flower_datas' # 划分比例，训练集 : 验证集 = 8 : 2 split_rate = 0.2 data_class = [cla for cla in os.listdir(file_path)] train_path = new_file_path + '/train/' val_path = new_file_path + '/val/' # 创建 训练集train 文件夹，并由类名在其目录下创建子目录 mkfile(new_file_path) for cla in data_class: mkfile(train_path + cla) # 创建 验证集val 文件夹，并由类名在其目录下创建子目录 mkfile(new_file_path) for cla in data_class: mkfile(val_path + cla) # 遍历所有类别的全部图像并按比例分成训练集和验证集 for cla in data_class: cla_path = file_path + '/' + cla + '/' # 某一类别的子目录 images = os.listdir(cla_path) # iamges 列表存储了该目录下所有图像的名称 num = len(images) eval_index = random.sample(images, k=int(num * split_rate)) # 从images列表中随机抽取 k 个图像名称 for index, image in enumerate(images): # eval_index 中保存验证集val的图像名称 if image in eval_index: image_path = cla_path + image new_path = val_path + cla copy(image_path, new_path) # 将选中的图像复制到新路径 # 其余的图像保存在训练集train中 else: image_path = cla_path + image new_path = train_path + cla copy(image_path, new_path) print("\r[{}] processing [{}/{}]".format(cla, index + 1, num), end="") # processing bar print() print("processing done!")
注意：
只需要修改file_path（源文件夹）和new_file_path（新生成的文件夹）
其次是修改split_rate（split_rate=0.2就是训练集：验证集=8：2）
）和new_file_path（新生成的文件夹）
其次是修改split_rate（split_rate=0.2就是训练集：验证集=8：2）
