《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用(下)

简介: 《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用(下)

(7)文件顺利执行,得出结果:


image.png


评估后得出结果:

loss=0.6918540149927139.acc=0.46750000305473804


可以看出效果并不是很理想,需要进一步调整学习率优化准确度


结论

在老师布置了创新创业大作业以后,我便开始选择题目,在浏览了十多题后,我最终选择了眼疾识别问题作为此次创新创业课程设计的大作业。如今近视已经成为困扰人们健康的一项全球性负担,在近视人群中,有超过35%的人患有重度近视。因此,及早发现近视患者眼睛的病变并采取治疗,显得非常重要。定题后,我便开始后面的设计。


我们是这学期学的Python语言和百度Paddle人工智能平台,一下子接触很多新的概念,多多少少有点不适应,平时忙着复习预习物理数学等科目,就仅仅周末有一些时间练习Python语言和百度Paddle人工智能平台,于是把paddle平台和python的训练给丢下了,在最后一个月,才开始抓紧学习两个平台的搭配使用。


从Paddle平台获得程序后,我首先下载平台提供的数据集,并对已完成的代码更改程序中打开的本地文件地址。


在检查好滴之后,第一次运行,出现了左右两只眼球的图,把我高兴坏了,但高兴没过一会儿,出现了一个文件报错,内容是:invalid literal for int() with base 10: '' 从CSDN上检索了相关问题的解决办法,首先尝试的是将数据先转为float类型,再用int函数强行变为整型,但是发现改正后运行还是继续报错,报错内容为:ValueError: could not convert string to float: '' 这个时候,心里是有点害怕的,到底是接着int(float())改还是退回int()改,再冷静思考后,我决定还是退回int()改,以防代码出现大面积更换,不利于后期程序运行和理解。


在CSDN上继续检索后,又发现一个解决的方案,就是用pass函数跳过,


将代码处理后,再次运行,完美得到结果,并且没有出现任何大面积的程序改动。


顿时,好像一下子从暗无天日的盲目中找到了方向,心中一下子开阔起来。


这个过程出现了曲折大致可以认为是编程软件的更新,以及本地环境的不匹配导致的,网上很多的代码的都是基于个人本地环境实现的,相关的代码我不能直接套用,针对这个问题,我首先是阅读他的程序,判断哪些是我能自主修改最终能在我本地运行的。


检阅python相关的语法,接着学习paddle的使用方法,在进行改码时,还是出现了很多错误,在一遍遍的修改查资料后,还是不能一下子就很快地将程序调出来,这个时候我们想到了学长,在学长的指导下,我们很快地找到了问题的症结———相关文件尺寸的问题。


接下来的过程就很轻松,一遍遍的运行代码,一遍遍的优化代码,最终获得了实验得出最优的眼疾识别代码。


最后一点最重要的体会就是:要学会查找资料,要学会请教他人,学会坚持和钻研。不要怕!不要悔!


五、参考文献


1、代码高亮处理http://www.codeinword.com


 2、paddle人工智能平台飞桨PaddlePaddle-源于产业实践的开源深度学习平台


 3、第一次处理方法https://blog.csdn.net/weixin_44034883/article/details/112918440


 4、第二次处理办法


https://blog.csdn.net/zcs_xueli/article/details/107458068?utm_medium=distribute.pc_relevant.none-task-blog-baidujs_title-0&spm=1001.2101.3001.4242


六、以下是完整代码:


  1. import os  
  2. import numpy as np  
  3. import matplotlib.pyplot as plt  
  4. from PIL import Image  
  5.  
  6. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
  7. # 文件名以N开头的是正常眼底图片,以P开头的是病变眼底图片  
  8. file1 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/N0012.jpg'  
  9. file2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/P0095.jpg'  
  10.  
  11. # 读取图片  
  12. img1 = Image.open(os.path.join(DATADIR, file1))  
  13. img1 = np.array(img1)  
  14. img2 = Image.open(os.path.join(DATADIR, file2))  
  15. img2 = np.array(img2)  
  16.  
  17. # 画出读取的图片  
  18. plt.figure(figsize=(16, 8))  
  19. f = plt.subplot(121)  
  20. f.set_title('Normal', fontsize=20)  
  21. plt.imshow(img1)  
  22. f = plt.subplot(122)  
  23. f.set_title('PM', fontsize=20)  
  24. plt.imshow(img2)  
  25. plt.show()  
  26.  
  27. import cv2  
  28. import random  
  29. import numpy as np  
  30. import os  
  31.  
  32. # 对读入的图像数据进行预处理  
  33. def transform_img(img):  
  34.    # 将图片尺寸缩放道 224x224  
  35.    img = cv2.resize(img, (224, 224))  
  36.    # 读入的图像数据格式是[H, W, C]  
  37.    # 使用转置操作将其变成[C, H, W]  
  38.    img = np.transpose(img, (2,0,1))  
  39.    img = img.astype('float32')  
  40.    # 将数据范围调整到[-1.0, 1.0]之间  
  41.    img = img / 255.  
  42.    img = img * 2.0 - 1.0  
  43.    return img  
  44.  
  45. # 定义训练集数据读取器  
  46. def data_loader(datadir, batch_size=10, mode = 'train'):  
  47.    # 将datadir目录下的文件列出来,每条文件都要读入  
  48.    filenames = os.listdir(datadir)  
  49.    def reader():  
  50.        if mode == 'train':  
  51.            # 训练时随机打乱数据顺序  
  52.            random.shuffle(filenames)  
  53.        batch_imgs = []  
  54.        batch_labels = []  
  55.        for name in filenames:  
  56.            filepath = os.path.join(datadir, name)  
  57.            img = cv2.imread(filepath)  
  58.            img = transform_img(img)  
  59.            if name[0] == 'H' or name[0] == 'N':  
  60.                # H开头的文件名表示高度近似,N开头的文件名表示正常视力  
  61.                # 高度近视和正常视力的样本,都不是病理性的,属于负样本,标签为0  
  62.                label = 0  
  63.            elif name[0] == 'P':  
  64.                # P开头的是病理性近视,属于正样本,标签为1  
  65.                label = 1  
  66.            else:  
  67.                raise('Not excepted file name')  
  68.            # 每读取一个样本的数据,就将其放入数据列表中  
  69.            batch_imgs.append(img)  
  70.            batch_labels.append(label)  
  71.            if len(batch_imgs) == batch_size:  
  72.                # 当数据列表的长度等于batch_size的时候,  
  73.                # 把这些数据当作一个mini-batch,并作为数据生成器的一个输出  
  74.                imgs_array = np.array(batch_imgs).astype('float32')  
  75.                labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  76.                yield imgs_array, labels_array  
  77.                batch_imgs = []  
  78.                batch_labels = []  
  79.  
  80.        if len(batch_imgs) > 0:  
  81.            # 剩余样本数目不足一个batch_size的数据,一起打包成一个mini-batch  
  82.            imgs_array = np.array(batch_imgs).astype('float32')  
  83.            labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  84.            yield imgs_array, labels_array  
  85.  
  86.    return reader  
  87.  
  88. # 定义验证集数据读取器  
  89. def valid_data_loader(datadir, csvfile, batch_size=10, mode='valid'):  
  90.    # 训练集读取时通过文件名来确定样本标签,验证集则通过csvfile来读取每个图片对应的标签  
  91.    # 请查看解压后的验证集标签数据,观察csvfile文件里面所包含的内容  
  92.    # csvfile文件所包含的内容格式如下,每一行代表一个样本,  
  93.    # 其中第一列是图片id,第二列是文件名,第三列是图片标签,  
  94.    # 第四列和第五列是Fovea的坐标,与分类任务无关  
  95.    # ID,imgName,Label,Fovea_X,Fovea_Y  
  96.    # 1,V0001.jpg,0,1157.74,1019.87  
  97.    # 2,V0002.jpg,1,1285.82,1080.47  
  98.    # 打开包含验证集标签的csvfile,并读入其中的内容  
  99.    filelists = open(csvfile).readlines()  
  100.    def reader():  
  101.        batch_imgs = []  
  102.        batch_labels = []  
  103.        for line in filelists[1:]:  
  104.            line = line.strip().split(',')  
  105.            name = line[1]  
  106.            try:  
  107.                label = int(line[2])  
  108.            except ValueError as e:  
  109.                pass  
  110.            else:  
  111.                # 根据图片文件名加载图片,并对图像数据作预处理  
  112.                filepath = os.path.join(datadir, name)  
  113.                img = cv2.imread(filepath)  
  114.                img = transform_img(img)  
  115.                # 每读取一个样本的数据,就将其放入数据列表中  
  116.                batch_imgs.append(img)  
  117.                batch_labels.append(label)  
  118.                if len(batch_imgs) == batch_size:  
  119.                    # 当数据列表的长度等于batch_size的时候,  
  120.                    # 把这些数据当作一个mini-batch,并作为数据生成器的一个输出  
  121.                    imgs_array = np.array(batch_imgs).astype('float32')  
  122.                    labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  123.                    yield imgs_array, labels_array  
  124.                    batch_imgs = []  
  125.                    batch_labels = []  
  126.  
  127.        if len(batch_imgs) > 0:  
  128.            # 剩余样本数目不足一个batch_size的数据,一起打包成一个mini-batch  
  129.            imgs_array = np.array(batch_imgs).astype('float32')  
  130.            labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  131.            yield imgs_array, labels_array  
  132.  
  133.    return reader  
  134.  
  135. # 查看数据形状  
  136. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
  137. train_loader = data_loader(DATADIR,  
  138.                           batch_size=10, mode='train')  
  139. data_reader = train_loader()  
  140. data = next(data_reader)  
  141. data[0].shape, data[1].shape  
  142.  
  143. eval_loader = data_loader(DATADIR,  
  144.                           batch_size=10, mode='eval')  
  145. data_reader = eval_loader()  
  146. data = next(data_reader)  
  147. data[0].shape, data[1].shape  
  148.  
  149. # LeNet 识别眼疾图片  
  150. import os  
  151. import random  
  152. import paddle  
  153. import numpy as np  
  154.  
  155. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
  156. DATADIR2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation400'  
  157. CSVFILE = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation-GT/labels.csv'  
  158.  
  159. # 定义训练过程  
  160. def train_pm(model, optimizer):  
  161.    # 开启0号GPU训练  
  162.    use_gpu = False  
  163.    paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
  164.  
  165.    print('start training ... ')  
  166.    model.train()  
  167.    epoch_num = 5  
  168.    # 定义数据读取器,训练数据读取器和验证数据读取器  
  169.    train_loader = data_loader(DATADIR, batch_size=10, mode='train')  
  170.    valid_loader = valid_data_loader(DATADIR2, CSVFILE)  
  171.    for epoch in range(epoch_num):  
  172.        for batch_id, data in enumerate(train_loader()):  
  173.            x_data, y_data = data  
  174.            img = paddle.to_tensor(x_data)  
  175.            label = paddle.to_tensor(y_data)  
  176.            # 运行模型前向计算,得到预测值  
  177.            logits = model(img)  
  178.            loss = F.binary_cross_entropy_with_logits(logits, label)  
  179.            avg_loss = paddle.mean(loss)  
  180.  
  181.            if batch_id % 10 == 0:  
  182.                print("epoch: {}, batch_id: {}, loss is: {}".format(epoch, batch_id, avg_loss.numpy()))  
  183.            # 反向传播,更新权重,清除梯度  
  184.            avg_loss.backward()  
  185.            optimizer.step()  
  186.            optimizer.clear_grad()  
  187.  
  188.        model.eval()  
  189.        accuracies = []  
  190.        losses = []  
  191.        for batch_id, data in enumerate(valid_loader()):  
  192.            x_data, y_data = data  
  193.            img = paddle.to_tensor(x_data)  
  194.            label = paddle.to_tensor(y_data)  
  195.            # 运行模型前向计算,得到预测值  
  196.            logits = model(img)  
  197.            # 二分类,sigmoid计算后的结果以0.5为阈值分两个类别  
  198.            # 计算sigmoid后的预测概率,进行loss计算  
  199.            pred = F.sigmoid(logits)  
  200.            loss = F.binary_cross_entropy_with_logits(logits, label)  
  201.            # 计算预测概率小于0.5的类别  
  202.            pred2 = pred * (-1.0) + 1.0  
  203.            # 得到两个类别的预测概率,并沿第一个维度级联  
  204.            pred = paddle.concat([pred2, pred], axis=1)  
  205.            acc = paddle.metric.accuracy(pred, paddle.cast(label, dtype='int64'))  
  206.  
  207.            accuracies.append(acc.numpy())  
  208.            losses.append(loss.numpy())  
  209.        print("[validation] accuracy/loss: {}/{}".format(np.mean(accuracies), np.mean(losses)))  
  210.        model.train()  
  211.  
  212.        paddle.save(model.state_dict(), '眼疾识别.pdparams')  
  213.        paddle.save(optimizer.state_dict(), '眼疾识别.pdopt')  
  214.  
  215.  
  216. # 定义评估过程  
  217. def evaluation(model, params_file_path):  
  218.  
  219.    # 开启0号GPU预估  
  220.    use_gpu = False  
  221.    paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
  222.  
  223.    print('start evaluation .......')  
  224.  
  225.    #加载模型参数  
  226.    model_state_dict = paddle.load(params_file_path)  
  227.    model.load_dict(model_state_dict)  
  228.  
  229.    model.eval()  
  230.    eval_loader = data_loader(DATADIR,  
  231.                        batch_size=10, mode='eval')  
  232.  
  233.    acc_set = []  
  234.    avg_loss_set = []  
  235.    for batch_id, data in enumerate(eval_loader()):  
  236.        x_data, y_data = data  
  237.        img = paddle.to_tensor(x_data)  
  238.        label = paddle.to_tensor(y_data)  
  239.        y_data = y_data.astype(np.int64)  
  240.        label_64 = paddle.to_tensor(y_data)  
  241.        # 计算预测和精度  
  242.        prediction, acc = model(img, label_64)  
  243.        # 计算损失函数值  
  244.        loss = F.binary_cross_entropy_with_logits(prediction, label)  
  245.        avg_loss = paddle.mean(loss)  
  246.        acc_set.append(float(acc.numpy()))  
  247.        avg_loss_set.append(float(avg_loss.numpy()))  
  248.    # 求平均精度  
  249.    acc_val_mean = np.array(acc_set).mean()  
  250.    avg_loss_val_mean = np.array(avg_loss_set).mean()  
  251.  
  252.    print('loss={}, acc={}'.format(avg_loss_val_mean, acc_val_mean))  
  253. # -*- coding:utf-8 -*-  
  254.  
  255. # 导入需要的包  
  256. import paddle  
  257. import numpy as np  
  258. from paddle.nn import Conv2D, MaxPool2D, Linear, Dropout  
  259. import paddle.nn.functional as F  
  260.  
  261. # 定义 LeNet 网络结构  
  262. class LeNet(paddle.nn.Layer):  
  263.    def __init__(self, num_classes=1):  
  264.        super(LeNet, self).__init__()  
  265.  
  266.        # 创建卷积和池化层块,每个卷积层使用Sigmoid激活函数,后面跟着一个2x2的池化  
  267.        self.conv1 = Conv2D(in_channels=3, out_channels=6, kernel_size=5)  
  268.        self.max_pool1 = MaxPool2D(kernel_size=2, stride=2)  
  269.        self.conv2 = Conv2D(in_channels=6, out_channels=16, kernel_size=5)  
  270.        self.max_pool2 = MaxPool2D(kernel_size=2, stride=2)  
  271.        # 创建第3个卷积层  
  272.        self.conv3 = Conv2D(in_channels=16, out_channels=120, kernel_size=4)  
  273.        # 创建全连接层,第一个全连接层的输出神经元个数为64  
  274.        self.fc1 = Linear(in_features=300000, out_features=64)  
  275.        # 第二个全连接层输出神经元个数为分类标签的类别数  
  276.        self.fc2 = Linear(in_features=64, out_features=num_classes)  
  277.  
  278.    # 网络的前向计算过程  
  279.    def forward(self, x, label=None):  
  280.        x = self.conv1(x)  
  281.        x = F.sigmoid(x)  
  282.        x = self.max_pool1(x)  
  283.        x = self.conv2(x)  
  284.        x = F.sigmoid(x)  
  285.        x = self.max_pool2(x)  
  286.        x = self.conv3(x)  
  287.        x = F.sigmoid(x)  
  288.        x = paddle.reshape(x, [x.shape[0], -1])  
  289.        x = self.fc1(x)  
  290.        x = F.sigmoid(x)  
  291.        x = self.fc2(x)  
  292.        if label is not None:  
  293.            acc = paddle.metric.accuracy(input=x, label=label)  
  294.            return x, acc  
  295.        else:  
  296.            return x  
  297. # 创建模型  
  298. model = LeNet(num_classes=1)  
  299. # 启动训练过程  
  300. opt = paddle.optimizer.Momentum(learning_rate=0.001, momentum=0.9, parameters=model.parameters())  
  301. train_pm(model, opt)  
  302. evaluation(model, params_file_path="眼疾识别.pdparams")  



夹带点私货:海大牛!都给我来海大,也希望我能追的到我喜欢的女生


相关实践学习
基于阿里云DeepGPU实例,用AI画唯美国风少女
本实验基于阿里云DeepGPU实例,使用aiacctorch加速stable-diffusion-webui,用AI画唯美国风少女,可提升性能至高至原性能的2.6倍。
相关文章
|
1月前
|
机器学习/深度学习 分布式计算 监控
大模型开发:你如何使用大数据进行模型训练?
在大数据模型训练中,关键步骤包括数据准备(收集、清洗、特征工程、划分),硬件准备(分布式计算、并行训练),模型选择与配置,训练与优化,监控评估,以及模型的持久化与部署。过程中要关注数据隐私、安全及法规遵循,利用技术进步提升效率和性能。
49 2
|
5月前
|
机器学习/深度学习 安全 Java
【网安AIGC专题10.19】论文6(顶会ISSTA 2023):提出新Java漏洞自动修复数据集:数据集 VJBench+大语言模型、APR技术+代码转换方法+LLM和DL-APR模型的挑战与机会
【网安AIGC专题10.19】论文6(顶会ISSTA 2023):提出新Java漏洞自动修复数据集:数据集 VJBench+大语言模型、APR技术+代码转换方法+LLM和DL-APR模型的挑战与机会
290 0
|
3月前
|
人工智能
全方位解析PAI:数据准备、模型开发、模型训练一网打尽
全方位解析PAI:数据准备、模型开发、模型训练一网打尽 随着人工智能技术的飞速发展,越来越多的企业开始关注并投入到AI的研发中。然而,AI的研发并非易事,从数据准备、模型开发、模型训练到模型服务,每一个环节都需要专业的工具和平台来支持。阿里云的PAI(Powered by AI)正是一个涵盖了数据准备、模型开发、模型训练、模型服务全流程的AI工作平台。本文将为您详细介绍PAI的各个子产品的产品线上规格及使用指引。
46 2
|
11月前
|
自然语言处理 并行计算 算法
军事领域关系抽取:UIE Slim最新升级版含数据标注、serving部署、模型蒸馏等教学,助力工业应用场景快速落地
军事领域关系抽取:UIE Slim最新升级版含数据标注、serving部署、模型蒸馏等教学,助力工业应用场景快速落地
军事领域关系抽取:UIE Slim最新升级版含数据标注、serving部署、模型蒸馏等教学,助力工业应用场景快速落地
|
11月前
|
存储 JSON 自然语言处理
医疗领域实体抽取:UIE Slim最新升级版含数据标注、serving部署、模型蒸馏等教学,助力工业应用场景快速落地
医疗领域实体抽取:UIE Slim最新升级版含数据标注、serving部署、模型蒸馏等教学,助力工业应用场景快速落地
医疗领域实体抽取:UIE Slim最新升级版含数据标注、serving部署、模型蒸馏等教学,助力工业应用场景快速落地
|
11月前
|
机器学习/深度学习 人工智能 自然语言处理
Meta实习生让AI「调教」AI?ResNet-50无需训练,2400万参数秒级预测
Meta实习生让AI「调教」AI?ResNet-50无需训练,2400万参数秒级预测
132 0
|
机器学习/深度学习 算法 数据挖掘
ML之FE:利用【数据分析+数据处理】算法对国内某平台上海2020年6月份房价数据集【12+1】进行特征工程处理(史上最完整,建议收藏)——附录
ML之FE:利用【数据分析+数据处理】算法对国内某平台上海2020年6月份房价数据集【12+1】进行特征工程处理(史上最完整,建议收藏)——附录
|
异构计算 Python
《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用(中)
《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用(中)
249 0
《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用(中)
|
机器学习/深度学习 人工智能 计算机视觉
《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用(上)
《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用(上)
337 0
《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用(上)
|
机器学习/深度学习 数据采集 人工智能
不用调参,不用改模型!CLUE社区发布国内首个Data-centric竞赛,白给数据分析服务
模型为中心的竞赛见得太多了,最近国内上新了一个中文NLP竞赛DataCLUE。与以往不同的是,它是以数据为中心的竞赛!不用调参,不用改模型,只需要修改输入数据即可,还有能白嫖的数据分析服务。
440 0
不用调参,不用改模型!CLUE社区发布国内首个Data-centric竞赛,白给数据分析服务