《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用(下)

简介: 《专业创新实践Ⅱ》大作业 LeNet在眼疾识别数据集iChallenge-PM上的应用(下)

(7)文件顺利执行,得出结果:


image.png


评估后得出结果:

loss=0.6918540149927139.acc=0.46750000305473804


可以看出效果并不是很理想,需要进一步调整学习率优化准确度


结论

在老师布置了创新创业大作业以后,我便开始选择题目,在浏览了十多题后,我最终选择了眼疾识别问题作为此次创新创业课程设计的大作业。如今近视已经成为困扰人们健康的一项全球性负担,在近视人群中,有超过35%的人患有重度近视。因此,及早发现近视患者眼睛的病变并采取治疗,显得非常重要。定题后,我便开始后面的设计。


我们是这学期学的Python语言和百度Paddle人工智能平台,一下子接触很多新的概念,多多少少有点不适应,平时忙着复习预习物理数学等科目,就仅仅周末有一些时间练习Python语言和百度Paddle人工智能平台,于是把paddle平台和python的训练给丢下了,在最后一个月,才开始抓紧学习两个平台的搭配使用。


从Paddle平台获得程序后,我首先下载平台提供的数据集,并对已完成的代码更改程序中打开的本地文件地址。


在检查好滴之后,第一次运行,出现了左右两只眼球的图,把我高兴坏了,但高兴没过一会儿,出现了一个文件报错,内容是:invalid literal for int() with base 10: '' 从CSDN上检索了相关问题的解决办法,首先尝试的是将数据先转为float类型,再用int函数强行变为整型,但是发现改正后运行还是继续报错,报错内容为:ValueError: could not convert string to float: '' 这个时候,心里是有点害怕的,到底是接着int(float())改还是退回int()改,再冷静思考后,我决定还是退回int()改,以防代码出现大面积更换,不利于后期程序运行和理解。


在CSDN上继续检索后,又发现一个解决的方案,就是用pass函数跳过,


将代码处理后,再次运行,完美得到结果,并且没有出现任何大面积的程序改动。


顿时,好像一下子从暗无天日的盲目中找到了方向,心中一下子开阔起来。


这个过程出现了曲折大致可以认为是编程软件的更新,以及本地环境的不匹配导致的,网上很多的代码的都是基于个人本地环境实现的,相关的代码我不能直接套用,针对这个问题,我首先是阅读他的程序,判断哪些是我能自主修改最终能在我本地运行的。


检阅python相关的语法,接着学习paddle的使用方法,在进行改码时,还是出现了很多错误,在一遍遍的修改查资料后,还是不能一下子就很快地将程序调出来,这个时候我们想到了学长,在学长的指导下,我们很快地找到了问题的症结———相关文件尺寸的问题。


接下来的过程就很轻松,一遍遍的运行代码,一遍遍的优化代码,最终获得了实验得出最优的眼疾识别代码。


最后一点最重要的体会就是:要学会查找资料,要学会请教他人,学会坚持和钻研。不要怕!不要悔!


五、参考文献


1、代码高亮处理http://www.codeinword.com


 2、paddle人工智能平台飞桨PaddlePaddle-源于产业实践的开源深度学习平台


 3、第一次处理方法https://blog.csdn.net/weixin_44034883/article/details/112918440


 4、第二次处理办法


https://blog.csdn.net/zcs_xueli/article/details/107458068?utm_medium=distribute.pc_relevant.none-task-blog-baidujs_title-0&spm=1001.2101.3001.4242


六、以下是完整代码:


  1. import os  
  2. import numpy as np  
  3. import matplotlib.pyplot as plt  
  4. from PIL import Image  
  5.  
  6. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
  7. # 文件名以N开头的是正常眼底图片,以P开头的是病变眼底图片  
  8. file1 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/N0012.jpg'  
  9. file2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400/P0095.jpg'  
  10.  
  11. # 读取图片  
  12. img1 = Image.open(os.path.join(DATADIR, file1))  
  13. img1 = np.array(img1)  
  14. img2 = Image.open(os.path.join(DATADIR, file2))  
  15. img2 = np.array(img2)  
  16.  
  17. # 画出读取的图片  
  18. plt.figure(figsize=(16, 8))  
  19. f = plt.subplot(121)  
  20. f.set_title('Normal', fontsize=20)  
  21. plt.imshow(img1)  
  22. f = plt.subplot(122)  
  23. f.set_title('PM', fontsize=20)  
  24. plt.imshow(img2)  
  25. plt.show()  
  26.  
  27. import cv2  
  28. import random  
  29. import numpy as np  
  30. import os  
  31.  
  32. # 对读入的图像数据进行预处理  
  33. def transform_img(img):  
  34.    # 将图片尺寸缩放道 224x224  
  35.    img = cv2.resize(img, (224, 224))  
  36.    # 读入的图像数据格式是[H, W, C]  
  37.    # 使用转置操作将其变成[C, H, W]  
  38.    img = np.transpose(img, (2,0,1))  
  39.    img = img.astype('float32')  
  40.    # 将数据范围调整到[-1.0, 1.0]之间  
  41.    img = img / 255.  
  42.    img = img * 2.0 - 1.0  
  43.    return img  
  44.  
  45. # 定义训练集数据读取器  
  46. def data_loader(datadir, batch_size=10, mode = 'train'):  
  47.    # 将datadir目录下的文件列出来,每条文件都要读入  
  48.    filenames = os.listdir(datadir)  
  49.    def reader():  
  50.        if mode == 'train':  
  51.            # 训练时随机打乱数据顺序  
  52.            random.shuffle(filenames)  
  53.        batch_imgs = []  
  54.        batch_labels = []  
  55.        for name in filenames:  
  56.            filepath = os.path.join(datadir, name)  
  57.            img = cv2.imread(filepath)  
  58.            img = transform_img(img)  
  59.            if name[0] == 'H' or name[0] == 'N':  
  60.                # H开头的文件名表示高度近似,N开头的文件名表示正常视力  
  61.                # 高度近视和正常视力的样本,都不是病理性的,属于负样本,标签为0  
  62.                label = 0  
  63.            elif name[0] == 'P':  
  64.                # P开头的是病理性近视,属于正样本,标签为1  
  65.                label = 1  
  66.            else:  
  67.                raise('Not excepted file name')  
  68.            # 每读取一个样本的数据,就将其放入数据列表中  
  69.            batch_imgs.append(img)  
  70.            batch_labels.append(label)  
  71.            if len(batch_imgs) == batch_size:  
  72.                # 当数据列表的长度等于batch_size的时候,  
  73.                # 把这些数据当作一个mini-batch,并作为数据生成器的一个输出  
  74.                imgs_array = np.array(batch_imgs).astype('float32')  
  75.                labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  76.                yield imgs_array, labels_array  
  77.                batch_imgs = []  
  78.                batch_labels = []  
  79.  
  80.        if len(batch_imgs) > 0:  
  81.            # 剩余样本数目不足一个batch_size的数据,一起打包成一个mini-batch  
  82.            imgs_array = np.array(batch_imgs).astype('float32')  
  83.            labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  84.            yield imgs_array, labels_array  
  85.  
  86.    return reader  
  87.  
  88. # 定义验证集数据读取器  
  89. def valid_data_loader(datadir, csvfile, batch_size=10, mode='valid'):  
  90.    # 训练集读取时通过文件名来确定样本标签,验证集则通过csvfile来读取每个图片对应的标签  
  91.    # 请查看解压后的验证集标签数据,观察csvfile文件里面所包含的内容  
  92.    # csvfile文件所包含的内容格式如下,每一行代表一个样本,  
  93.    # 其中第一列是图片id,第二列是文件名,第三列是图片标签,  
  94.    # 第四列和第五列是Fovea的坐标,与分类任务无关  
  95.    # ID,imgName,Label,Fovea_X,Fovea_Y  
  96.    # 1,V0001.jpg,0,1157.74,1019.87  
  97.    # 2,V0002.jpg,1,1285.82,1080.47  
  98.    # 打开包含验证集标签的csvfile,并读入其中的内容  
  99.    filelists = open(csvfile).readlines()  
  100.    def reader():  
  101.        batch_imgs = []  
  102.        batch_labels = []  
  103.        for line in filelists[1:]:  
  104.            line = line.strip().split(',')  
  105.            name = line[1]  
  106.            try:  
  107.                label = int(line[2])  
  108.            except ValueError as e:  
  109.                pass  
  110.            else:  
  111.                # 根据图片文件名加载图片,并对图像数据作预处理  
  112.                filepath = os.path.join(datadir, name)  
  113.                img = cv2.imread(filepath)  
  114.                img = transform_img(img)  
  115.                # 每读取一个样本的数据,就将其放入数据列表中  
  116.                batch_imgs.append(img)  
  117.                batch_labels.append(label)  
  118.                if len(batch_imgs) == batch_size:  
  119.                    # 当数据列表的长度等于batch_size的时候,  
  120.                    # 把这些数据当作一个mini-batch,并作为数据生成器的一个输出  
  121.                    imgs_array = np.array(batch_imgs).astype('float32')  
  122.                    labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  123.                    yield imgs_array, labels_array  
  124.                    batch_imgs = []  
  125.                    batch_labels = []  
  126.  
  127.        if len(batch_imgs) > 0:  
  128.            # 剩余样本数目不足一个batch_size的数据,一起打包成一个mini-batch  
  129.            imgs_array = np.array(batch_imgs).astype('float32')  
  130.            labels_array = np.array(batch_labels).astype('float32').reshape(-1, 1)  
  131.            yield imgs_array, labels_array  
  132.  
  133.    return reader  
  134.  
  135. # 查看数据形状  
  136. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
  137. train_loader = data_loader(DATADIR,  
  138.                           batch_size=10, mode='train')  
  139. data_reader = train_loader()  
  140. data = next(data_reader)  
  141. data[0].shape, data[1].shape  
  142.  
  143. eval_loader = data_loader(DATADIR,  
  144.                           batch_size=10, mode='eval')  
  145. data_reader = eval_loader()  
  146. data = next(data_reader)  
  147. data[0].shape, data[1].shape  
  148.  
  149. # LeNet 识别眼疾图片  
  150. import os  
  151. import random  
  152. import paddle  
  153. import numpy as np  
  154.  
  155. DATADIR = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Training400/PALM-Training400'  
  156. DATADIR2 = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation400'  
  157. CSVFILE = '/Users/suncheng/PycharmProjects/测试/MNIST数据集/眼疾识别/PALM-Validation-GT/labels.csv'  
  158.  
  159. # 定义训练过程  
  160. def train_pm(model, optimizer):  
  161.    # 开启0号GPU训练  
  162.    use_gpu = False  
  163.    paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
  164.  
  165.    print('start training ... ')  
  166.    model.train()  
  167.    epoch_num = 5  
  168.    # 定义数据读取器,训练数据读取器和验证数据读取器  
  169.    train_loader = data_loader(DATADIR, batch_size=10, mode='train')  
  170.    valid_loader = valid_data_loader(DATADIR2, CSVFILE)  
  171.    for epoch in range(epoch_num):  
  172.        for batch_id, data in enumerate(train_loader()):  
  173.            x_data, y_data = data  
  174.            img = paddle.to_tensor(x_data)  
  175.            label = paddle.to_tensor(y_data)  
  176.            # 运行模型前向计算,得到预测值  
  177.            logits = model(img)  
  178.            loss = F.binary_cross_entropy_with_logits(logits, label)  
  179.            avg_loss = paddle.mean(loss)  
  180.  
  181.            if batch_id % 10 == 0:  
  182.                print("epoch: {}, batch_id: {}, loss is: {}".format(epoch, batch_id, avg_loss.numpy()))  
  183.            # 反向传播,更新权重,清除梯度  
  184.            avg_loss.backward()  
  185.            optimizer.step()  
  186.            optimizer.clear_grad()  
  187.  
  188.        model.eval()  
  189.        accuracies = []  
  190.        losses = []  
  191.        for batch_id, data in enumerate(valid_loader()):  
  192.            x_data, y_data = data  
  193.            img = paddle.to_tensor(x_data)  
  194.            label = paddle.to_tensor(y_data)  
  195.            # 运行模型前向计算,得到预测值  
  196.            logits = model(img)  
  197.            # 二分类,sigmoid计算后的结果以0.5为阈值分两个类别  
  198.            # 计算sigmoid后的预测概率,进行loss计算  
  199.            pred = F.sigmoid(logits)  
  200.            loss = F.binary_cross_entropy_with_logits(logits, label)  
  201.            # 计算预测概率小于0.5的类别  
  202.            pred2 = pred * (-1.0) + 1.0  
  203.            # 得到两个类别的预测概率,并沿第一个维度级联  
  204.            pred = paddle.concat([pred2, pred], axis=1)  
  205.            acc = paddle.metric.accuracy(pred, paddle.cast(label, dtype='int64'))  
  206.  
  207.            accuracies.append(acc.numpy())  
  208.            losses.append(loss.numpy())  
  209.        print("[validation] accuracy/loss: {}/{}".format(np.mean(accuracies), np.mean(losses)))  
  210.        model.train()  
  211.  
  212.        paddle.save(model.state_dict(), '眼疾识别.pdparams')  
  213.        paddle.save(optimizer.state_dict(), '眼疾识别.pdopt')  
  214.  
  215.  
  216. # 定义评估过程  
  217. def evaluation(model, params_file_path):  
  218.  
  219.    # 开启0号GPU预估  
  220.    use_gpu = False  
  221.    paddle.set_device('gpu:0') if use_gpu else paddle.set_device('cpu')  
  222.  
  223.    print('start evaluation .......')  
  224.  
  225.    #加载模型参数  
  226.    model_state_dict = paddle.load(params_file_path)  
  227.    model.load_dict(model_state_dict)  
  228.  
  229.    model.eval()  
  230.    eval_loader = data_loader(DATADIR,  
  231.                        batch_size=10, mode='eval')  
  232.  
  233.    acc_set = []  
  234.    avg_loss_set = []  
  235.    for batch_id, data in enumerate(eval_loader()):  
  236.        x_data, y_data = data  
  237.        img = paddle.to_tensor(x_data)  
  238.        label = paddle.to_tensor(y_data)  
  239.        y_data = y_data.astype(np.int64)  
  240.        label_64 = paddle.to_tensor(y_data)  
  241.        # 计算预测和精度  
  242.        prediction, acc = model(img, label_64)  
  243.        # 计算损失函数值  
  244.        loss = F.binary_cross_entropy_with_logits(prediction, label)  
  245.        avg_loss = paddle.mean(loss)  
  246.        acc_set.append(float(acc.numpy()))  
  247.        avg_loss_set.append(float(avg_loss.numpy()))  
  248.    # 求平均精度  
  249.    acc_val_mean = np.array(acc_set).mean()  
  250.    avg_loss_val_mean = np.array(avg_loss_set).mean()  
  251.  
  252.    print('loss={}, acc={}'.format(avg_loss_val_mean, acc_val_mean))  
  253. # -*- coding:utf-8 -*-  
  254.  
  255. # 导入需要的包  
  256. import paddle  
  257. import numpy as np  
  258. from paddle.nn import Conv2D, MaxPool2D, Linear, Dropout  
  259. import paddle.nn.functional as F  
  260.  
  261. # 定义 LeNet 网络结构  
  262. class LeNet(paddle.nn.Layer):  
  263.    def __init__(self, num_classes=1):  
  264.        super(LeNet, self).__init__()  
  265.  
  266.        # 创建卷积和池化层块,每个卷积层使用Sigmoid激活函数,后面跟着一个2x2的池化  
  267.        self.conv1 = Conv2D(in_channels=3, out_channels=6, kernel_size=5)  
  268.        self.max_pool1 = MaxPool2D(kernel_size=2, stride=2)  
  269.        self.conv2 = Conv2D(in_channels=6, out_channels=16, kernel_size=5)  
  270.        self.max_pool2 = MaxPool2D(kernel_size=2, stride=2)  
  271.        # 创建第3个卷积层  
  272.        self.conv3 = Conv2D(in_channels=16, out_channels=120, kernel_size=4)  
  273.        # 创建全连接层,第一个全连接层的输出神经元个数为64  
  274.        self.fc1 = Linear(in_features=300000, out_features=64)  
  275.        # 第二个全连接层输出神经元个数为分类标签的类别数  
  276.        self.fc2 = Linear(in_features=64, out_features=num_classes)  
  277.  
  278.    # 网络的前向计算过程  
  279.    def forward(self, x, label=None):  
  280.        x = self.conv1(x)  
  281.        x = F.sigmoid(x)  
  282.        x = self.max_pool1(x)  
  283.        x = self.conv2(x)  
  284.        x = F.sigmoid(x)  
  285.        x = self.max_pool2(x)  
  286.        x = self.conv3(x)  
  287.        x = F.sigmoid(x)  
  288.        x = paddle.reshape(x, [x.shape[0], -1])  
  289.        x = self.fc1(x)  
  290.        x = F.sigmoid(x)  
  291.        x = self.fc2(x)  
  292.        if label is not None:  
  293.            acc = paddle.metric.accuracy(input=x, label=label)  
  294.            return x, acc  
  295.        else:  
  296.            return x  
  297. # 创建模型  
  298. model = LeNet(num_classes=1)  
  299. # 启动训练过程  
  300. opt = paddle.optimizer.Momentum(learning_rate=0.001, momentum=0.9, parameters=model.parameters())  
  301. train_pm(model, opt)  
  302. evaluation(model, params_file_path="眼疾识别.pdparams")  



夹带点私货:海大牛!都给我来海大,也希望我能追的到我喜欢的女生


相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
相关文章
|
机器学习/深度学习 人工智能 算法
一文让你了解AI产品的测试 评价人工智能算法模型的几个重要指标
一文让你了解AI产品的测试 评价人工智能算法模型的几个重要指标
1082 0
一文让你了解AI产品的测试 评价人工智能算法模型的几个重要指标
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
KDD 2024:港大黄超团队深度解析大模型在图机器学习领域的未知边界
【8月更文挑战第12天】在KDD 2024会议中,香港大学黄超团队深入探讨了大型语言模型在图机器学习的应用与前景。他们提出将LLMs与图神经网络结合可显著增强图任务性能,并归纳出四种融合模式,为领域发展提供新视角与未来路径。论文详细分析了现有方法的优势与局限,并展望了多模态数据处理等前沿课题。[论文](https://arxiv.org/abs/2405.08011)为图机器学习领域注入了新的活力。
211 61
|
2月前
|
人工智能 测试技术 PyTorch
AI计算机视觉笔记二十四:YOLOP 训练+测试+模型评估
本文介绍了通过正点原子的ATK-3568了解并实现YOLOP(You Only Look Once for Panoptic Driving Perception)的过程,包括训练、测试、转换为ONNX格式及在ONNX Runtime上的部署。YOLOP由华中科技大学团队于2021年发布,可在Jetson TX2上达到23FPS,实现了目标检测、可行驶区域分割和车道线检测的多任务学习。文章详细记录了环境搭建、训练数据准备、模型转换和测试等步骤,并解决了ONNX转换过程中的问题。
|
3月前
|
人工智能 数据处理
AI识别检验报告 -PaddleNLP UIE-X 在医疗领域的实战
AI识别检验报告 -PaddleNLP UIE-X 在医疗领域的实战
98 0
|
6月前
|
机器学习/深度学习 PyTorch 算法框架/工具
Python中用PyTorch机器学习神经网络分类预测银行客户流失模型
Python中用PyTorch机器学习神经网络分类预测银行客户流失模型
|
安全
基于SEIR模型的传染病预测软件开发(完整代码+数据集+报告)
基于SEIR模型的传染病预测软件开发(完整代码+数据集+报告)
244 0
基于SEIR模型的传染病预测软件开发(完整代码+数据集+报告)
|
6月前
|
人工智能 Ubuntu C++
极智AI | ncnn模型转换及量化流程
本文介绍一下 ncnn 模型转换及量化流程,以 from_darknet yolov4 为例。
337 0
|
机器学习/深度学习 自然语言处理 资源调度
机器学习实战系列[一]:工业蒸汽量预测(最新版本下篇)含特征优化模型融合等
在进行归回模型训练涉及主流ML模型:决策树、随机森林,lightgbm等;在模型验证方面:讲解了相关评估指标以及交叉验证等;同时用lgb对特征进行优化;最后进行基于stacking方式模型融合。
|
算法 数据可视化 计算机视觉
Swin-Transformer再次助力夺冠 | Kaggle第1名方案解读(工程人员建议必看)
Swin-Transformer再次助力夺冠 | Kaggle第1名方案解读(工程人员建议必看)
247 0
|
机器学习/深度学习 人工智能 算法
浙大团队基于ML的抗菌肽筛选模型,可识别整个肽库空间发现新药
浙大团队基于ML的抗菌肽筛选模型,可识别整个肽库空间发现新药
242 0