开发者学堂课程【高校精品课-清华大学-人工神经网络:人工神经网络第二次实验项目说明1】学习笔记,与课程紧密联系,让用户快速学习知识。
课程地址:https://developer.aliyun.com/learning/course/77/detail/15734
人工神经网络第二次实验项目说明1
人工神经网络第二次实验项目说明1:
第一个在作业平台进行深度学习的这个参数调整,
具体我们点进来之后就会发现这个神经的 unit、输出输入层,在网页上就可以非常简单的去添加一个神经元,设置这个学习率,激活函数以及政策画像,还有一些这个数据集的一些选择,比如说以这个数据集为例,然后我们要对它进行训练直接点这个开,就会发现这个神经元非常快速的拟合到这个模型,然后这个不同的边的颜色表示它不同的正负权重,然后比如说我们可以再换一个数据集,然后也可以同样的对其进行一个很快的拟合,但是就像这种数据集就需要多加几个特征,比如输出层的数量,这是一个简单的可视化的一个小演示,然后可以试一下这个在提交的时候,就把这四个数据截一下图就可以了,就是调好的这个过程。
第二题就是如果之前学过一些深度学习框架的话,可以随便用,但是就是如果你之前没太学过,我们推荐这个拍套着这个 pytorch, 它是比较好用的,这里有 learn the basics,有很多简单快速上手的东西,
第三小题是运行所给的 mnist 的这个例子,然后学习基本的写法,然后这个代码在 colab 中都给出来了,大家需要简要的分析一下这个所给代码,然后结合第二个小题中学习到的这个过程,然后把代码跑一跑,这个代码在这个 Google放了一份,可以直接点击那个链接,
然后共享,就可以拿到这个代码,比如说这个代码最典型的一个配置是说在这里点连接,它就会给您分配一个实际的执行环境。然后比如说分配好了一个设备之后,我把这代码贴上来,我点这个它就可以直接运行了,然后同样可以在这个行中直接去输入这个命令,比如说这里它把这个后端的执行环境初始化了之后,然后叹号开始,然后就可以输入一个 linux 的命令,然后他就可以去执行了,
然后比如说现在已经好了,然后我们就看一下这个实际的这个电脑配置,然后更改运行时,把这个硬件加速器选择gpu,然后点保存,我们就可以临时的用他这 个 lab,比如查看当前显卡,就可以发现好在我们分了个 k80 12G的这个显存,然后就可以直接点击这个运行,然后大家自己好好看看这个代码具体每行都是什么意思,就可以发现已经在开始去下载 mes 的数据集了,可以用自己的服务器或者 Google collapse 进行操作。
第四题:
这个给出的是一个就是官方写的比较好的框架,然后由于深度学习代码本身比较复杂,所以我们需要一个比较好的这个代码习惯,然后那样能写得清晰易懂,现在主流的这个科研界的代码基本上都是这么写的,所以先学习一下这个代码风格,然后你按照这个思路来写就好,这个只是一个非常小的网络,大家可以看到有两层 convl,两层 dropout,两层全连接,对于一个比较稍微复杂是需要自己设计这个神经,包括课上讲到的都可以写在这里,然后这个题是要自己设计一下这个神经性网络,然后可以用上面数据加载的框架,然后离线搞一个脚本,把我们的这个给出的训练集划分为训练集和验证集,然后把这个最终这个网络准确值拿到一个比较高的值。
然后把这个最终的准确率拿到一个比较高的这样的一个情况。然后把课上的知识都利用到了,然后在这个实验报告中简要的介绍一下实现的思路和对应的结构就可以了,然后也是需要提交一些代码,然后在这个报告中给出运行过程,然后尤其要给出这个测试模型的这个脚本,然后助教会在没有发出去的这个测试集上测试一下大家的这个模型到底怎么样,然后这次的数据集稍微大一些,所以大家迭代文字可以设置的少一些,而且在这个超参数和这个网络结构没有确定之前,可以少搞一部分数据,比如说我只用每类的1/3的数据,那么在这部分数据上去做训练和验证,那么就先把这个网络的模型给他改的差不多的。就是说我这个模型已经提升一个还可以的这样一个数值了,那我们调整完之后,再用这个全部的数据集来训练,这样是一个比较通用的技巧。
这就是第二次作业,有关作业内容的一个说明。
下面来介绍一下这个阿里云平台的这个使用,就是如果大家自己有服务器还有别的资源的话,其实不一定非要用这个平台,这个平台只是给大家提供一个资源,如果实在没有资源的话,可以在这上面使用,然后但是我们的作业提交以及所有的代码的提交都是以网络学堂网络学堂为准,然后这个平台只是提供一个资源而已,大家注意不要就是把作业交错地方,阿里云平台直接就是按照这个链接,然后进去就可以,然后我现在就是演示一下这个平台。就是大家进入这个平台,然后用阿支付宝或者淘宝账号或者钉钉账号都可以进入这个平台,然后进去以后可以在课程广场里面找私有课。然后我们的课大概是在第四节这个地方,对然后进去以后,
这个因为已经就是通过邀请码,然后就是报名进来了,如果大家就是第一次进的话,就需要一个邀请码,然后邀请码在网上提交一下,就是那个作业提交一个空的就行,然后会分给大家,现在已经提交的,已经分给大家邀请码。
然后邀请码的话,对那个就是需要输入邀请码姓名专业之类的这些信息。然后就加入进来了,加入进来之后,我们如果要使用这个资源的话,我们可以点实验室,
先给大家介绍一下它这个是什么样子,然后之后就是讲解具体的需要注意的事项。你的代码可以直接从你的本地上传,然后进行编辑。
需要稍微等一下。这个代码是它默认的一个代码,如果大家想试一下的话,就是可以直接用默认代码调试一下,这里我们进入阿里云的资源平台了,这里面默认给一个 CPU 的资源,但是一般我们都是需要一个在 GPU 的资源,所以这里就是可以选择,然后切换。
就会切换一个 GPU 资源,但是就是有一个注意的地方,就是它这里资源可能不是那么空,就是不一定会就是很快的分给你,如果你是晚上或者就是中午到晚上的时间去用的话,可能会排比较久,如果是早上的话,会快一点。
然后大家要在这上面用的话,就是可能需要一点耐心,直接挂在上面就行了,如果分到 GPU 的话,它这个是有一个八小时的时间,得等比较久,目前可能没有这个资源,所以接下来就继续讲具体注意事项,建议同学们不要在这上面直接去新建一个文件,然后去写你的代码,如果直接在上面新建的话,如果他的网出现了一些什么问题,或者是出现什么问题,他直接断掉了,你可能就没有了,你得随时进行保存,所以建议大家就是在本地就是把代码写好,调试好,只是在上面做一些运行和测试。或者如果是在这上面的代码进行了修改,那就是要及时记得保存。
每次连接的最长时长是八个小时,所以大家如果在上面跑的话,就是注意规划一下时间。如果是大家自己的一些测试的数据集,可能需要大家自己再去上传。
然后我们这里就是给了一点点数据集,但是会发现就是我们给在这里给的数据集。但是在我们使用的时候,就是需要重新再把它下载上去,所以建议大家就是直接从自己的电脑里面把数据集上传上去,再进行那个代码测试之类的。
具体位置就可以在左边这个天池可以看到这个实验数据,是我们挂在上面的实验数据,所以大家直接可以添加自己的一个数据就行了。