AI 助理
备案控制台
开发者社区 人工智能 文章 正文

生成对抗网络-基本概念|深度学习（李宏毅）（二十二）

2022-06-07 391
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 生成对抗网络-基本概念|深度学习（李宏毅）（二十二）

一、基本概念


  1. Generation


生成（Generation）是指通过让机器学习的模型输入一个随机的向量，来让它产生图片或者文字等，而生成对抗网络（Generative Adversarial Network，GAN）就是用来完成生成任务的一种常用的技术：

]A}4F]`UB[$R4W]EXRLLWVK.png

                                           Generation


仅仅输入一个随机的向量来产生图片或者文字没有太大的应用前景，而如果能够控制模型的输出的话就会有更多可以应用的场景，这种方法叫做条件生成（Conditional Generation），会在后面的课程中进行介绍。


  1. Generator和Discriminator


GAN有两个部分组成，一个是Generator，另一个是Discriminator，这两个部分通过迭代的方式交替训练最终能够让Generator产生一些比较真实的图片或者句子等。在本文的介绍中大多以图像生成为例。


对于Generator，它的输入是一个向量，输出是一张图片（可以用高维向量来表示），Generator本身可能是一个神经网络或者函数：


}JERMM4@I_{XP`B69NR%JI3.png

                                             Generator


举例来说，GAN可以用来生成二次元人物的头像，下图展示了Generator生成头像的效果，下图中Generator输入的向量的每一维度可能代表了生成图像的一些特征，比如调整某些维度可以调整人物头发的长短、头发的颜色和嘴巴的大小等：


7MZJ%BQN9I52~UO5{B92%TY.png

                                                Generator


Discriminator也可以是一个神经网络或者函数，它的输入是一张图片，输出一个标量，这个标量代表了输入的图片有多么的真实（realistic），因此可以看做一个得分，通常限制这个标量的值在0到1之间。Discriminator用来鉴别输入的图片是真实的图片（训练资料）还是Generator生成的图片，对于真实的图片会有一个较高的得分，不真实的图片得分就会较低：

FGWICR7T[GN0@K2MJOO0SM8.png

                                        Discriminator


  1. Generator和Discriminator的关系


这一部分感性地介绍Generator和Discriminator之间的关系。


Generator和Discriminator的关系可以比喻成捕食者和猎物的关系，以鸟捕食蝴蝶为例，蝴蝶就是Generator，鸟就是Discriminator，蝴蝶会因为鸟的捕食而逐步进化成棕色，最后进化成枯叶蝶，而鸟也会根据蝴蝶的进行而初步判断自己捕食的标准，然后就可以从波波进化成比比鸟，最终进化成更强的捕食者：


%OG2])8][@%8IW}[74`W_~U.png

                                               生物进化


在生成对抗网络中，Generator和Discriminator以一种对抗的方式学习，以二次元头像生成为例，Generator生成的图像会尝试生成更真实的图片来骗过Discriminator，Discriminator会根据Generator生成的图像来一步步提高自己判定真实性的标准：


UR}{}N7WXJ3PY2YO}R~OE4O.png

                                                   对抗


另外，除了对抗的比喻，也可以有更加和平的比喻，比如可以把Generator和Discriminator比作学生和老师的关系，Generator是学生，Discriminator是老师。Generator的每一个版本都会比之前的版本生成的图像更真实，而Discriminator作为老师，每一个版本都会更加地严格：


]7(B8I6XFH(6BS[9V1CWX%D.png

                                            老师和学生


在后面的内容中会回答以下两个问题：


①Generator作为学生为什么不自己学呢？也就是说，为什么必须要有一个Discriminator才能促使Generator学习到如何进行生成。


②Discriminator作为老师为什么不自己做呢？也就是说，Discriminator为什么不能自己进行生成，而只能通过Generator进行生成。


  1. 算法


Generator和Discriminator是迭代交替训练的，首先Generator和Discriminator作为两个神经网络要进行初始化，接下来在每次迭代中都要先训练Discriminator再训练Generator，也就是完成以下两步：


Step1：固定住Generator，从一个高斯分布或者均匀分布（或者其他分布）随机抽样几个向量然后输入Generator中获取对应的生成的图片，同时也要从训练资料的数据库中随机抽样一部分真实的图片，然后让Discriminator学习如何鉴别真实的图片和生成的图片，具体的就是尽可能让Discriminator给真实的图片打高分，给生成的图片打低分，训练过程就当做一个分类或者回归任务来更新Discriminator的参数就好：


S1[%S4(O(4J4H[D(YKU)$]M.png

                                                  Step1


Step2：固定Discriminator，调整Generator的参数，目标就是让Generator生成的图片输入到Discriminator后能够“骗”过Discriminator（尽可能地得到高分）。具体的过程就是将Generator和Discriminator看做一个巨大的神经网络，在训练时这个神经网络的Discriminator的参数是不变的，只会更新Generator的参数，这样的话Generator生成的图片就会越来越接近真实的图片：


NGXA5[7XJPFZOOYF9%HI8A5.png

                                                 Step2

OK1%PSV~IUQEZCKON8L4$1U.png

要注意上述算法中Step1 ④中的BN}Q_S[OA`JJ]X37~Q3DYOA.png的输出层加了sigmoid函数来限制输出的值只能在0到1之间，但事实上添加sigmoid函数的方法不是效果最好的方法，但是使用这种方式完全可以实现一个GAN，后续会介绍更加优化的方法。


上面的Step1和Step2是交替进行的。


  1. 效果


下面的图展示了按照上述算法训练GAN迭代多次的效果：


O9Q%MG4`D)47WGEWU]{]8G2.png

O9Q%MG4`D)47WGEWU]{]8G2.png


GAN也可以用来进行三次元人脸的生成，并且通过调节输入向量（以二维为例）也可以看到一些渐变的变化：

$_N%$`{FL$BPYHA])P%_PES.png

                                                  三次元人脸生成


二、作为结构化学习的生成对抗网络


  1. 什么是结构化学习


机器学习的主要过程就是寻找一个函数：

SH74%~5C$1JCUT{}8U8YGF6.png


对于不同的机器学习模型来说，其输出可能有所不同，比如：


Regression：输出一个标量


Classification：输出类别（one-hot向量）


@C7LX(~KWL@ESHM(}%$WK[J.png

                                              Classification


Structured Learning/Prediction：输出一个矩阵、句子、图、树等结构化的对象。这些输出的特点就是由一些component组成，并且component之间是有依赖关系的。

  1. 结构化学习的一些例子


下面的图中展示了一些结构化学习的输入和输出：


35SJR8FAMS~)1P}ME~%3IZD.png

                                                结构化学习


对于让机器输出一个矩阵的结构化学习，这里也有一些有趣的例子，比如输入略图后输出一个真实的房子的图片，输入黑白图片后输出彩色图片，输入一段文字后输出对应的图片，这些例子可以通过GAN来实现：


$)H1{~`SDP4_(IU@NVV8@`4.png

                                                     输出矩阵


  1. 为什么结构化学习是具有挑战性的


One-shot/Zero-shot Learning是指在某些类别不具备或者具备很少的训练样本的情况下期待仍然能够对这些类别做预测。我们可以把结构化学习看做One-shot/Zero-shot Learning的一种，具体的可以把结构化学习的输出看做类别，以机器翻译为例，也就是把输出的每一个句子都看作一个类别，而在训练集中每个句子几乎全部只出现一次，而在测试集中每个句子在训练资料中都没有出现过，因此神经网络就需要学会创造这件事情，比起通常的分类任务来说，结构化学习也就需要更高级的“智能”。


对于结构化学习来说，机器的输出是由多个component组成的，比如图片由像素组成，句子由单词组成，因此机器在生成这些component时，需要具备“大局观”，需要“globally”地进行生成。


举例来说，在生成图片时，如果生成一个基本的component（比如一个点）并不能代表结果的好坏，而要看这个点在最终生成的图片中的全局的影响：


H@PCTZ0UQ0RB6F5]G~NS1UV.png

                                                 图片生成


另外一个例子是纪晓岚去给翰林的老婆祝寿，写了一首诗，第一句是“这个婆娘不是人”，如果单看这一句本身容易造成误解，而下一句是“九天仙女下凡尘”，因此要从全局的角度来看待机器生成的效果，也因此结构化学习就要求学习输出的component之间的依赖关系：


NX%8O(YN0TQCWA]D)TS05$C.png

                                                句子生成


GAN就可以看做一种结构化学习的方法。结构化学习的两种方式是Bottom Up和Top Down。Bottom Up是指在产生一个完整的对象时，机器是一个一个component地去产生，这样的缺点就是容易失去大局观，而Top Down是指产生完一个对象以后在从整体来看产生的效果好不好，坏处就是用这个方法很难做生成。事实上，GAN的Generator就相当于Bottom Up的方法，Discriminator就相当于Top Down的方法。这里的解释有些抽象，后面会具体介绍这里的这个观点：


9@[OJFJWOCREUP4K{HCRA}G.png

                                         Bottom Up & Top Down


三、问题1：Generator能不能不依赖Discriminator自己学习？


  1. Generator自己学习的方法


面对Discriminator的存在，我们会考虑一个问题，就是Generator能不能不依赖Discriminator自己学习？为了让Generator独立地学习到如何进行生成，我们会考虑到一种朴素的实现的方法，就是训练一个Generator，输入一个向量，输出一张图片（这张图片可以表示为一个很长的向量）：


{CGF1(M{9XKEWXT]QBS69_J.png

                                     Generator


这个Generator的训练方式同样很朴素，那就是让生成的图片与训练资料越接近越好：


{HQ%`{_M$2D5%`%ST0N7BFE.png

                                                  训练


上面的方式是让两张图片尽可能地接近，事实上这也就是让两个长长的向量越接近越好，这种训练的方式类似于传统的分类任务的训练方法，即让输出和标签越接近越好，因此这种朴素的生成方法是很容易实现的：


[T5R{G0V40NREE1{G4P[IRY.png

                                                       训练


  1. 使用自编码器来改进Generator的输入


不过对于生成任务来说，这里存在一个问题，就是我们需要为每个训练样本安排一个向量（code），这个code应该具备一定的合理性，否则可能会让训练出现一些问题。举例来说，如果进行随机取样给下图中两个数字1安排到两个相差很远的code，那么Generator能否学到输入两个截然不同的code来产生十分相似的图片呢？显然是很困难的：


VG}48@}TO%W`Q$QZ{I(Q$T9.png

                                            code


上面的问题也就表明训练资料对应的code不能是任意安排的，而应该期待code具备一定的表示性，最好能够让code的每一个维度能控制生成图片的一些特征，事实上这个问题也是有办法解决的，就是利用自编码器（Auto-Encoder）来进行图片的encode：


WKC)Z4Z@9L1HHQJXJ1BOSNX.png

                                        Encoder


有关自编码器的讲解可以参考以下链接，这里只简略介绍一下在生成任务中的应用：


①无监督学习-自编码器|深度学习（李宏毅）（十九）


②无监督学习-自编码器-补充|深度学习（李宏毅）（二十）


在这里自编码器的作用是通过其Encoder提供code，这样的code就具备一定的表示性，而其Decoder也就充当了Generator的角色（输入向量产生图片）：


[6[0@DTZ%IKAT([CHO0@0_B.png

                                         Auto-Encoder


以二维的code为例，利用自编码器得到的code的每一维度代表特定的含义，输入不同的code就会让Decoder生成不一样的图片：


X@`~KPDFFBHFDVADR%E)R~V.png


                                                        效果

而在一个区域内等距取样然后输入给Decoder让其产生图片的话就会看到一些渐变的效果，也就是说这里的code的每一个维度都会控制生成图片的一些特征（比如有没有圆圈或者倾斜的方向等等）：


BJ3HII{$Z}_BJXW@E6QMIT6.png

                                            渐变效果


使用自编码器以后，由于训练资料是有限的，因此也可能会遇到一些问题。举例来说，如果将向量(Q_5OZ@6)ZR%J3F9OSBOR(9.png输入到Decoder会产生左斜的数字1，将向量E3Z8L[@$%YZ~`UOUF3[AYLO.png输入到Decoder会产生右斜的数字1，那么将EH1PX$QB$]5$ZK1]I]DGM7M.png输入到Decoder中未必会产生一张正立的1，这是因为Decoder是非线性的，因此未必会产生想象中的平均的效果：


%8S_R69NRC0K@MO%HCYTYPY.png

                                                 问题


可以使用变分自编码器（Variational Auto-encoder，VAE）来尝试解决这个问题，VAE的做法是让自编码器输出code的同时也输出code的每一个维度的方差，然后从高斯分布中采样，将采样结果与方差结合再与code加起来以后再输入到Decoder中。这样的做法相当于对code进行加噪，这样就会让自编码器学习到的表示更加地稳定，从而让它知道除了输入(Q_5OZ@6)ZR%J3F9OSBOR(9.png、E3Z8L[@$%YZ~`UOUF3[AYLO.png要产生数字1，输入加噪的(Q_5OZ@6)ZR%J3F9OSBOR(9.png、E3Z8L[@$%YZ~`UOUF3[AYLO.png也要产生数字1：

GOCJ[WI[Z4_SPE]IKBOZBT4.png

                                                          变分自编码器


  1. 存在的问题


自编码器训练的目标是让生成的图片与原来的图片之间的每一个像素的欧氏距离越小越好，事实上如果自编码器并不能完全重构原来的图像，而是必然地会产生一些损失，机器如何规划这些损失，如何进行取舍就变得至关重要：


CMKOYA3FZE~0L}9E[N@GV)J.png

                                            自编码器训练


举例来说，在下面生成的四张图片中，相对于原来的训练资料而言，由于训练的目标是让像素之间的欧氏距离越小越好，那么模型更倾向于选择像素差异较小的上面两张图片，而下面两张图片由于像素差异较大而会造成较大的loss，但是事实上下面两张图片更加地真实，从整体上来看更加像是一个数字，这也就是自编码器进行生成缺乏大局观的体现：


6M4JRHFC1P]UML~%D53[S2A.png

                                               举例


如下图，对于一个自编码器来说，假设L层是其最后一层，在输出时最后一层的每一个神经元就相当于一个像素，而这些神经元之间缺乏必要的联系，在输出时它们之间是互不影响的：


IEYNBL60H2HMU$4C)YV~BZM.png

                                自编码器


就比如如果图片相邻像素之间想要产生一样的颜色，对于缺少相关性的两个相邻的输出神经元来说是很困难的：


L0]RDOZ38)}HPFMS]_FXP1R.png

                                自编码器


可以通过增加自编码器的层数来增强这种相关性，因此对于GAN和自编码器来说，如果要产生同样的生成效果，自编码器就会比GAN要庞大地多。


下面的实验证明了这一观点，这里用变分自编码器训练了一个Generator，图中绿色的点是拟合的目标，蓝色是生成的结果（给Generator输入一个高斯分布），发现在拟合目标的不同的簇之间还散布着一些蓝色的点，这就是由于Generator的输出的不同维度之间缺乏相关性导致的：


C}]BD@ZJZQ26VLSVLO8GIA3.png

                                                       实验


四、问题2：Discriminator能不能自己生成？


  1. Discriminator相较于Generator的优势


对于Discriminator来说，它在不同的文献中还有很多其他的别名，比如Evaluation function、Potential Function、Energy Function等，但是无论它叫什么名字，其功能也只是输入一个对象（比如图片），然后输出一个得分：


_6]E`8GJM}V9Q_6G]HBW`~7.png

                                        Discriminator


鉴于上述Discriminator的特点，Discriminator相较于Generator的优势就在于它能够从整体上去评价一个对象的好坏，而Generator的输出的不同维度之间缺乏相关性，因此Generator很难有一个整体的、全局的度量标准，而Discriminator就克服了这个问题。举例来说，对于下面两个不同的2来说，Discriminator中可能就存在一个图中这样的卷积核，因此也就能使得Discriminator看到左边的2就打低分，看到右边的2就打高分：


}{H_0)MZ~_Z0571T8T36R)4.png

                                                   举例


  1. 使用Discriminator来进行生成


既然一个Discriminator能够整体地评价一个对象好还是不好，那么能不能用Discriminator来做生成呢？我们最直观地想到利用下面这个式子来生成能让Discriminator打高分的对象：

XDX[L@~6{A~5~WB@2B0XHD0.png


以图像生成为例，我们解上面的式子可以通过穷举所有的图片（也就是所有像素的所有颜色的组合）来找出对应的QD97]VBXKN}}IO68U7LC]NB.png，这听起来是非常地困难的。对于要让Discriminator来完成生成任务这件事来说，主要的问题就在这里。不过现在我们就假设有一种合理的算法能够解上面这个式子，然后来看一下还会遇到些什么样的问题。


Discriminator的训练需要的训练资料包括positive的样本和negative的样本（必须要有negative的样本，否则Discriminator就会学习到给所有样本都打高分），而通常我们只有positive的样本，如何获取negative的样本就成为一个问题，如果我们直接使用一些噪声或者给图片加噪作为negative的样本，这样就会让机器学习到看到噪声就打低分就好，显然获得一些好的negative的样本是很重要的。


我们的解决方案就是让Discriminator自己产生negative的样本，训练的方式是迭代地训练Discriminator，每次迭代使用的positive的样本就是真实的图片，而negative的样本就是利用式子9I{9_GRUC$ZEYL_B6RKH~PS.png产生的能得高分的生成的图片，然后利用这些训练资料来训练Discriminator：


%Q$DJV{G1{XV`0XU_VA}VVR.png

                                                 训练


接下来以一种图示化的方式来解释这个迭代的过程，以一维的空间为例，如下图，我们期待Discriminator应该给一些真实图片分布的区域打高分，给其他区域打低分：


JWA}T04OUD~8Y2%8AYY@X1E.png

                                              Discriminator


然而由于数据实际上是分布在高维空间中的，想让Discriminator给所有除真实图片分布以外的区域打低分这件事是比较困难的，而不断的迭代就是为了实现这一期待的结果。在下面所示的过程中，蓝色的代表生成的图片（也就是通过上面式子解出来的negative的样本），绿色的相当于真实的样本。首先，初始的生成的与真实的图片分布如下：


JWA}T04OUD~8Y2%8AYY@X1E.png

                                                训练过程  


在经过调整一次参数后，会使得蓝色区域得低分，绿色区域得高分，但是无法保证其他区域也会得低分，因此也有可能出现图中所示得高分的其他区域：


QT2BF3~W06)`H93FUP}HUTK.png

                                          训练过程


接下来重新生成negative的样本后就会变成这样：


O(VF(~P95)0ZJ7YJ5MX2H[S.png

                                             训练过程


接下来再更新一下参数，将蓝色区域得分压低：


@U{2A8SR38)[5[(N24$T]~D.png

                                         训练过程


经过不断地迭代，我们希望最终能达到下图中的效果，这时训练的过程就可以停下了：


755]7AFJO{N(}[J@7VHX}4P.png

                                      训练最终结果


这样训练一个Discriminator是很合理的，然而这一切都建立在存在一个算法可以求解QIKG@PD5JA2$8@VR_OO0NSQ.png这一假设上，然而对于一个非线性的Discriminator（比如Discriminator是各种类型的神经网络的时候）来说，直接求解这一式子是相当困难的（几乎不可能完成）。然而使用Generator+Discriminator（GAN）的方式就完美地解决了这个问题，在前面介绍过的GAN中Generator的训练方式就是让Generator学习如何产生让Discriminator打高分的对象，也就是这一学习的过程就相当于求解了QIKG@PD5JA2$8@VR_OO0NSQ.png这个式子，因此GAN是一种合理地利用Generator和Discriminator双方优点的解决方案：


W0%7$AYC07YVN]H9HLBD]HY.png

                                                 GAN


  1. 概率图模型与Discriminator


事实上结构化学习中的一些概率图模型也就可以看做一种仅仅利用Discriminator的生成方式。各种概率图模型比如CRF、RBM等可以看做一个Discriminator，而其建模的联合概率或者条件概率就相当于Discriminator的打分，而对于其中的一些推断问题，比如Decoding问题，需要求解使概率最大的序列或者其他对象时，就可以看做是在做生成：


K1{O(U2HW3WXW$8(VZGTB)D.png

                                       概率图模型


不过这些概率图模型之所以能够求解MMD@6D5~L@439UVNC67GF5W.png，主要是因为做了一些假设，比喻线性的假设或者一些随机变量相互独立的假设，而这些假设往往会降低模型的能力，但是如果没有这些假设，就又会面临MMD@6D5~L@439UVNC67GF5W.png无法求解的问题，因此GAN所取得的成就是突破性的。


五、总结


  1. Generator和Discriminator各自的优缺点


  • Generator的优缺点


Generator的优点是它很容易进行生成，因为它是一个前馈网络或者其他的网络，是很容易生成一张图片或者其他对象的，而它的缺点就是它只是在模仿，由于它输出的component之间缺乏相关性，导致它只能学习到训练资料的表象而学习不到其大局观的精神。


  • Discriminator的优缺点


Discriminator有点在于它具备大局观，能够整体地、全局地度量一个对象的好坏，但它的缺点就是它很难做生成，尤其是Discriminator的层数很深的时候，并且也很难得到negative的样本。


  1. GAN的优势


  • 从Discriminator的角度来看


从Discriminator的角度来看，Discriminator可以利用Generator来生成negative的样本：


)G97@_6W%D6O`)2{BMEYZZF.png

                                                 Discriminator


  • 从Generator的角度来看


Generator仍然是一个一个component地进行生成，但是度量生成效果是通过Discriminator的全局的标准来衡量的。


  1. 实验


之前使用VAE进行的实验现在使用GAN所产生的效果如下图所示，而且VAE和GAN中使用的Generator的架构是一样的，图中红点是生成的样本，蓝点是真实的样本：


@S_3EU]FOZC6%R9CC)[}7ZX.png

                                    实验

可以看到不同的簇之间几乎没有生成的样本，效果要比VAE要好得多。


另外也使用VAE和GAN进行了三次元人脸的生成，得到效果如下：


UY$(F[9(QQBFYRAUUJI3YSN.png

                                         三次元人脸生成


可以看到GAN相当于VAE可以产生更加清晰的效果。


下面的图来自Google的一篇论文，其中对比了不同的GAN以及VAE在MINST和CIFAR10数据集上的效果，图中使用的FID Score越小，说明生成的效果越真实。之所以每种GAN都有一个很大的range，是因为尝试了不同的参数，GAN对不同的参数是很敏感的，因此效果会很有一个很大的range。而VAE对于不同的参数就会比较稳定，但是VAE所能达到的最好的效果总是不如GAN所能产生的最好的效果：


W`MDPB%LGSK9Z559MMPB1QC.png

                                                    对比

文章标签：
自然语言处理
机器学习/深度学习
数据挖掘
算法
数据库
关键词：
网络概念
网络深度学习
概念深度学习
基本概念深度学习
网络深度学习李宏毅
酷酷的群
目录
相关文章
楠竹11
|
23天前
|
机器学习/深度学习 人工智能
类人神经网络再进一步！DeepMind最新50页论文提出AligNet框架：用层次化视觉概念对齐人类
【10月更文挑战第18天】这篇论文提出了一种名为AligNet的框架，旨在通过将人类知识注入神经网络来解决其与人类认知的不匹配问题。AligNet通过训练教师模型模仿人类判断，并将人类化的结构和知识转移至预训练的视觉模型中，从而提高模型在多种任务上的泛化能力和稳健性。实验结果表明，人类对齐的模型在相似性任务和出分布情况下表现更佳。
楠竹11
53 3
jianz123
|
5天前
|
网络协议 网络安全 数据安全/隐私保护
计算机网络概念:网关，DHCP，IP寻址，ARP欺骗，路由，DDOS等
计算机网络概念:网关，DHCP，IP寻址，ARP欺骗，路由，DDOS等
jianz123
24 4
请看我回答~
|
6天前
|
机器学习/深度学习 人工智能 算法框架/工具
深度学习中的卷积神经网络（CNN）及其在图像识别中的应用
【10月更文挑战第36天】探索卷积神经网络（CNN）的神秘面纱，揭示其在图像识别领域的威力。本文将带你了解CNN的核心概念，并通过实际代码示例，展示如何构建和训练一个简单的CNN模型。无论你是深度学习的初学者还是希望深化理解，这篇文章都将为你提供有价值的见解。
请看我回答~
31 5
jianz123
|
15天前
|
网络协议 网络安全 数据安全/隐私保护
计算机网络概念:网关，DHCP，IP寻址，ARP欺骗，路由，DDOS等
【10月更文挑战第27天】计算机主机网关的作用类似于小区传达室的李大爷，负责将内部网络的请求转发到外部网络。当小区内的小不点想与外面的小明通话时，必须通过李大爷（网关）进行联系。网关不仅帮助内部设备与外部通信，还负责路由选择，确保数据包高效传输。此外，网关还参与路由表的维护和更新，确保网络路径的准确性。
jianz123
38 2
子午s
|
20天前
|
机器学习/深度学习 人工智能 算法
【车辆车型识别】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+算法模型
车辆车型识别，使用Python作为主要编程语言，通过收集多种车辆车型图像数据集，然后基于TensorFlow搭建卷积网络算法模型，并对数据集进行训练，最后得到一个识别精度较高的模型文件。再基于Django搭建web网页端操作界面，实现用户上传一张车辆图片识别其类型。
子午s
65 0
【车辆车型识别】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+算法模型
肥猪肥猪-17824
|
21天前
|
机器学习/深度学习 人工智能 自动驾驶
深度学习中的卷积神经网络（CNN）及其应用
【10月更文挑战第21天】本文旨在深入探讨深度学习领域的核心组成部分——卷积神经网络（CNN）。通过分析CNN的基本结构、工作原理以及在图像识别、语音处理等领域的广泛应用，我们不仅能够理解其背后的技术原理，还能把握其在现实世界问题解决中的强大能力。文章将用浅显的语言和生动的例子带领读者一步步走进CNN的世界，揭示这一技术如何改变我们的生活和工作方式。
肥猪肥猪-17824
49 1
小周sir
|
28天前
|
机器学习/深度学习 人工智能 监控
深入理解深度学习中的卷积神经网络（CNN）：从原理到实践
【10月更文挑战第14天】深入理解深度学习中的卷积神经网络（CNN）：从原理到实践
小周sir
82 1
Star时光
|
7天前
|
机器学习/深度学习 人工智能 自动驾驶
深入解析深度学习中的卷积神经网络（CNN）
深入解析深度学习中的卷积神经网络（CNN）
Star时光
21 0
技术混子
|
9天前
|
机器学习/深度学习 人工智能 自动驾驶
深度学习的奇迹：如何用神经网络识别图像
【10月更文挑战第33天】在这篇文章中，我们将探索深度学习的奇妙世界，特别是卷积神经网络（CNN）在图像识别中的应用。我们将通过一个简单的代码示例，展示如何使用Python和Keras库构建一个能够识别手写数字的神经网络。这不仅是对深度学习概念的直观介绍，也是对技术实践的一次尝试。让我们一起踏上这段探索之旅，看看数据、模型和代码是如何交织在一起，创造出令人惊叹的结果。
技术混子
19 0
游客moiomvrp3vyac2
|
10天前
|
机器学习/深度学习 人工智能 TensorFlow
深度学习中的卷积神经网络（CNN）及其在图像识别中的应用
【10月更文挑战第32天】本文将介绍深度学习中的一个重要分支——卷积神经网络（CNN），以及其在图像识别领域的应用。我们将通过一个简单的代码示例，展示如何使用Python和TensorFlow库构建一个基本的CNN模型，并对其进行训练和测试。
游客moiomvrp3vyac2
20 0

热门文章

最新文章

  • 1
    手把手教你用Python实践深度学习
  • 2
    基于深度学习的动物识别系统（YOLOv5清新界面版，Python代码）
  • 3
    Facebook这样看“深度学习”技术
  • 4
    二维码及条形码智能检测软件（Python+YOLOv5深度学习模型+清新界面）
  • 5
    如何从系统层面优化深度学习计算？
  • 6
    云栖科技评论第15期：IBM联合NVIDIA开发世界上“最快商用深度学习系统”
  • 7
    IBM：最新突破将大幅提升深度学习速度
  • 8
    深度学习模型在图像识别中的应用：CIFAR-10数据集实践与准确率分析
  • 9
    领域最全 | 计算机视觉算法在路面坑洼检测中的应用综述(基于2D图像/3D LiDAR/深度学习)（上）
  • 10
    如何评价深度学习在自然语言处理、计算机视觉等领域的应用成果？
  • 1
    探索机器学习中的神经网络：从基础到应用
    79
  • 2
    安利7个免费开源的网络监控工具，网络工程师速度收藏！
    309
  • 3
    云计算与网络安全：技术融合的未来
    47
  • 4
    网络安全的屏障与密钥：漏洞防御、加密技术与安全意识
    40
  • 5
    网络安全的守护者：漏洞、加密与意识的三维防御
    39
  • 6
    网络安全与信息安全：从漏洞到防护的全方位解析
    59
  • 7
    云计算与网络安全：技术进展与挑战
    48
  • 8
    `nmap`是一个开源的网络扫描工具，用于发现网络上的设备和服务。Python的`python-nmap`库允许我们在Python脚本中直接使用`nmap`的功能。
    152
  • 9
    图神经网络是一类用于处理图结构数据的神经网络。与传统的深度学习模型（如卷积神经网络CNN和循环神经网络RNN）不同，
    87
  • 10
    生成对抗网络（GAN）由两部分组成：生成器（Generator）和判别器（Discriminator）。
    389

    • 相关课程

    更多
  • 云计算工程师解析与实战-网络专家篇（体验版）
  • 云网络白皮书-阿里云网络系列课
  • 企业上云攻略-阿里云网络产品应用系列教程
  • Linux网络进阶 - TCP/IP协议及OSI七层模型
  • 深度学习与自动驾驶
  • 网络管理者必知-2分钟了解新出台的《网络安全法》

    • 相关电子书

    更多
  • 深度学习的最新进展
  • 搜狗深度学习技术在广告推荐领域的应用
  • 深度学习在电商搜索和聊天机器人中的应用

    • 相关实验场景

    更多
  • 使用PAI+LLaMA Factory微调Qwen2-VL模型，搭建文旅领域知识问答机器人
  • AI克隆声音，基于函数计算部署GPT-Sovits语音生成模型
  • 奥运时刻！零代码生成奥运风格AI写真。
  • 函数计算一键部署AI大语言模型并会话
  • 【AI破次元壁合照】少年白马醉春风，函数计算一键部署AI绘画平台
  • 使用PAI-快速开始，低代码实现大语言模型微调和部署
    • 下一篇
    阿里云OSS设置跨域访问