(zhuan) 深度学习全网最全学习资料汇总之模型介绍篇

 

 

 

本文旨在加速深度学习新手入门，介绍 CNN、DBN、RNN、RNTN、自动编码器、GAN 等开发者最常用的深度学习模型与架构。雷锋网搜集整理了涉及以上话题的精品文章，供初学者参考。

卷积

神经网络

CNN

• 深度学习元老Yann Lecun详解卷积神经网络

Yann Lecun 的 CNN 话题演讲+ppt。

链接：http://www.leiphone.com/news/201608/zaB48AcZ1AFm1TaP.html

• 卷积神经网络（CNN）新手指南

翻译自国外的 CNN 教程，解释详细，浅显易懂。本文分为两部分。

链接：http://www.leiphone.com/news/201607/KjXQ1dFpOQfhTEdK.html

http://www.leiphone.com/news/201608/GBJqHBnfDhq22qpD.html

• 卷积神经网络全面解析

作者自己的博客，归纳总结了关键知识点，深入浅出。

链接：http://www.moonshile.com/post/juan-ji-shen-jing-wang-luo-quan-mian-jie-xi

• 卷积神经网络(CNN)学习笔记

同样是博客，重点介绍了 CNN 的网络结构和训练过程。ppt 做得非常用心，分为两个部分。

链接：http://www.jeyzhang.com/cnn-learning-notes-1.html

http://www.jeyzhang.com/cnn-learning-notes-2.html

• 卷积神经网络

作者的一些心得体会颇值得参考。

链接：http://blog.csdn.net/stdcoutzyx/article/details/41596663

递归神经网络 RNN 及 LSTM

• 想了解递归神经网络？这里有一份入门教程

零基础认识 RNN，介绍核心知识点。

链接：http://www.leiphone.com/news/201608/syAwLNx4bGPuFYI1.html

• 理解LSTM网络

翻译而来，原文是讲解 LSTM 最受欢迎的英语文章之一，非常值得一读。如同标题，它侧重理解而不是算法实现。译者的功底很深，语言清楚明白；当然，原作者对该话题的理解十分深刻，否则不能把原本晦涩的知识点讲解得这么清楚。http://www.jeyzhang.com/understanding-lstm-network.html

• 谷歌大脑科学家亲解 LSTM：一个关于“遗忘”与“记忆”的故事

同样是翻译而来，同样是国外 LSTM 最经典的介绍文章之一，作者是 Google Brain 科学家 Christopher Olah。文中示意图看着有没有很眼熟？因为它们与上文本是同一套。

链接：http://www.leiphone.com/news/201701/UIlrDBnwiqoQUbqB.html

• 深度RNN解决语义搜索难题

如何借助 RNN 构造语义搜索引擎，本文介绍了三种实现模式。

链接：http://www.leiphone.com/news/201608/qTGP6gqnkefJSgiH.html  

• 递归神经网络之父施米德休：他和DeepMind有不解之缘

顺便来点八卦内容，看看 RNN 发明者的开挂人生。

链接：http://www.leiphone.com/news/201603/xEsltgZe9O1pk1NP.html

• RNN以及LSTM的介绍和公式梳理

根据外文教材和论文整理的算法原理和公式。

链接：http://blog.csdn.net/Dark_Scope/article/details/47056361

递归张量神经网络 RNTN

• RNTN-递归张量神经网络

简单介绍 RNTN 的优点和原理。

链接：http://blog.csdn.net/star_bob/article/details/47835563

国内关于 RNTN 的资料实在太少，在教科书和网上公开课程之外，开发者可以看看 RNTN 之父 Richard Socher, 的论文：《Recursive Deep Models for Semantic Compositionality Over a Sentiment Treebank 》

链接：http://nlp.stanford.edu/~socherr/EMNLP2013_RNTN.pdf

Deeplearning4j 还有一个短文，提到了 RNTN 模型的一些搭建要点。

链接：https://deeplearning4j.org/recursiveneuraltensornetwork.html

自动编码器 Autoencoder

• 自编码算法与稀疏性

这是斯坦福百科论坛里，对稀疏自动编码器的中文介绍，是一篇很好的翻译文章。

链接：http://deeplearning.stanford.edu/wiki/index.php/自编码算法与稀疏性

• 稀疏自动编码器 （Sparse Autoencoder）

对稀疏自动编码器的数学推导。作者表示，吴恩达老师的机器学习课程讲解了这些概念，但受到时间限制不得不略过了推导和数学原理部分。本文是对其的补充。

链接：https://my.oschina.net/findbill/blog/541143

• 为什么稀疏自编码器很少见到多层的？

这是知乎上的问答，不仅回答了以上问题，还梳理了自动编码器的原理。

链接：https://www.zhihu.com/question/41490383

• 深度学习算法实践13---去噪自动编码机（Denosing Autoencoder）

对自动编码器（以及去噪自动编码器）原理和应用的介绍，简单易懂，对小白十分友好。

链接：http://blog.csdn.net/yt7589/article/details/52368608

• Deep Learning（深度学习）学习笔记整理

综合的深度学习笔记，涉及它的原理和训练技巧。但它重点对自动编码器，以及它的两个变种——稀疏自动编码器和去噪自动编码器做了原理介绍。

链接：http://www.dataguru.cn/article-3339-2.html

生成对抗网络 GAN

• “GANs之父”Goodfellow 38分钟视频亲授：如何完善生成对抗网络？（上）

如题，Ian Goodfellow 在 NIPS 大会上的演讲，含部分 ppt。

链接：http://www.leiphone.com/news/201612/eAOGpvFl60EgFSwS.html

• “GAN之父”Goodfellow与网友互动：关于GAN的11个问题（附视频）

Ian Goodfellow NIPS 大会演讲的互动部分，回答了现场嘉宾提问。

链接：http://www.leiphone.com/news/201612/JMWZE6BXRZxB1A6d.html

• 深度学习新星：GAN的基本原理、应用和走向 | 硬创公开课

新加坡国立大学冯佳时教授对 GAN 的综合讲解。

链接：http://www.leiphone.com/news/201701/Kq6FvnjgbKK8Lh8N.html

• 深度解读：GAN模型及其在2016年度的进展

中科院博士、计算技术研究所助理教授杨双对 GAN 的讲解。

链接：http://www.leiphone.com/news/201701/Hrv1qUS6GYl1vl7O.html

• 生成对抗网络（GANs ）为什么这么火？盘点它诞生以来的主要技术进展

回顾生成对抗网络 2014-2016 的四项重大里程碑。

链接：http://www.leiphone.com/news/201612/Cdcb1X9tm1zsGSWD.html

• GAN 很复杂？如何用不到 50 行代码训练 GAN（基于 PyTorch）

本文作者为前谷歌高级工程师、AI 初创公司 Wavefront 创始人兼 CTO Dev Nag，介绍了他是如何用不到五十行代码，在 PyTorch 平台上完成对 GAN 的训练。全套训练代码发布于 GitHub，链接在文末。

链接：http://yingpeng.leiphone.com/article/update?id=161673

• GAN学习指南：从原理入门到制作生成Demo，总共分几步？

对 GAN、DCGAN 的原理介绍，对基于Tensorflow的 DCGAN 实践作了简要说明。

链接：http://www.leiphone.com/news/201701/yZvIqK8VbxoYejLl.html

• 令人拍案叫绝的 Wasserstein GAN

原始 GAN 的问题以及 WGAN 的优点。

链接：http://www.leiphone.com/news/201702/EU12GVIe2pNGtgEk.html

• LS-GAN作者诠释新型GAN：条条大路通罗马，把GAN建立在Lipschitz密度上

LS-GAN 以及它与 WGAN、GAN 的不同之处。

链接：http://www.leiphone.com/news/201702/QlPJUIqgyw6brWr2.html

• GAN的理解与TensorFlow的实现

介绍生成式模型的原理。作者创建了基于 TensorFlow 的 Info-GAN 模型，发布于 GitHub，文中附链接。

链接：http://www.leiphone.com/news/201702/GZsIbIb9V9AUGmb6.html

深度置信网络 DBN 和受限玻尔兹曼机 RBM

• 受限玻尔兹曼机基础教程

如题，deeplearning4j 的教程。

链接：https://deeplearning4j.org/cn/archieved/zh-restrictedboltzmannmachine

• 受限玻尔兹曼机（Restricted Boltzmann Machine，RBM）

翻译自国外的 RBM 的实践教程。

链接：http://www.cnblogs.com/tuhooo/p/5440473.html

• 深度学习方法：受限玻尔兹曼机 RBM 网络模型

本文分为四部分，是对 RBM 的较详细讲解，分为四部分。

链接：http://blog.csdn.net/xbinworld/article/details/44901865

http://blog.csdn.net/xbinworld/article/details/45013825

http://blog.csdn.net/xbinworld/article/details/45128733

http://blog.csdn.net/xbinworld/article/details/45274289

• Deep Learning（深度学习）学习笔记整理系列之（六）

对 RBM 和 DBN 原理知识点的整理。

链接：http://blog.csdn.net/zouxy09/article/details/8781396/

• 深度信念网络(Deep Belief Network)

另一篇学习笔记整理。

链接：http://blog.csdn.net/losteng/article/details/51001247

• 机器学习——DBN深度信念网络详解

对 DBN 的简要介绍，文中对 RBM 的图解十分有帮助。

链接：http://m.blog.csdn.net/article/details?id=52184189

• 受限玻尔兹曼机(Restricted Boltzmann Machine, RBM) 简介

如题，对其算法的简介。

链接：http://www.cnblogs.com/kemaswill/p/3203605.html 雷锋网(公众号：雷锋网)版权雷锋网版权