更多深度文章,请关注云计算频道:https://yq.aliyun.com/cloud
作者简介:AWESOME-O
作者邮箱:awesomo2001@gmail.com
Blog:http://machinelearningagents.com/author/admin
深度学习作为最近几年(准确来说是几十年)最耀眼技术之一,已经帮助研究人员和从业人员解决了大量AI领域中的许多困难问题。但是遗憾的是,深度学习作为一个新领域,直到今天都没有形成统一的规范。我推荐的这本深度学习是一本由深度学习专家I. Goodfellow,Y. Bengio和A. Courville合作的新书,是MIT的自适应计算和机器学习系列的一部分。该书填补了这一方面的空白,并取得了巨大的成功。
这本书是第一本是从深度的角度涵盖深度学习领域的书,同时,即使是初学者也可以读懂。
本书主要有三个部分。
第一部分是数学和机器学习的基本知识。新手阅读这一部分快速地补充必要的知识,老手也可以通过这一部分进行知识的回顾。该部分简单介绍了线性代数,概率论,优化(主要是梯度下降,因为它是深度学习中的主导优化算法)的基础。另外,这一部分还简单介绍了机器学习的概念。注意,机器学习的章节包含了所有的机器学习算法和相关概念,并不仅仅是深度学习的相关概念和算法。它充分调查了一个(非常)大型研究领域,解释了构建能够从数据中学习的模型所需要的最基本的概念。它包含了关于过拟合,欠拟合和机器学习算法能力的讨论。在这些基本概念的基础上,本章激励了深度学习的需求,以解决传统机器学习算法的一些缺点。这是一个重要的章节,因为它提供了在机器学习领域深度学习的背景。即使您已经熟悉机器学习的概念,我仍然建议您花时间阅读本章。
第二部分介绍了深度学习中的前馈神经网络,包括它的构造和训练。这一章的目标读者是深度学习方面的从业人员。这部分清楚地解释了从业人员在使用深度学习来构建精确预测系统过程中需要做的选择。而这个工作往往非常困难。
我认为这本书清晰且有效地使用深度学习来解决机器学习的问题。深度学习并不是一个黑盒子,它使用尽可能少的数据和计算能力来获得好的收益。这就是说,在第二部分中作者介绍了不同类型的隐藏和输出单元,并讨论了架构设计的重要方面。许多公开的深度学习的论文都致力于找寻一种适合当前问题的架构。这部分在早期也引入了用于训练网络的反向传播算法。如数据集增加,早期停止,辍学和最近流行的对抗训练等正则化方法在本部分中被详尽地介绍,它们都是开发人员地有力武器。作者还提供了一个很好的介绍计算机视觉中流行的卷积网络和在语音识别或一般在建模序列数据中常见的递归神经网络。本书的第2部分的最后一个章节是深度学习应用,这章的对那些寻找灵感的人非常有用。
这本书也有点美中不足,它的第二部分我不是很满意。由于它是主要面向从业人员的,因此我认为作者应该加入更多的案例来阐述这些概念。我并不是说要用特定的语言或者深度学习的框架来实现例子。我认为不依赖于任何一个框架是本书的一大优点。框架的使用往往会让读者分散注意力,而算法可能通过任何一种框架实现。我的建议是这本书可以通过一些例子来说明一些核心思想就可以了,不用太关注于实现。
第三部分也是全书的最后一个部分,它主要是关注与深度学习方面研究。它是研究人员研究热点的集合,主要包含自动编码器,蒙特卡罗方法,近似推理和生成模型等。熟悉机器学习且要么在大学学习过或者工作遇到过深度学习的人可以直接跳到这一章节。
如果你有心推动机器学习的发展,那么本书的最后八章内容将给你提供足够的养料。这就是说最后这一部分是学术界最感兴趣的,尤其是对于博士和博士后。对我们其他人来说,无论深度学习在大众媒体的流行程度如何,它仍处于起步阶段,几乎没有通用的解决方案。因此,仍然有许多问题需要我们解决。
这本的最后200页指出,那些真正理解深度学习方法的人正试图平息过去一年里围绕它的炒作。需要做的工作还有很多,我们要理性地看待炒作,因为我们不想再次经历AI的冬天。最后,本节涵盖的大量不同的主题告诉我,这本书在未来将变得过时,因为研究人员发现了新的深度学习方法并改进了现有的方法。我希望作者将继续更新这本书,以便我们对这种强大的机器学习技术的知识增加。
总的来说,深度学习这本书对无论是初学者或是从业人员甚至是研究人员都是一本不错的读物。作者下了很大的功夫深入浅出地将深度学习的知识讲解给不同基础的人。
如果感兴趣,这有书的链接。
以上为译文
本文由北邮@爱可可-爱生活 老师推荐,阿里云云栖社区组织翻译。
文章原标题《Book review: Deep Learning by Goodfellow, Bengio and Courville | Machine Learning Agents》,作者:Awesome-o,译者:爱小乖
文章为简译,更为详细的内容,请查看原文