• 关于

    梯度消失问题工作原理

    的搜索结果
  • 这些深度学习术语,你了解多少?(下)

    这些深度学习术语,你了解多少?(上) 动量(Momentum) Momentum是Gradient Descent算法的扩展、可加速或抑制参数更新。 1、通过反向传播的错误来学习表征 多层感知器(MLP) 多层感知器是一种前馈神经网络,具有多个完全连接的层,使用非线性激活函数来处理不可线性分离的数...

    文章 【方向】 2018-10-26 1285浏览量

  • 关于神经网络,你需要了解这些(一)

    神经网络和深度学习技术是当今大多数高级智能应用的基础。在本文,来自阿里巴巴搜索部门的高级算法专家孙飞博士将简要介绍神经网络的演变,并讨论该领域的最新发展。本文主要围绕以下五个方面: 神经网络的演化; 感知机模型; 前馈神经网络; 反向传播; 深度学习基础知识; 1.神经网络的演变 在我们深入研...

    文章 【方向】 2018-08-04 1716浏览量

  • 分析梯度下降的轨迹,更好地理解深度学习中的优化问题

    雷锋网 AI 科技评论按:神经网络的优化本质上是一个非凸问题,而简单的基于梯度的算法在实践中似乎总是能够解决这类问题。这种现象是深度学习的核心支柱之一,而目前有许多理论科学家家正试图解开这个谜:为什么基于梯度的方法能够在深度学习的优化中行之有效。 一篇来自 offconvex.org 博客的文...

    文章 雷锋网 2018-12-22 274浏览量

  • 这些深度学习术语,你了解多少?(上)

    对于一个新手来说,深度学习术语可能非常难以理解。本表试图解释深度学习常用术语并链接到原始参考,以帮助读者深入了解特定主题。 深度学习与“一般”的机器学习术语之间的界限非常模糊。例如,我这里不包括“交叉验证”,因为它是一种通用技术,用于整个机器学习。但是,我加入了softmax或word2vec等术...

    文章 【方向】 2018-10-20 1921浏览量

  • 带你走进神经网络的“前世今生”

    摘要:提起神经网络,你会想到什么?关于深度学习,你又是否思考过其中的原理呢?从上个世纪四十年代神经网络诞生开始,到今天已经历经70多年的发展,这中间它又经历了什么?本文将带领大家走进神经网络的“前世今生”一探究竟。 本次直播视频精彩回顾,戳这里! 演讲嘉宾简介: 孙飞(花名:丹丰),阿里巴巴...

    文章 青衫染烟雨 2018-03-21 4937浏览量

  • 这份深度学习课程笔记获吴恩达点赞

    深度学习基础 1. 深度学习基本概念 监督学习:所有输入数据都有确定的对应输出数据,在各种网络架构中,输入数据和输出数据的节点层都位于网络的两端,训练过程就是不断地调整它们之间的网络连接权重。 左上:列出了各种不同网络架构的监督学习,比如标准的神经网络(NN)可用于训练房子特征和房价之间的函数,...

    文章 技术小能手 2018-03-12 3031浏览量

  • 100行Python代码理解深度学习关键概念:从头构建恶性肿瘤检测网络

    在构建乳腺癌预测神经网络过程中,我们主要分为3大部分: 1.用Python从零开始创建一个神经网络,并使用梯度下降算法训练模型。 2.在该神经网络中使用威斯康星乳腺癌数据集,根据9种不同的特征,预测肿瘤是良性还是恶性的。 3.探索反向传播和梯度下降算法的工作原理。 在这个领域中,有很多大牛都通过视...

    文章 【方向】 2019-03-18 7228浏览量

  • 一文读懂神经网络(附PPT、视频)

    演讲嘉宾简介: 孙飞(丹丰),阿里巴巴搜索事业部高级算法工程师。中科院计算所博士,博士期间主要研究方向为文本分布式表示,在SIGIR、ACL、EMNLP以及IJCAI等会议发表论文多篇。目前主要从事推荐系统以及文本生成相关方面研发工作。 以下内容根据演讲嘉宾视频分享以及PPT整理而成。 本次的...

    文章 技术小能手 2018-03-26 2918浏览量

  • 【翻译】Sklearn 与 TensorFlow 机器学习实用指南 —— 第11章 训练深层神经网络(上)

    第 10 章介绍了人工神经网络,并训练了我们的第一个深度神经网络。 但它是一个非常浅的 DNN,只有两个隐藏层。 如果你需要解决非常复杂的问题,例如检测高分辨率图像中的数百种类型的对象,该怎么办? 你可能需要训练更深的 DNN,也许有 10 层,每层包含数百个神经元,通过数十万个连接来连接。 这不...

    文章 技术小能手 2018-06-25 2862浏览量

  • 神经网络算法Batch Normalization的分析与展望 | 大牛讲堂

    雷锋网(公众号:雷锋网)按:作者罗恒,地平线机器人技术资深算法研究员。2011年博士毕业于上海交通大学,后随Yoshua Bengio从事博士后研究,2014年加入百度深度学习实验室,参与深度学习在搜索中应用、PaddlePaddle研发等工作。2016年加入地平线机器人公司,负责深度学习模型压缩...

    文章 青衫无名 2017-08-01 1378浏览量

  • 深度学习之优化详解:batch normalization

    认识上图这些人吗?这些人把自己叫做“The Myth Busters”,为什么?在他们的启发下,我们才会在Paperspace做类似的事情。我们要解决是Batch Normalization(BN)是否确实解决了Internal Covariate Shift的问题。虽然Batch Normali...

    文章 【方向】 2018-07-26 2309浏览量

  • 【翻译】Sklearn 与 TensorFlow 机器学习实用指南 —— 第11章 训练深层神经网络(上)

    第 10 章介绍了人工神经网络,并训练了我们的第一个深度神经网络。 但它是一个非常浅的 DNN,只有两个隐藏层。 如果你需要解决非常复杂的问题,例如检测高分辨率图像中的数百种类型的对象,该怎么办? 你可能需要训练更深的 DNN,也许有 10 层,每层包含数百个神经元,通过数十万个连接来连接。 这不...

    文章 一码平川MACHEL 2019-02-14 679浏览量

  • 一文了解LSTM和GRU背后的秘密(绝对没有公式)

    你好,欢迎阅读长短期记忆网络(LSTM)和门控循环单元(GRU)的图解文章。我是Michael,是AI语音助理领域的机器学习工程师。 在这篇文章中,我们将从LSTM和GRU背后的原理出发。然后我将解释允许LSTM和GRU表现良好的内部机制。如果你想了解这两个网络的背后到底是什么,那么这篇文章就是为...

    文章 【方向】 2018-10-07 2032浏览量

  • 从RNN到LSTM,性能良好的神经网络到底是如何工作的?

    数十款阿里云产品限时折扣中,赶紧点击这里,领劵开始云上实践吧!  本次直播视频精彩回顾,戳这里! 直播涉及到的PPT,戳这里! 课程主讲简介: 于恒,阿里巴巴机器智能技术实验室技术专家,中科院计算所博士,研究方向是机器翻译,在自然语言处理和人工智能领域顶级国际会议ACL、EMN...

    文章 9酒欣巧克力 2018-04-02 13836浏览量

  • 程序员技术进阶手册(二)

    这次AI浪潮大火有三个原因:一是大数据的发展,二是计算能力的提高,三是深度学习的兴起。作为程序员,我们应该对深度学习多加关心。深度学习的概念源于人工神经网络的研究,如果追溯深度学习的概念还是要回到2006年Hinton那篇论文,基于深信度网(DNB)提出非监督贪心逐层训练算法,未解决深层结构相关的...

    文章 【方向】 2018-02-18 12798浏览量

  • 神经网络预测股票市场

    机器学习和深度学习已经成为定量对冲基金为了实现最大化利润而通常使用的新的有效策略。作为一个人工智能和金融爱好者,这是一个令人兴奋的消息,因为神经网络结合了我感兴趣的两个领域。本文将介绍如何使用神经网络预测股票市场,特别是股票(或指数)的价格。这篇文章基于我GitHub上的python项目,在项目中...

    文章 【方向】 2018-10-13 3899浏览量

  • 一文看尽深度学习RNN:为啥就它适合语音识别、NLP与机器翻译?

    [ 导读 ]本文是机器学习大牛Jason Brownlee系统介绍RNN的文章,他在文中详细对比了LSTM、GRU与NTM三大主流架构在深度学习上的工作原理及各自特性。读过本文,你就能轻松GET循环神经网络在语音识别、自然语言处理与机器翻译等当前技术挑战上脱颖而出的种种原因。 循环神经网络(RN...

    文章 行者武松 2017-09-01 1187浏览量

  • 【深度学习之美】LSTM长短记,长序依赖可追忆(入门系列之十四)

    【版权声明】转载请注明出处和作者署名。否则作者和云栖社区有权追究责任。 系列文章一入侯门“深”似海,深度学习深几许(入门系列之一)人工“碳”索意犹尽,智能“硅”来未可知(深度学习入门系列之二)神经网络不胜语, M-P模型似可寻(深度学习入门系列之三)“机器学习”三重门,“中庸之道”趋若人(深度学...

    文章 【方向】 2017-08-17 27146浏览量

  • 带你读《TensorFlow机器学习实战指南(原书第2版)》之二:TensorFlow进阶

    点击查看第一章点击查看第三章 第2章 TensorFlow进阶本章将介绍如何使用TensorFlow的关键组件,并串联起来创建一个简单的分类器,评估输出结果。阅读本章你会学到以下知识点: 计算图中的操作 TensorFlow的嵌入Layer TensorFlow的多层Layer TensorFl...

    文章 温柔的养猫人 2019-11-17 110浏览量

  • 深度学习系列2:卷积神经网络

    本文讲的是深度学习系列2:卷积神经网络, 原文地址:Deep Learning 2: Convolutional Neural Networks 原文作者:Rutger Ruizendaal 译文出自:掘金翻译计划 本文永久链接:github.com/xitu/gold-m… 译者...

    文章 玄学酱 2017-10-16 888浏览量

  • 生成对抗网络的最新研究进展

    雷锋网 AI 科技评论按,生成对抗网络是一类功能强大、应用广泛的神经网络。它们基本上是由两个神经网络组成的系统——生成器和判别器,这两个网络相互制约。计算机视觉和人工智能的爱好者 Bharath Raj 近日发布以一篇博文,总结了生成对抗网络的原理、缺点和为了克服这些缺点所做的研究的最新进展。雷锋...

    文章 雷锋网 2019-02-06 210浏览量

  • 《深度学习导论及案例分析》-第1章 概述 1.1深度学习的起源和发展

     本节书摘来自华章出版社《深度学习导论及案例分析》-书中的第1章,第1.1节,作者李玉鑑  张婷,更多章节内容可以访问云栖社区“华章计算机”公众号查看 第1章 概述 如何让机器从经验中学习长期以来都是哲学界和科学界的研究目标之一。学习能力对人类智能的形成和发展无疑起着至关重要的作用,而机器学习的研...

    文章 华章计算机 2017-05-02 1367浏览量

  • 《深度学习导论及案例分析》一 第1章 概述1.1深度学习的起源和发展

      本节书摘来自华章出版社《深度学习导论及案例分析》一书中的第1章,第1.1节,作者李玉鑑  张婷,更多章节内容可以访问云栖社区“华章计算机”公众号查看。 第1章 概述 如何让机器从经验中学习长期以来都是哲学界和科学界的研究目标之一。学习能力对人类智能的形成和发展无疑起着至关重要的作用,而...

    文章 华章计算机 2017-05-02 2313浏览量

  • 独家 | 一文读懂深度学习

    Figure1. Deep learning导图   前言 深度学习(deep learning)的概念最早可以追溯到1940-1960年间的控制论(cybernetics),之后在1980-1990年间发展为连接主义(connectionism),第三次发展浪潮便是2006年由人工神经网络(A...

    文章 行者武松 2017-08-01 2168浏览量

  • 看穿机器学习(W-GAN模型)的黑箱

    图a. Principle of GAN. 前两天纽约暴雪,天地一片苍茫。今天元宵节,长岛依然清冷寂寥,正月十五闹花灯的喧嚣热闹已成为悠远的回忆。这学期,老顾在讲授一门研究生水平的数字几何课程,目前讲到了2016年和丘成桐先生、罗锋教授共同完成的一个几何定理【3】,这个工作给出了经典亚历山大定理...

    文章 小旋风柴进 2017-05-24 1587浏览量

  • 你会给想学习机器学习的软件工程师提出什么建议?

    本文讲的是你会给想学习机器学习的软件工程师提出什么建议?, 原文地址:What would be your advice to a software engineer who wants to learn machine learning? 原文作者:Alex Smola 译文出自:掘...

    文章 玄学酱 2017-10-16 728浏览量

  • 我从吴恩达深度学习课程中学到的21个心得:加拿大银行首席分析师“学霸“笔记分享

    今年8月,吴恩达的深度学习课程正式上线,并即刻吸引了众多深度学习粉丝的“顶礼膜拜”。一如吴恩达此前在Coursera上的机器学习课程,这几门深度学习课程也是好评如潮。 在诸多粉丝中,加拿大国家银行金融市场的首席分析师Ryan J. Shrott从前三门深度学习课程中总结出了21点心得,总结了该系列...

    文章 技术小能手 2017-12-07 3664浏览量

  • 语音对话系统的技术突破点在哪?深度解读人机交互的技术核心

    雷锋网按:本文来源公众号“极限元”,作者温正棋,极限元技术副总裁、中国科学院自动化研究所副研究员,中科院—极限元“智能交互联合实验室”主任。雷锋网(公众号:雷锋网)授权转载。 语音作为互联网的一种入口方式,正在侵入我们的生活,人机交互的核心——对话系统,对交互的应用至关重要,人脑与机器智能的结合,...

    文章 云栖大讲堂 2017-08-01 1671浏览量

  • 一文纵览自然语言生成的发展

    人们对人工智能的兴趣随着科幻电影的诞生和发展变得愈发浓厚。每当我们听到“人工智能”这个词,便会联想到《终结者》、《黑客帝国》、《我,机器人》等电影。 机器人具有独立思考的能力在目前看来还比较遥远,但机器学习和自然语言理解领域已经在过去几年取得了重大进展。个人助理(Siri/Alexa)、聊天...

    文章 【方向】 2019-03-23 1446浏览量

  • 条件生成对抗模型生成数字图片

    在上个数字识别的例子中,我们使用了一个简单的3层神经网络来识别给定图片的中的数字。 这次我们在上次的例子中在提升一下,这次我们选用条件生成对抗模型(Conditional Generative Adversarial Networks)来生成数字图片。 下面就让我们开始吧! 第一步:import ...

    文章 矩池云 2020-03-03 629浏览量

1 2 3 >

云产品推荐

上海奇点人才服务相关的云产品 小程序定制 上海微企信息技术相关的云产品 国内短信套餐包 ECS云服务器安全配置相关的云产品 开发者问答 阿里云建站 自然场景识别相关的云产品 万网 小程序开发制作 视频内容分析 视频集锦 代理记账服务