• 关于

    神经网络梯度下降法

    的搜索结果
  • 神经网络算法性能分析

    训练神经网络的算法有成千上万个,最常用的有哪些,哪一个又最好?作者在本文中介绍了常见的五个算法,并从内存和速度上对它们进行对比。最后,他最推荐莱文贝格-马夸特算法。   用于神经网络中执行学习过程的程序被称为训练算法。训练算法有很多,各具不同的特征和性能。   问题界定   神经网络中的学习问题是...

    文章 武耀文 2016-11-09 860浏览量

  • 手写数字识别

    深度学习:一、感知器S型神经元sigmoid fuction:1/(1+exp(-z)) ![image](https://yqfile.alicdn.com/2e0144aba1df89e4ad5437e51aa21abc052025e5.png) 二、神经网路这是一个三层神经网络输入...

    文章 Yourjiebro 2018-05-01 1236浏览量

  • 一文看懂各种神经网络优化算法:从梯度下降到Adam方法

    本文来自AI新媒体量子位(QbitAI) 在调整模型更新权重和偏差参数的方式时,你是否考虑过哪种优化算法能使模型产生更好且更快的效果?应该用梯度下降,随机梯度下降,还是Adam方法? 这篇文章介绍了不同优化算法之间的主要区别,以及如何选择最佳的优化方法。 什么是优化算法? 优化算法的功能,是通...

    文章 行者武松 2018-01-08 729浏览量

  • 深度学习笔记6:神经网络优化算法之从SGD到Adam

    1 从前面的学习中,笔者带大家一起学会了如何手动搭建神经网络,以及神经网络的正则化等实用层面的内容。这些都使得我们能够更深入的理解神经网络的机制,而并不是初次接触深度学习就上手框架,虽然对外宣称神经网络是个黑箱机制,但是作为学习者我们极度有必要搞清楚算法在每个环节到底都干了些什么。 今天笔者需要讲...

    文章 技术小能手 2018-09-06 2474浏览量

  • 从零开始教你训练神经网络(附公式&学习资源)

    作者从神经网络简单的数学定义开始,沿着损失函数、激活函数和反向传播等方法进一步描述基本的优化算法。在理解这些基础后,本文详细描述了动量法等当前十分流行的学习算法。此外,本系列将在后面介绍 Adam 和遗传算法等其它重要的神经网络训练方法。 I. 简介 本文是作者关于如何「训练」神经网络的一部分经验...

    文章 技术小能手 2017-12-18 2550浏览量

  • 如何使用优化器让训练网络更快——神经网络的奥秘

    通过使用Numpy来创建神经网络,让我意识到有哪些因素影响着神经网络的性能。架构、超参数值、参数初始化,仅是其中的一部分,而这次我们将致力于对学习过程的速度有巨大影响的决策,以及所获得的预测的准确性—对优化策略的选择。我们会研究很多流行的优化器,研究它们的工作原理,并进行对比。 你在GitHub上...

    文章 【方向】 2018-11-26 1065浏览量

  • 这些深度学习术语,你了解多少?(下)

    这些深度学习术语,你了解多少?(上) 动量(Momentum) Momentum是Gradient Descent算法的扩展、可加速或抑制参数更新。 1、通过反向传播的错误来学习表征 多层感知器(MLP) 多层感知器是一种前馈神经网络,具有多个完全连接的层,使用非线性激活函数来处理不可线性分离的数...

    文章 【方向】 2018-10-26 1303浏览量

  • 神经网络为什么要归一化

    神经网络为什么要归一化   1.数值问题。        无容置疑,归一化的确可以避免一些不必要的数值问题。输入变量的数量级未致于会引起数值问题吧,但其实要引起也并不是那么困难。因为tansig的非线性区间大约在[-1.7,1.7]。意味着要使神经元有效,tansig( w1*x1 + w2*x2...

    文章 桃子红了呐 2017-11-09 2477浏览量

  • 【两项业界最佳】普林斯顿新算法自动生成高性能神经网络,同时超高效压缩

    神经网络的结构对其性能有极其重要的影响。目前主流的神经网络结构搜索法仍然是试凑法,该方法存在三大问题: 训练过程中神经网络结构是固定的,训练并不能改善结构 时间和计算消耗巨大 生成的网络通常很冗余,计算和存储成本过高 为了解决以上问题,普林斯顿大学研究人员仿照人类大脑的学习过程,提出了一...

    文章 技术小能手 2017-11-14 2998浏览量

  • 神经网络如何学习的?

    像下山一样,找到损失函数的最低点。 毫无疑问,神经网络是目前使用的最流行的机器学习技术。所以我认为了解神经网络如何学习是一件非常有意义的事。 为了能够理解神经网络是如何进行学习的,让我们先看看下面的图片: 如果我们把每一层的输入和输出值表示为向量,把权重表示为矩阵,把误差表示为向量,那么我们就...

    文章 xixibobo 2020-08-10 164浏览量

  • 神经网络如何学习的?

    像下山一样,找到损失函数的最低点。 毫无疑问,神经网络是目前使用的最流行的机器学习技术。所以我认为了解神经网络如何学习是一件非常有意义的事。 为了能够理解神经网络是如何进行学习的,让我们先看看下面的图片: 如果我们把每一层的输入和输出值表示为向量,把权重表示为矩阵,把误差表示为向量,那么我们就...

    文章 xixibobo 2020-09-18 347浏览量

  • 神经网络如何学习的?

    像下山一样,找到损失函数的最低点。 毫无疑问,神经网络是目前使用的最流行的机器学习技术。所以我认为了解神经网络如何学习是一件非常有意义的事。 为了能够理解神经网络是如何进行学习的,让我们先看看下面的图片: 如果我们把每一层的输入和输出值表示为向量,把权重表示为矩阵,把误差表示为向量,那么我们就...

    文章 xixibobo 2020-09-06 1049浏览量

  • 反向传播算法最全解读,机器学习进阶必看!

    目前网络上关于反向传播算法的教程已经很多,那我们还有必要再写一份教程吗?答案是‘需要’。 为什么这么说呢?我们教员Sanjeev最近要给本科生上一门人工智能的课,尽管网上有很多反向传播算法的教程,但他却找不到一份令他满意的教程,因此我们决定自己写一份关于反向传播算法的教程,介绍一下反向传播算法的历...

    文章 云栖大讲堂 2017-08-01 967浏览量

  • Machine Learning笔记——单变量线性回归

    学习者:阳光罗诺 来源:吴恩达 机器学习课程 在监督学习的问题中,预测房价属于一个例子对于一个监督学习,就需要有相对应的训练数据集,训练集(Training Set):主要用于建立模型在机器学习中,样本一般分成独立的三部分训练集(train set),验证集(validation set)和测试集...

    文章 Soler索莱尔HO 2018-11-27 976浏览量

  • 一名工程师对于深度学习的理解-神经网络基础ANN

    序 读书期间对于深度学习也有涉及,不过只是皮毛,在这个数据和算法的时代,也需要更加贴近算法。于是从一名工程师角度出发,希望通过几篇文章,将深度学习基础记录下来,同时也是对于自己学习的总结和积累。总体思路是ANN-CNN-DNN,中间想起来有什么忘记的,也会加番。 神经网络概述 这是一张典型的人...

    文章 doflamingo 2017-07-04 4240浏览量

  • 深度学习的关键术语

    深度学习已经成为编程界的一股潮流,因为其在许多领域取得了令人难以置信的成功,使其在研究和工业领域广受欢迎。那么到底什么是深度学习呢?深度学习是应用深层神经网络技术:即利用具有多个隐藏层的神经网络结构来解决问题的过程。深度学习是一个过程,如数据挖掘,它采用深度神经网络架构,它是特定类型的机器学习算法...

    文章 【方向】 2018-03-19 3074浏览量

  • 独家 | 一文读懂神经网络(附解读&案例)

    作者:Matthew Stewart 文章来源:微信公众号 数据派THU 翻译:车前子 校对:陈丹 ---- 本文的知识将提供一个强有力的基础,带你入门神经网络的性能,应用于深度学习应用。 “你的大脑并不产生思想。你的思想塑造了神经网络。”——Deepak Chopra 引文 J. Noceda...

    文章 初商 2019-08-28 1350浏览量

  • 带你读《基于浏览器的深度学习 》之一:深度学习

    智能系统与技术丛书 点击查看第二章点击查看第三章基于浏览器的深度学习 Deep Learning in the Browser [ 法 ] 泽维尔·布里(Xavier Bourry)  [ 美 ] 佐佐木凯(Kai Sasaki) [ 奥地利 ] 克里斯托夫·科纳( Christoph K.r...

    文章 温柔的养猫人 2019-11-12 397浏览量

  • 吴恩达导师Michael I.Jordan学术演讲:如何有效避开鞍点(视频+PPT)

    机器学习中,非凸优化中的一个核心问题是鞍点的逃逸问题。梯度下降法(GD,Gradient Descent)一般可以渐近地逃离鞍点,但是还有一个未解决的问题——效率,即梯度下降法是否可以加速逃离鞍点。 加州大学伯克利分校教授Michael I. Jordan(吴恩达的导师)就此做了研究,即,使用合理...

    文章 技术小能手 2018-03-06 3829浏览量

  • 这份深度学习课程笔记获吴恩达点赞

    深度学习基础 1. 深度学习基本概念 监督学习:所有输入数据都有确定的对应输出数据,在各种网络架构中,输入数据和输出数据的节点层都位于网络的两端,训练过程就是不断地调整它们之间的网络连接权重。 左上:列出了各种不同网络架构的监督学习,比如标准的神经网络(NN)可用于训练房子特征和房价之间的函数,...

    文章 技术小能手 2018-03-12 3042浏览量

  • 用Python 进行深度学习

    人脑模拟     深度学习背后的主要原因是人工智能应该从人脑中汲取灵感。此观点引出了“神经网络”这一术语。人脑中包含数十亿个神经元,它们之间有数万个连接。很多情况下,深度学习算法和人脑相似,因为人脑和深度学习模型都拥有大量的编译单元(神经元),这些编译单元(神经元)在独立的情况下都不太智能,但是当...

    文章 【方向】 2018-09-15 3995浏览量

  • 伯克利AI研究所:新型元学习法MAML的前世今生。

    雷锋网 AI科技评论按:伯克利AI研究所带来了他们的最新研究——未知模型元学习法(MAML)。它不会对模型的形式做任何假设,也没有为元学习引入额外的参数,极易应用于许多领域,包括分类、回归和强化学习。这种方法非常简单,并且优于已知的很多方法。 雷锋网(公众号:雷锋网) AI科技评论将其编译如下: ...

    文章 云栖大讲堂 2017-08-01 1226浏览量

  • 深度学习入门笔记系列 ( 四 )

    基于 tensorflow 的回归代码实现 本系列将分为 8 篇 。今天是第四篇 。总是理论有些枯燥 ,今天来动手基于 TF 框架实现两个简单的案例 ,以小搏大熟悉一下整个过程 。整体来说 ,训练神经网络分为 3 个步骤 : 定义神经网络的结构和前向传播的输出结果 定义损失函数以及选择反向传播优...

    文章 技术小能手 2018-08-01 1611浏览量

  • 从原理到代码,轻松深入逻辑回归模型!

    【导语】学习逻辑回归模型,今天的内容轻松带你从0到100!阿里巴巴达摩院算法专家、阿里巴巴技术发展专家、阿里巴巴数据架构师联合撰写,从技术原理、算法和工程实践3个维度系统展开,既适合零基础读者快速入门,又适合有基础读者理解其核心技术;写作方式上避开了艰涩的数学公式及其推导,深入浅出。 0、前言 简...

    文章 初商 2019-09-21 788浏览量

  • 神经网络基础知识笔记

    神经网络表示 神经元模型 神经网络从大脑的工作原理得到启发,可用于解决通用的学习问题。神经网络的基本组成单元是神经元(neuron)。每个神经元具有一个轴突和多个树突。每个连接到本神经元的树突都是一个输入,当所有输入树突的兴奋水平之和超过某一阈值,神经元就会被激活。激活的神经元会沿着其轴突发射信号...

    文章 墨航 2017-05-16 3784浏览量

  • 吴恩达《深度学习》第二门课(2)优化算法

    2.1Mini-batch梯度下降 (1)例如有500万个训练样本,这时可以每1000个组成一个Mini-batch,共用5000个Mini-batch。主要是为了加快训练。 (2)循环完所有的训练样本称为(1 epoch)。 (3)使用大括号X{t},Y{t}表示一个Mini-batch。(小括...

    文章 ysyouaremyall 2018-07-11 1047浏览量

  • 一文看尽深度学习RNN:为啥就它适合语音识别、NLP与机器翻译?

    [ 导读 ]本文是机器学习大牛Jason Brownlee系统介绍RNN的文章,他在文中详细对比了LSTM、GRU与NTM三大主流架构在深度学习上的工作原理及各自特性。读过本文,你就能轻松GET循环神经网络在语音识别、自然语言处理与机器翻译等当前技术挑战上脱颖而出的种种原因。 循环神经网络(RN...

    文章 行者武松 2017-09-01 1193浏览量

  • 手把手,74行代码实现手写数字识别

    1、 引言:不要站在岸上学游泳 “机器学习”是一个很实践的过程。就像刚开始学游泳,你在只在岸上比划一堆规定动作还不如先跳到水里熟悉水性学习来得快。以我们学习“机器学习”的经验来看,很多高大上的概念刚开始不懂也没关系,先写个东西来跑跑,有个感觉了之后再学习那些概念和理论就快多了。如果别人已经做好了...

    文章 小旋风柴进 2017-05-02 2170浏览量

  • 【深度森林第三弹】周志华等提出梯度提升决策树再胜DNN

    还记得周志华教授等人的“深度森林”论文吗?今天,ArXiv上公布了深度森林系列最新的第三弹——可做表示学习的多层GBDT。 在这篇题为“Multi-Layered Gradient Boosting Decision Trees”的论文中,作者冯霁、俞扬和周志华提出了一种新颖的具有显式表示学习能力...

    文章 技术小能手 2018-06-04 1095浏览量

  • 揭秘:深度网络背后的数学奥秘

    目前,我们可以使用像Keras、TensorFlow或PyTorch这些高级的、专业的库和框架而不需要一直担心权重矩阵的大小,也不需要记住决定使用的激活函数的导数公式。通常我们只需要构建一个神经网络,即使是一个结构非常复杂的神经网络,也只需要导入一些库和几行代码。这节省了我们找出bug的时间,并简...

    文章 【方向】 2018-10-28 1234浏览量

1 2 3 4 ... 8 >

云产品推荐

上海奇点人才服务相关的云产品 小程序定制 上海微企信息技术相关的云产品 国内短信套餐包 ECS云服务器安全配置相关的云产品 开发者问答 阿里云建站 自然场景识别相关的云产品 万网 小程序开发制作 视频内容分析 视频集锦 代理记账服务 阿里云AIoT