• 关于

    神经网络如何设置初始权重

    的搜索结果
  • 深度学习最佳实践系列——权重w初始化

           作为深度学习的初学者,我有意识到的一件事情,即网络上没有太多的在线文档能够涵盖所有深层次的学习技巧。都是一些比较零碎的实践技巧,比如权重初始化、正则化及循环学习率等,这些可以使得训练和调试神经网络变得更容易和更高效。本系列博客内容将尽可能多地介绍一些实践细节,以便你更容易实现深度学习...

    文章 【方向】 2018-06-25 3291浏览量

  • 告别深度学习炼丹术!谷歌大脑提出“权重无关”神经网络

    来源:新智元 作者:新智元 文章来源:微信公众号 数据派THU 本文约5600字,建议阅读10+分钟。 无需权重训练!谷歌再向深度学习炼丹术发起“攻击”。 [ 导读 ]神经网络训练中“权重”有多重要不言而喻。但现在,可以把权重抛诸脑后了。谷歌大脑最新研究提出“权重无关神经网络”,通过不再强调权...

    文章 初商 2019-08-26 832浏览量

  • 使用PyTorch从零开始构建Elman循环神经网络

    本文以最简单的RNNs模型为例:Elman循环神经网络,讲述循环神经网络的工作原理,即便是你没有太多循环神经网络(RNNs)的基础知识,也可以很容易的理解。为了让你更好的理解RNNs,我们使用Pytorch张量包和autograd库从头开始构建Elman循环神经网络。该文中完整代码在Github上...

    文章 【方向】 2018-03-29 2774浏览量

  • Andrew Ng机器学习课程笔记--week5(下)

    Neural Networks: Learning 内容较多,故分成上下两篇文章。 一、内容概要 Cost Function and Backpropagation Cost Function Backpropagation Algorithm Backpropagation Intuiti...

    文章 marsggbo 2017-08-25 611浏览量

  • 带你读《C#神经网络编程》之二:构建第一个神经网络

    点击查看第一章点击查看第三章 第2章 构建第一个神经网络现在我们已经快速地对神经网络进行了复习,这是一个好的起点,为了不让大家抓狂,我们先编写一个非常简单的神经网络。我们将为几个函数搭建基本框架,以便你更好地了解将要使用的许多API的背后详情。我们将从头到尾完整地开发一个神经网络应用程序,以便你熟...

    文章 温柔的养猫人 2019-11-12 1072浏览量

  • 使用python创建自己的第一个神经网络模型吧!

           神经网络(NN),也被称为人工神经网络(ANN),是机器学习领域中学习算法的子集,大体上借鉴了生物神经网络的概念。目前,神经网络在计算机视觉、自然语言处理等领域应用广泛。德国资深机器学习专家Andrey Bulezyuk说到,“神经网络正在彻底改变机器学习,因为它们能够有效地模拟各种...

    文章 【方向】 2018-10-03 6257浏览量

  • CNN超参数优化和可视化技巧详解

    本文来自AI新媒体量子位(QbitAI) 在深度学习中,有许多不同的深度网络结构,包括卷积神经网络(CNN或convnet)、长短期记忆网络(LSTM)和生成对抗网络(GAN)等。 在计算机视觉领域,对卷积神经网络(简称为CNN)的研究和应用都取得了显著的成果。CNN网络最初的诞生收到了动物视...

    文章 行者武松 2018-01-09 1802浏览量

  • 独家 | 一文读懂人工神经网络学习原理

    在之前的博客中,我们谈到了关于人工神经网络(ANN)的一些非常有趣的主题。其中介绍了人工神经网络的基本结构以及一些最常用的激活函数。然而,我们并未提及人工神经网络最重要的方面 ---- 学习。这种系统最大的威力在于,它们可以像人类一样,一旦在训练过程中熟悉了某种问题,随后便可以解决同类型的问题。在...

    文章 技术小能手 2018-02-06 2757浏览量

  • 深度学习的这些坑你都遇到过吗?神经网络 11 大常见陷阱及应对方法

    如果你的神经网络不工作,该怎么办?本文作者列举了搭建神经网络时可能遇到的11个常见问题,包括预处理数据、正则化、学习率、激活函数、网络权重设置等,并提供解决方法和原因解释,是深度学习实践的有用资料。 如果你的神经网络不工作,该怎么办?作者在这里列出了建神经网络时所有可能做错的事情,以及他自己的解决...

    文章 技术小能手 2017-09-07 14271浏览量

  • 深度学习的这些坑你都遇到过吗?神经网络 11 大常见陷阱及应对方法

    如果你的神经网络不工作,该怎么办?作者在这里列出了建神经网络时所有可能做错的事情,以及他自己的解决经验。 忘记规范化数据 忘记检查结果 忘记预处理数据 忘记使用正则化 使用的batch太大 使用了不正确的学习率 在最后层使用了错误的激活函数 你的网络包含了Bad Gradients 初始化网络权...

    文章 知与谁同 2017-08-01 1502浏览量

  • TensorFlow上手要点都总结在这儿了,你还有理由偷懒吗?

    Steven Dufresne:在90年代我开始写神经网络软件。TensorFlow开源后,一直十分渴望用它搭建一些有趣的东西。  谷歌的人工智能系统是现在的新热点。当TensorFlow可以被安装在树莓派上,操作变得非常容易。在上面我很快就搭建了一个二进制神经网络。这篇文章中,我将把经验分享给大...

    文章 玄学酱 2017-08-02 1443浏览量

  • 独家 | 一文读懂神经网络(附解读&案例)

    作者:Matthew Stewart 文章来源:微信公众号 数据派THU 翻译:车前子 校对:陈丹 ---- 本文的知识将提供一个强有力的基础,带你入门神经网络的性能,应用于深度学习应用。 “你的大脑并不产生思想。你的思想塑造了神经网络。”——Deepak Chopra 引文 J. Noceda...

    文章 初商 2019-08-28 1354浏览量

  • 机器学习研究人员需要了解的8个神经网络架构(下)

    上文讲述了机器学习的功能和神经网络的概念,以及简要介绍了感知器和卷积神经网络,接下来继续介绍另外6种神经网络架构。 3.递归神经网络 为了理解RNN,我们需要对序列建模进行简要概述。将机器学习应用于序列时,我们通常希望将输入序列转换为位于不同域中的输出序列; 例如,将一系列声压转换成一系列的单...

    文章 【方向】 2018-04-15 1317浏览量

  • 神经网络初学者指南:基于Scikit-Learn的Python模块

    编者按:这个帖子概述了使用 Scikit-learn 在 Python 中设置神经网络的方法,其最新版本现在已经内置支持神经网络模型。作者 Jose Portilla 是一名数据科学顾问和培训师,目前在 Udemy 上教授在线课程。 他也是Pierian Data Inc.数据科学部门的主管。雷锋...

    文章 青衫无名 2017-08-01 1590浏览量

  • 深度学习之优化详解:batch normalization

    认识上图这些人吗?这些人把自己叫做“The Myth Busters”,为什么?在他们的启发下,我们才会在Paperspace做类似的事情。我们要解决是Batch Normalization(BN)是否确实解决了Internal Covariate Shift的问题。虽然Batch Normali...

    文章 【方向】 2018-07-26 2335浏览量

  • 关于深度学习,这些知识点你需要了解一下

        深度学习概述 o    受限玻尔兹曼机和深度信念网络 o    Dropout o    处理不平衡的技巧 o    SMOTE:合成少数过采样技术 o    神经网络中对成本敏感的学习 深度学习概述 在2006年之前,训练深度监督前馈神经网络总是失败的,其主要原因都是导致过度拟合,即训练...

    文章 【方向】 2018-05-31 2928浏览量

  • 一文详解神经网络 BP 算法原理及 Python 实现

      什么是梯度下降和链式求导法则 假设我们有一个函数 J(w),如下图所示。 梯度下降示意图 现在,我们要求当 w 等于什么的时候,J(w) 能够取到最小值。从图中我们知道最小值在初始位置的左边,也就意味着如果想要使 J(w) 最小,w的值需要减小。而初始位置的切线的斜率a > 0(也即该...

    文章 玄学酱 2017-08-02 2208浏览量

  • 辨别真假数据科学家必备手册:深度学习45个基础问题(附答案)

    简介 早在2009年,深度学习还只是一个新兴领域,只有少数人认为它是一个多产的研究方向。今天,深度学习正在被用来开发那些过去被认为是不可能完成的应用。 语音识别,图像识别,数据中的模式识别,照片中的对象分类,字符文本生成,自动驾驶汽车等等只是其中几个示例。因此,熟悉深度学习及其概念显得尤为重要。...

    文章 小旋风柴进 2017-05-23 2519浏览量

  • 机器学习必知的八大神经网络架构

    为什么需要机器学习?   有些任务直接编码较为复杂,我们不能处理所有的细微之处和简单编码,因此,机器学习很有必要。相反,我们向机器学习算法提供大量数据,让算法不断探索数据并构建模型来解决问题。比如࿱...

    文章 【方向】 2018-01-13 6814浏览量

  • 深度学习中的Normalization模型(附实例&公式)

    本文以非常宏大和透彻的视角分析了深度学习中的多种Normalization模型,从一个新的数学视角分析了BN算法为什么有效。 [ 导读 ]不管是传统机器学习,还是当前火热的深度学习,Normalization技术都是能够提升算法性能的大杀器。本文以非常宏大和透彻的视角分析了深度学习中的多种No...

    文章 初商 2019-08-27 583浏览量

  • 带你走进神经网络的“前世今生”

    摘要:提起神经网络,你会想到什么?关于深度学习,你又是否思考过其中的原理呢?从上个世纪四十年代神经网络诞生开始,到今天已经历经70多年的发展,这中间它又经历了什么?本文将带领大家走进神经网络的“前世今生”一探究竟。 本次直播视频精彩回顾,戳这里! 演讲嘉宾简介: 孙飞(花名:丹丰),阿里巴巴...

    文章 青衫染烟雨 2018-03-21 4955浏览量

  • 一文读懂神经网络(附PPT、视频)

    演讲嘉宾简介: 孙飞(丹丰),阿里巴巴搜索事业部高级算法工程师。中科院计算所博士,博士期间主要研究方向为文本分布式表示,在SIGIR、ACL、EMNLP以及IJCAI等会议发表论文多篇。目前主要从事推荐系统以及文本生成相关方面研发工作。 以下内容根据演讲嘉宾视频分享以及PPT整理而成。 本次的...

    文章 技术小能手 2018-03-26 2941浏览量

  • 【翻译】Sklearn 与 TensorFlow 机器学习实用指南 —— 第10章 人工神经网络介绍(下)

    使用神经网络 现在神经网络被训练了,你可以用它进行预测。 为此,您可以重复使用相同的建模阶段,但是更改执行阶段,如下所示: with tf.Session() as sess: saver.restore(sess, "./my_model_final.ckpt") # or better...

    文章 技术小能手 2018-06-25 1331浏览量

  • 最全面的卷积神经网络介绍,都在这里了(附代码)

    作者:读芯术 文章来源:微信公众号 数据派THU 手把手教你使用卷积精神网络构建图像分类器。 图片来源:pexels.com 神经网络由具有权重和偏差的神经元组成。通过在训练过程中调整这些权重和偏差,以提出良好的学习模型。每个神经元接收一组输入,以某种方式处理它,然后输出一个值。如果构建一个具...

    文章 初商 2019-08-27 2064浏览量

  • 机器学习零基础?手把手教你用TensorFlow搭建图像识别系统(三)| 干货

    雷锋网按:本文是介绍用TensorFlow构建图像识别系统的第三部分。 在前两部分中,我们构建了一个softmax分类器来标记来自CIFAR-10数据集的图像,实现了约25-30%的精度。 因为有10个不同可能性的类别,所以我们预期的随机标记图像的精度为10%。25-30%的结果已经比随机标记...

    文章 云栖大讲堂 2017-08-01 2253浏览量

  • 干货 | 关于机器学习的知识点,全在这篇文章里了

    作者:尘恋 文章来源:微信公众号 数据派THU [ 导读 ]作者用超过1.2万字的篇幅,总结了自己学习机器学习过程中遇到知识点。“入门后,才知道机器学习的魅力与可怕。”希望正在阅读本文的你,也能在机器学习上学有所成。 准备 机器学习是什么,人工智能的子类,深度学习的父类。 机器学习:使计算机改...

    文章 初商 2019-08-29 2560浏览量

  • GAN入门教程 | 从0开始,手把手教你学会最火的神经网络

    本文来自AI新媒体量子位(QbitAI) 生成式对抗网络是20年来机器学习领域最酷的想法。   ——Yann LeCun 自从两年前蒙特利尔大学的Ian Goodfellow等人提出生成式对抗网络(Generative Adversarial Networks,GAN)的概念以来,GAN呈...

    文章 行者武松 2018-01-08 1762浏览量

  • 反向传播算法最全解读,机器学习进阶必看!

    目前网络上关于反向传播算法的教程已经很多,那我们还有必要再写一份教程吗?答案是‘需要’。 为什么这么说呢?我们教员Sanjeev最近要给本科生上一门人工智能的课,尽管网上有很多反向传播算法的教程,但他却找不到一份令他满意的教程,因此我们决定自己写一份关于反向传播算法的教程,介绍一下反向传播算法的历...

    文章 云栖大讲堂 2017-08-01 973浏览量

  • 手把手教你估算深度神经网络的最优学习率(附代码&教程)

    学习率如何影响训练? 深度学习模型通常由随机梯度下降算法进行训练。随机梯度下降算法有许多变形:例如 Adam、RMSProp、Adagrad 等等。这些算法都需要你设置学习率。学习率决定了在一个小批量(mini-batch)中权重在梯度方向要移动多远。 如果学习率很低,训练会变得更加可靠,但是优化...

    文章 技术小能手 2017-11-24 4668浏览量

  • 谷歌大脑开源TensorFuzz,自动Debug神经网络!

    【新智元导读】众所周知,神经网络难以debug。谷歌大脑的Augustus Odena和Ian Goodfellow提出了一种新方法,能够自动Debug神经网络。Goodfellow表示,希望这将成为涉及ML的复杂软件回归测试的基础,例如,在推出新版本的网络之前,使用fuzz来搜索新旧版本之间的差...

    文章 技术小能手 2018-08-02 1198浏览量

1 2 3 4 6 >

云产品推荐

上海奇点人才服务相关的云产品 小程序定制 上海微企信息技术相关的云产品 国内短信套餐包 ECS云服务器安全配置相关的云产品 开发者问答 阿里云建站 自然场景识别相关的云产品 万网 小程序开发制作 视频内容分析 视频集锦 代理记账服务 阿里云AIoT