• 关于

    交叉熵损失函数

    的搜索结果
  • 干货|不同的损失函数会对深度神经网络带来什么样的影响?

    二次损失函数会在神经元犯了明显错误的情况下使得网络学习缓慢,而使用交叉熵损失函数则会在明显犯错的时候学的更快。 今天,我们主要来谈谈不同的损失函数会对深度神经网络带来什么样的影响?(可以参考英文文献:http://neuralnetworksanddeeplearning.com/inde...

    文章 行者武松 2018-03-05 1423浏览量

  • 深度学习都需要了解什么?无从下手的话,可以看看这份深度学习速查表

    初次接触深度学习时,大家可能会感到无从下手。这里有一些有关深度学习的技巧和要点可供大家参考。 这些都是什么? 在本篇文章,我们将介绍一些深度学习中的常见概念,以帮助大家快速了解这个神奇的领域。 梯度可视化。图中红色箭头为蓝色函数对应的梯度。 梯度∇ (Nabla) 梯度是一个函数的偏导数,...

    文章 【方向】 2016-12-31 5726浏览量

  • 带你读《TensorFlow机器学习实战指南(原书第2版)》之二:TensorFlow进阶

    点击查看第一章点击查看第三章 第2章 TensorFlow进阶本章将介绍如何使用TensorFlow的关键组件,并串联起来创建一个简单的分类器,评估输出结果。阅读本章你会学到以下知识点: 计算图中的操作 TensorFlow的嵌入Layer TensorFlow的多层Layer TensorFl...

    文章 温柔的养猫人 2019-11-17 119浏览量

  • Tensorflow系列专题(四):神经网络篇之前馈神经网络综述

    目录:  ●  神经网络前言 ●  神经网络 ●  感知机模型 ●  多层神经网络 ●  激活函数 ●  Logistic函数 ●  Tanh函数 ●  ReLu函数 ●  损失函数和输出单元 ●  损失函数的选择 ●  均方误差损失函数 ●  交叉熵损失函数 ●  输出单元的选择 ●  线性单...

    文章 技术小能手 2018-11-02 2248浏览量

  • 十九种损失函数,你能认识几个?

    19种损失函数 1. L1范数损失 L1Loss 计算 output 和 target 之差的绝对值。torch.nn.L1Loss(reduction='mean')参数:reduction-三个值,none: 不使用约简;mean:返回loss和的平均值;sum:返回loss的和。默认:mea...

    文章 初商 2019-09-03 636浏览量

  • GAN是一种特殊的损失函数?

    数据科学家Jeremy Howard在fast.ai的《生成对抗网络(GAN)》课程中曾经讲过这样一句话: “从本质上来说,生成对抗网络(GAN)是一种特殊的损失函数。” 你是否能够理解这句话的意思?读完本文,你会更好的理解这句话的含义。 神经网络的函数逼近理论 在数学中,我们可以将函数看做一个...

    文章 【方向】 2018-12-20 1948浏览量

  • 神经网络如何学习的?

    像下山一样,找到损失函数的最低点。 毫无疑问,神经网络是目前使用的最流行的机器学习技术。所以我认为了解神经网络如何学习是一件非常有意义的事。 为了能够理解神经网络是如何进行学习的,让我们先看看下面的图片: 如果我们把每一层的输入和输出值表示为向量,把权重表示为矩阵,把误差表示为向量,那么我们就...

    文章 xixibobo 2020-08-10 164浏览量

  • 神经网络如何学习的?

    像下山一样,找到损失函数的最低点。 毫无疑问,神经网络是目前使用的最流行的机器学习技术。所以我认为了解神经网络如何学习是一件非常有意义的事。 为了能够理解神经网络是如何进行学习的,让我们先看看下面的图片: 如果我们把每一层的输入和输出值表示为向量,把权重表示为矩阵,把误差表示为向量,那么我们就...

    文章 xixibobo 2020-09-06 1049浏览量

  • 神经网络如何学习的?

    像下山一样,找到损失函数的最低点。 毫无疑问,神经网络是目前使用的最流行的机器学习技术。所以我认为了解神经网络如何学习是一件非常有意义的事。 为了能够理解神经网络是如何进行学习的,让我们先看看下面的图片: 如果我们把每一层的输入和输出值表示为向量,把权重表示为矩阵,把误差表示为向量,那么我们就...

    文章 xixibobo 2020-09-18 347浏览量

  • Yann LeCun的“层级损失函数”:牧羊犬和摩天大楼,哪个更像哈巴狗?

    近期Yann LeCun的新作《Hierarchical loss for classification》已经放在了arXiv上,联合作者为Facebook人工智能研究院的Cinna Wu和 Mark Tygert。 在这篇文章中,作者认为在分类任务中,一般的神经网络模型(例如LeCun, Be...

    文章 玄学酱 2017-10-24 954浏览量

  • Cross Entropy Loss 交叉熵损失函数公式推导

    表达式 输出标签表示为{0,1}时,损失函数表达式为: $L = -[y log \hat{y} + (1-y)log(1- \hat{y})]$ 二分类 二分类问题,假设 y∈{0,1} 正例:$P(y = 1| x) = \hat{y}$ 公式1 反例:$P(y=0|x) = 1-\hat...

    文章 revolution2u 2018-11-12 12807浏览量

  • 机器学习---损失函数总结

    机器学习作为一种优化方法,最重要的一点是找到优化的目标函数——损失函数和正则项的组合;有了目标函数的“正确的打开方式”,才能通过合适的机器学习算法求解优化。通俗来讲Loss函数是一种关于fitness的测度(关于数据是否合适模型的匹配度),或者是对于预测是否准确的一种判断,如果预测和判断没有错误,...

    文章 武耀文 2018-04-25 1738浏览量

  • [译] Scratch 平台的神经网络实现(R 语言)

    本文讲的是[译] Scratch 平台的神经网络实现(R 语言), 原文地址:Neural Networks from Scratch (in R) 原文作者:Ilia Karmanov 译文出自:掘金翻译计划 本文永久链接:github.com/xitu/gold-m… 译者:C...

    文章 玄学酱 2017-10-16 1105浏览量

  • 【数据分析】从零开始带你了解商业数据分析模型——深度学习之多层感知器(下)

    从上一个章节的介绍中,我们主要了解深度学习(特指多层感知器)的一些基本情况,以及它背后复杂的计算过程。 参数学习的每一次迭代,都会消耗巨大的运算资源和时间。因此本篇我们来谈谈如何选择合适的超参数来加速模型的学习过程。 **1 多层感知器的建模优化** 在机器学习的上下文中,模型超参数指的是在建模...

    文章 刺客信条lalala 2020-08-14 88浏览量

  • 常见回归和分类损失函数比较

    代码 损失函数的一般表示为\(L(y,f(x))\),用以衡量真实值\(y\)和预测值\(f(x)\)之间不一致的程度,一般越小越好。为了便于不同损失函数的比较,常将其表示为单变量的函数,在回归问题中这个变量为\(y-f(x)\),在分类问题中则为\(yf(x)\)。下面分别进行讨论。 回归问...

    文章 massquantity 2018-04-27 846浏览量

  • 深度学习基础知识,你想了解的都在这了

    小叽导读:昨天的文章《10种传统机器学习算法,阿里工程师帮你总结了》我们介绍了传统机器学习算法,今天,我们带来深度学习基础知识和深度学习的14种推荐算法介绍,两篇文章结合起来就是对业界主流推荐算法的一些总结,希望能增加大家对主流推荐算法底层实现的了解。 1.深度学习基础知识介绍 本章会介绍各自常...

    文章 初商 2019-08-15 640浏览量

  • BP 神经网络算法

    sigmoid函数: x的值可能为[−∞,+∞],为了方便处理,需要将其压缩到一个合理的范围,还需 这样的激励函数,能够将刚才的区间压缩到[0,1]。 sigmoid 是使用范围最广的一类激活函数,具有指数函数形状,它在物理意义上最为接近生物神经元。此外,(0, 1) 的输出还可以被...

    文章 程序员诗人 2018-05-31 903浏览量

  • 归一化(softmax)、信息熵、交叉熵

    机器学习中经常遇到这几个概念,用大白话解释一下: 一、归一化 把几个数量级不同的数据,放在一起比较(或者画在一个数轴上),比如:一条河的长度几千甚至上万km,与一个人的高度1.7m,放在一起,人的高度几乎可以被忽略,所以为了方便比较,缩小他们的差距,但又能看出二者的大小关系,可以找一个方法进行转换...

    文章 杨俊明 2017-11-15 2367浏览量

  • 深度学习笔记1:利用numpy从零搭建一个神经网络

    很多人说深度学习就是个黑箱子,把图像预处理之后丢进 tensorflow 就能出来预测结果,简单有效又省时省力。但正如我在上一篇推送中所说,如果你已是一名功力纯厚的深度学习工程师,这么做当然没问题。但我想大多数人也和我一样,都是走在学习深度学习的路上,一上来就上框架并没有什么特别不妥之处,但总归是...

    文章 技术小能手 2018-08-28 1668浏览量

  • 带你读《基于浏览器的深度学习 》之一:深度学习

    智能系统与技术丛书 点击查看第二章点击查看第三章基于浏览器的深度学习 Deep Learning in the Browser [ 法 ] 泽维尔·布里(Xavier Bourry)  [ 美 ] 佐佐木凯(Kai Sasaki) [ 奥地利 ] 克里斯托夫·科纳( Christoph K.r...

    文章 温柔的养猫人 2019-11-12 397浏览量

  • 用语义分割突破边界框

    我们应该如何描述一个场景?我们可以说窗户下面有一张桌子,或者沙发右边有一盏灯。理解图像的关键就是:将场景分解成一个个单独的实体,这也有助于我们理解对象的行为。 对象检测有助于绘制某些实体周围的边界框。但人类想要对场景有真正的理解,还需要能够以像素级精度对每个实体的边界进行检测和标记。随着我们开始构...

    文章 【方向】 2018-05-24 2226浏览量

  • 神经网络算法性能分析

    训练神经网络的算法有成千上万个,最常用的有哪些,哪一个又最好?作者在本文中介绍了常见的五个算法,并从内存和速度上对它们进行对比。最后,他最推荐莱文贝格-马夸特算法。   用于神经网络中执行学习过程的程序被称为训练算法。训练算法有很多,各具不同的特征和性能。   问题界定   神经网络中的学习问题是...

    文章 武耀文 2016-11-09 860浏览量

  • 完整复现何恺明ICCV获奖论文结果并开源 !(附论文&开源代码)

    ICCV 作为计算机视觉的顶级会议,2017年共收到2143篇论文投稿,比上一届ICCV2015的1698篇增加了26.2%。共621篇被选为大会论文,录用比例28.9%;poster、spotlight、oral 比例分别为24.61%、2.61%和2.09%。组委会根据作者署名统计了不同大学的...

    文章 技术小能手 2017-10-27 5794浏览量

  • Ian Goodfellow:生成对抗网络 GAN 的公式是怎样推导出来的

    昨天,谷歌大脑研究科学家、《深度学习》的作者之一Ian Goodfellow在Twitter推荐了他最喜欢的两个机器学习“黑魔法”(Theory Hack)。Ian Goodfellow还是生成对抗网络GAN的提出者,利用这两个技巧,他在著名的GAN论文中推导了一个公式。 很多时候,我们想用代数...

    文章 技术小能手 2018-05-17 1084浏览量

  • 云从科技刷新一项语音识别纪录:将 Librispeech 数据集上的错词率降至 2.97%

    云从科技 +4 AI影响因子 活动 企业:云从科技 操作:刷新记录 事项:云从科技刷新一项语音识别纪录 雷锋网(公众号:雷锋网) AI 科技评论按:10 月 29 日,云从科技宣布在全球最大的开源语音识别数据集 Librispeech 上,将错词率(Worderr...

    文章 雷锋网 2018-11-15 158浏览量

  • EM算法是炼金术吗?

    人工智能很火,人工智能大神很火。大神们的神器是什么?有人说找到了,就是EM算法。 请看这篇: EM算法的九层境界:Hinton和Jordan理解的EM算法 但是最近网上引人关注的另一传闻是,一位人工智能论文获奖者在获奖感言中说深度学习方法是炼金术,从而引起大神家族成员反驳。报道见:NIPS机器学习...

    文章 技术小能手 2017-12-22 1776浏览量

  • 神经支持决策树(NBDT)算法研究

    闲鱼技术-渐漓 背景 在闲鱼的很多业务场景中有大量需要利用算法进行分类的需求,例如图片分类、组件识别、商品分层、纠纷类别预测等。这些场景往往需要模型识别出的结果具备可解释性,也就是识别不能只得到其类别,最好能在识别过程中同时解释类别的层级和来源。如何进行有解释的图片分类成为了项目研发中的一个需求,...

    文章 闲鱼技术 2020-06-04 712浏览量

  • 揭秘:深度网络背后的数学奥秘

    目前,我们可以使用像Keras、TensorFlow或PyTorch这些高级的、专业的库和框架而不需要一直担心权重矩阵的大小,也不需要记住决定使用的激活函数的导数公式。通常我们只需要构建一个神经网络,即使是一个结构非常复杂的神经网络,也只需要导入一些库和几行代码。这节省了我们找出bug的时间,并简...

    文章 【方向】 2018-10-28 1234浏览量

  • 码农の带娃绝技:TensorFlow+传感器,200美元自制猜拳手套

    本文来自AI新媒体量子位(QbitAI) 你们程序员啊,连带娃都这么技术流…… 今年夏天,谷歌云负责维护开发者关系的Kaz Sato带着他的儿子,用一些传感器和一个简单的机器学习线性模型,开发了一个“猜拳机器”,能检测石头剪刀布的手势。 最近他还还根据这个过程写了一份教程,详细介绍了怎样构建这...

    文章 行者武松 2018-01-02 4908浏览量

  • 如何使用PyTorch实现面向NLP的深度学习?

    深度学习构建块:映射,非线性和目标 深度学习包括以巧妙的方式组合具有非线性的线性。非线性的引入允许强大的模型。在本节中,我们将使用这些核心组件,组成一个目标函数,并查看模型是如何训练的。 映射 深度学习的一个工作核心就是映射,他是函数f(x),定义为:f(x) = Ax + b ,对于一个矩阵A和...

    文章 初商 2019-08-04 374浏览量

1 2 3 4 ... 7 >

云产品推荐

上海奇点人才服务相关的云产品 小程序定制 上海微企信息技术相关的云产品 国内短信套餐包 ECS云服务器安全配置相关的云产品 开发者问答 阿里云建站 自然场景识别相关的云产品 万网 小程序开发制作 视频内容分析 视频集锦 代理记账服务 阿里云AIoT