深度学习概述

简介: 1.简述 2. RNN rnn,Recurrent Neural Network,循环神经网络。在rnn中,神经元的输出可以在下一个时间戳直接作用到自身,即第i层神经元在m时刻的输入,除了(i-1)层神经元在该时刻的输出外,还包括其自身在(m-1)时刻的输出。 适用场景:自然语言处理、语音识别、手写体识别等。因为样本出现的时间顺序对于这三种应用非常重要。 3.LTSM LST

1.简述


2. RNN

rnn,Recurrent Neural Network,循环神经网络。

在rnn中,神经元的输出可以在下一个时间戳直接作用到自身,即第i层神经元在m时刻的输入,除了(i-1)层神经元在该时刻的输出外,还包括其自身在(m-1)时刻的输出。

适用场景:自然语言处理、语音识别、手写体识别等。因为样本出现的时间顺序对于这三种应用非常重要。

3.LTSM

LSTM,Long-Short Term Memory,长短期记忆(模型)。
根据深度学习三大牛的阐述,LSTM网络已被证明比传统的RNNs更加有效。
原生的RNN会遇到一个很大的问题,叫做 The vanishing gradient problem for RNNs,也就是后面时间的节点对于前面时间的节点感知力下降,也就是忘事儿。解决这个问题用到的就叫LSTM。
一个Cell由三个Gate(input、forget、output)和一个cell单元组成。

4.CNN

cnn,Convolutional Neural Network,卷积神经网络。
下层神经元和所有上层神经元都能够形成连接,带来的潜在问题是参数数量的膨胀。
对于CNN来说,并不是所有上下层神经元都能直接相连,而是通过“卷积核”作为中介。同一个卷积核在所有图像内是共享的,图像通过卷积操作后仍然保留原先的位置关系。
适用场景:计算机视觉问题。


目录
相关文章
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
【深度学习】深度学习的概述及应用,附带代码示例
深度学习(Deep Learning,简称DL)是机器学习领域中的一个重要分支,其目标是通过模拟人脑神经网络的工作机制,构建多层次的抽象特征表示,使机器能够自动从原始数据中提取关键信息,从而实现高精度的任务执行。深度学习通过多层神经网络结构及其训练方式,实现了从低级像素级别到高级概念级别的递进式知识层次。 深度学习的主要组件包括输入层、隐藏层和输出层。隐藏层的数量和层数决定了模型的复杂度和表达能力。在训练过程中,权重更新和梯度下降法是关键步骤,目的是最小化损失函数,提高预测精度。深度学习主要基于反向传播算法(BP Algorithm)来优化模型参数,通过正向传播、损失计算、反向传播和梯度下降等
71 8
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
【深度学习】AudioLM音频生成模型概述及应用场景,项目实践及案例分析
AudioLM(Audio Language Model)是一种基于深度学习的音频生成模型,它使用自回归或变分自回归的方法来生成连续的音频信号。这类模型通常建立在Transformer架构或者类似的序列到序列(Seq2Seq)框架上,通过学习大量音频数据中的统计规律,能够生成具有高保真度和创造性的音频片段。AudioLM模型不仅能够合成音乐、语音,还能生成自然界的声音、环境噪声等,其应用广泛,涵盖了娱乐、教育、辅助技术、内容创作等多个领域。
42 1
|
4月前
|
机器学习/深度学习 PyTorch TensorFlow
【TensorFlow】深度学习框架概述&TensorFlow环境配置
【1月更文挑战第26天】【TensorFlow】深度学习框架概述&TensorFlow环境配置
|
4月前
|
机器学习/深度学习 分布式计算 搜索推荐
深度学习入门:一篇概述深度学习的文章
深度学习入门:一篇概述深度学习的文章
|
机器学习/深度学习 TensorFlow 算法框架/工具
深度学习概述(二)
深度学习概述(二)
|
机器学习/深度学习 人工智能 算法
深度学习概述(一)
深度学习概述(一)
|
机器学习/深度学习 存储 算法
【深度学习之模型优化】模型剪枝、模型量化、知识蒸馏概述
【深度学习之模型优化】模型剪枝、模型量化、知识蒸馏概述
1252 0
【深度学习之模型优化】模型剪枝、模型量化、知识蒸馏概述
|
机器学习/深度学习 人工智能 资源调度
水很深的深度学习-Task01深度学习概述与数学基础
人工智能分类:强人工智能、弱人工智能、超级人工智能 机器学习分类:有监督学习、无监督学习、强化学习
127 0
水很深的深度学习-Task01深度学习概述与数学基础
|
机器学习/深度学习 传感器 算法
深度学习中的人体姿态估计概述
本文概述了多人姿态估计任务,重点介绍了深度学习中的一些多人姿态估计方法,并简要介绍了多人姿态估计的应用场景。
深度学习中的人体姿态估计概述
|
机器学习/深度学习 人工智能 算法
深度学习修炼(一)—— 概述
本文讲述了如何用pytorch的基本概念以及一些简单的操作
178 0