学习笔记 | 深度学习开发—TensorFlow实践(线性回归 tensorflow实战)

简介: 学习笔记 | 深度学习开发—TensorFlow实践(线性回归 tensorflow实战)

监督式机器学习


1.简单的线性回归案例

image.png


确定y=w*x+b这样的方程,其中w和b的值


2.术语:标签和特征

标签:是我们要预测的真实事物:y,线性回归中的y变量


特征:是指用于描述数据的输入变量:xi线性回归中的{x1,x2,x3,……,xn}变量


3.样本和模型

样本是指数据的特定实例:x


有标签样本具有{特征,标签}:{x,y}:用于训练模型


无标签样本具有{特征,?}:{x,?}:用于对新数据做出预测


模型可将样本映射到预测标签:y'


由模型的内部参数定义,这些内部参数值是通过学习得到的


4.训练

训练模型表示通过有标签样本来学习(确定)所有权重和偏差的理想值。


在监督学习中,机器学习算法通过以下方式构建模型:


检查多个样本并尝试找出最大限度地减少损失的模型,这一过程称为经验风险最小化。


5.损失

损失是对糟糕预测的惩罚:损失是一个数值,表示对于单个样本而言模型预测的准确程度


如果模型的预测完全准确,则损失为零,否则损失会较大训练模型的目标是从所有样本中找到一组平均损失“较小”的权重和偏差


image.png


6.定义损失函数

L1损失:基于模型预测的值与标签的实际值之差的绝对值


平方损失:一种常见的损失函数,又称为 L2 损失


均方误差 (MSE) 指的是每个样本的平均平方损失


image.png


以下曲线图中显示的两个数据集,哪个数据集的均方误差 (MSE) 较高?


image.png


答案:第二个比较高,损失大


模型训练与降低损失


1.训练模型的迭代方法

image.png


2.模型训练要点

首先对权重w和偏差b进行初始猜测


然后反复调整这些猜测


直到获得损失可能最低的权重和偏差为止


3.收敛

在学习优化过程中,机器学习系统将根据所有标签去重新评估所有特征,为损失函数生成一个新值,而该值又产生新的参数值。


通常,您可以不断迭代,直到总体损失不再变化或至少变化极其缓慢为止。这时候,我们可以说该模型已收敛


4.计算损失例子

该线性回归问题产生的损失与权重图为凸形


凸形问题只有一个最低点;即只存在一个斜率正好为 0 的位置,这个最小值就是损失函数收敛之处


image.png



梯度下降法

梯度:一个向量(矢量),表示某一函数在该点处的方向导数沿着该方向取得最大值,即函数在该点处沿着该方向(此梯度的方向)变化最快,变化率最大


image.png


image.png




梯度是矢量:具有方向和大小


image.png


沿着负梯度方向进行下一步探索


学习率


沿着负梯度方向进行下一步探索,前进多少合适呢?


用梯度乘以一个称为学习速率(有时也称为步长)的标量,


以确定下一个点的位置


例如:如果梯度大小为2.5,学习速率为0.01,则梯度下降法算法会选择距离前一个点0.025的位置作为下一个点


image.png


                       梯度学习速率过小             梯度学习速率过大


image.png

超参数

在机器学习中,超参数是在开始学习过程之前设置值的参数,而不是通过训练得到的参数数据。通常情况下,需要对超参数进行优化,选择一组好的超参数,可以提高学习的性能和效果超参数是编程人员在机器学习算法中用于调整的旋钮 典型超参数:学习率、神经网络的隐含层数量……


相关文章
|
2天前
|
机器学习/深度学习 TensorFlow 算法框架/工具
利用TensorFlow解决线性回归问题
【7月更文挑战第21天】利用TensorFlow解决线性回归问题。
13 2
|
8天前
|
机器学习/深度学习 数据采集 人工智能
探索深度学习的奥秘:从理论到实践
本文旨在为读者提供一个深入浅出的旅程,探索深度学习技术的核心概念、应用实例以及未来发展趋势。通过分析深度学习的理论基础和实际案例,本文揭示了如何将这一前沿技术应用于解决现实世界问题。
|
10天前
|
机器学习/深度学习 PyTorch TensorFlow
在深度学习中,数据增强是一种常用的技术,用于通过增加训练数据的多样性来提高模型的泛化能力。`albumentations`是一个强大的Python库,用于图像增强,支持多种图像变换操作,并且可以与深度学习框架(如PyTorch、TensorFlow等)无缝集成。
在深度学习中,数据增强是一种常用的技术,用于通过增加训练数据的多样性来提高模型的泛化能力。`albumentations`是一个强大的Python库,用于图像增强,支持多种图像变换操作,并且可以与深度学习框架(如PyTorch、TensorFlow等)无缝集成。
|
13天前
|
机器学习/深度学习 人工智能 自然语言处理
揭秘深度学习:从理论到实践的技术之旅
【7月更文挑战第10天】本文将深入探索深度学习的奥秘,从其理论基础讲起,穿越关键技术和算法的发展,直至应用案例的实现。我们将一窥深度学习如何变革数据处理、图像识别、自然语言处理等领域,并讨论当前面临的挑战与未来发展趋势。
|
17天前
|
机器学习/深度学习 搜索推荐 算法
深度学习在推荐系统中的应用:技术解析与实践
【7月更文挑战第6天】深度学习在推荐系统中的应用为推荐算法的发展带来了新的机遇和挑战。通过深入理解深度学习的技术原理和应用场景,并结合具体的实践案例,我们可以更好地构建高效、准确的推荐系统,为用户提供更加个性化的推荐服务。
|
20天前
|
机器学习/深度学习 人工智能 算法
【服装识别系统】图像识别+Python+人工智能+深度学习+算法模型+TensorFlow
服装识别系统,本系统作为图像识别方面的一个典型应用,使用Python作为主要编程语言,并通过TensorFlow搭建ResNet50卷积神经算法网络模型,通过对18种不同的服装('黑色连衣裙', '黑色衬衫', '黑色鞋子', '黑色短裤', '蓝色连衣裙', '蓝色衬衫', '蓝色鞋子', '蓝色短裤', '棕色鞋子', '棕色短裤', '绿色衬衫', '绿色鞋子', '绿色短裤', '红色连衣裙', '红色鞋子', '白色连衣裙', '白色鞋子', '白色短裤')数据集进行训练,最后得到一个识别精度较高的H5格式模型文件,然后基于Django搭建Web网页端可视化操作界面,实现用户在界面中
39 1
【服装识别系统】图像识别+Python+人工智能+深度学习+算法模型+TensorFlow
|
20天前
|
机器学习/深度学习 PyTorch TensorFlow
PAI DLC与其他深度学习框架如TensorFlow或PyTorch的异同
PAI DLC与其他深度学习框架如TensorFlow或PyTorch的异同
|
23天前
|
机器学习/深度学习 人工智能 算法
【乐器识别系统】图像识别+人工智能+深度学习+Python+TensorFlow+卷积神经网络+模型训练
乐器识别系统。使用Python为主要编程语言,基于人工智能框架库TensorFlow搭建ResNet50卷积神经网络算法,通过对30种乐器('迪吉里杜管', '铃鼓', '木琴', '手风琴', '阿尔卑斯号角', '风笛', '班卓琴', '邦戈鼓', '卡萨巴', '响板', '单簧管', '古钢琴', '手风琴(六角形)', '鼓', '扬琴', '长笛', '刮瓜', '吉他', '口琴', '竖琴', '沙槌', '陶笛', '钢琴', '萨克斯管', '锡塔尔琴', '钢鼓', '长号', '小号', '大号', '小提琴')的图像数据集进行训练,得到一个训练精度较高的模型,并将其
35 0
【乐器识别系统】图像识别+人工智能+深度学习+Python+TensorFlow+卷积神经网络+模型训练
|
5小时前
|
机器学习/深度学习 监控 自动驾驶
深度学习在图像识别中的应用与挑战
随着人工智能技术的飞速发展,深度学习已成为图像识别领域的核心技术。本文深入探讨了深度学习模型如卷积神经网络(CNN)和循环神经网络(RNN)在图像识别中的工作原理及应用案例,并分析了当前面临的挑战,如过拟合、数据偏差和计算资源限制等。文章旨在为读者提供深度学习在图像识别领域内的最新进展和未来趋势的全面视角。 【7月更文挑战第23天】
11 5
|
17小时前
|
机器学习/深度学习 人工智能 算法
深度学习在医疗影像分析中的应用与挑战
随着计算能力的提升和大数据时代的到来,深度学习技术已经渗透到医疗影像分析的各个领域。本文将探讨深度学习在医疗影像分析中的具体应用,包括疾病诊断、治疗规划及预后评估,并讨论当前面临的主要挑战,如数据隐私保护、模型可解释性以及算法泛化能力等。通过综合分析,旨在为读者提供深度学习技术在医疗领域应用的全面视角及其未来发展的可能性。