【pytorch深度学习实践】笔记—02.线性模型

本文涉及的产品
云原生网关 MSE Higress,422元/月
注册配置 MSE Nacos/ZooKeeper,118元/月
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
简介: 【pytorch深度学习实践】笔记—02.线性模型

需求背景

Suppose that students would get y points in final exam, if they spent x hours in paper PyTorch Tutorial.

The question is what would be the grade if I study 4 hours?

有一组数据,关系如下表所示。记录了班级同学课程学习时间x和取得分数y的关系,(即:某学生学习了X小时即可取得Y分数),题设是:若某学生学习了4小时,可以取得分数为多少分?


【分析】这道题数据比较简单,我们通过人工推理即可完成。我们可以一眼看出,x和y有如下关系:y=2x。所以,当x=4时,y的值为8。

但是但是但是!实际中,可能数据不会这么显而易见的被观察出y和x的关系,那该如何求解呢?

X Y 备注
1.0 2.0 训练集
2.0 4.0 训练集
3.0 6.0 训练集
4.0 ? 测试集

分析思路

【思路1:如何建模?】

1.先假设y和x存在某种关系(可以是线性的,如:y=kx+b,也可以是非线性的,如:y=ax²+bx+c),再把已知的三组数据带入求得预测的y值(y_pred),计算真实值y和预测值(y_pred)误差,误差最小的,说明假设的正确性越高。

2.通常假设y和x存在某种关系时,一定先从简单地线性模型下手,若线性模型解决不了再使用非线性模型。(先易后难)


【概念梳理】

①真实值y:上述例子中,y=2是x=1时的真实值;y=4是x=2时的真实值;y=6是x=3时的真实值。

②预测值y_pred:我们会假设y和x存在某种关系,如y=wx。那把x=1,x=2,x=3带入公式后,会求得相应的y(x=1)的值,y(x=2)的值,y(x=3)的值,此时y的值即预测值,用y_pred表示。


【思路2:如何确定模型是否正确?】

b09b9c7c0917a78e635987dc8219721e_watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzM4MDY4ODc2,size_16,color_FFFFFF,t_70#pic_center.png

1.根据三组数据得到的真实值曲线如图中红线所示。

2.我们假设y=wx(y和x存在线性关系),且先假设一个w的值,画出相应的图像(如蓝线所示),根据y_pred(x=i)和y(x=i)的差值来判断,我们假设的关系是否是正确的。定义loss=y_pred-y表示两点之间的距离。loss越小,说明预测值跟真实值越接近。(当loss0时,即y_pred-y=0时,预测值曲线和真实值曲线重合,可以理解为“完美预测”)

3.因为图像,y_pred可能在y的上方(y_pred>y),也可能在y的下方(y_pred<y)。所以我们用平方定义loss = (y_pred-y)²(用平方定义的好处是不需要去考虑正负号的问题)

4.我们在3的基础上,对loss进行进一步调整。因为对于每个w,我们把x=1,y=2;x=2,y=4;x=3、y=6这三组数据带入之后,会得到3个loss的值。我们对3个loss求均值作为cost损失。由此,每个w会对应唯一一个值,cost最终的形态为:

1.png

【概念梳理】

1.loss,称作损失,即为数学中的“误差”。loss越小,说明预测值和真实值越接近;loss越大,说明预测值偏离了真实值。

2.我们对loss取均值得到cost的方法,称之为MSE(均方误差/均方损失)。常用于衡量线性模型计算预测值和真实值之间的误差。

3.cost和loss区别:loss是单次损失;cost是对loss求均值之后得到的损失。


【思路3:如何预测w】

我们预测y和x之间存在线性关系,假设y=wx。确定了y和x采用的模型之后,需要对w的值进行预测,到底w取何值呢?该如何预测呢?

本实验中采用了最简单的预测方式:穷举。

把w在[1.0,4.0]之间的值依次取出进行预测,画出损失cost和w的图像,判断w取何值时,cost最小。


代码实践

1.准备数据集

根据题意,准备数据集

x_data = [1.0, 2.0, 3.0]
y_data = [2.0, 4.0, 6.0]

2.定义模型

使用最最最简单的线性模型y=wx来定义

def forward(x):
    return x * w

3.定义损失函数

loss=(y_pred-y)²

def loss(x, y):
    y_pred = forward(x)
    return (y_pred - y) * (y_pred - y)

4.训练模型(附整套代码)

import numpy as np  #numpy用于计算
import matplotlib.pyplot as plt  # matplotlib是绘制图像的包
# 定义训练集
x_data = [1.0, 2.0, 3.0]
y_data = [2.0, 4.0, 6.0]
# 定义模型
def forward(x):
    return x * w
# 定义损失函数,用MSE
def loss(x, y):
    y_pred = forward(x)
    return (y_pred - y) * (y_pred - y)
w_list = []  # 保存权重w
mse_list = []  # 保存每个w的损失值loss
for w in np.arange(0.0, 4.1, 0.1):  # 从0.0~4.1,设置步长为0.1,枚举w的值。即0.0,0.1,0.2,0.3,0.4,0.5……4.0
    # print('w=', w)
    l_sum = 0  # 计算每个w的loss损失总值(假设w=1,l_sum即为w=1时,x=1,x=2,x=3计算得到的损失总值)
    for x_val, y_val in zip(x_data, y_data):
        y_pred_val = forward(x_val)  # 对每个x_val计算对应y预测值
        loss_val = loss(x_val, y_val)
        l_sum += loss_val
        # print('\t', x_val, y_val, y_pred_val, loss_val)
    # print('MSE=', l_sum/3)
    w_list.append(w)
    mse_list.append(l_sum/3)  # 三组[x,y]数据,需要除以3
# 绘制w和LOSS图像
plt.plot(w_list, mse_list)
plt.ylabel('LOSS')
plt.xlabel('w')
plt.show()

5.展示绘制的图像(w-loss)

8a53e994944d67d2b33fd685ce62d6b4_watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L20wXzM4MDY4ODc2,size_16,color_FFFFFF,t_70#pic_center.png


6.预测

通过1-5步骤,根据图像我们可知:当w=2.0时,cost损失取最小值。说明当w=2.0时,预测值和真实值最接近,误差最小。

因为我们定义的线性模型为y=wx,所以根据上述训练我们得到w=2,所以y和x的关系为:y=2x。

当x=4时,y=8,完成题目的预测。即:当某同学学习4小时,预测得到的分数为8分。


相关实践学习
基于MSE实现微服务的全链路灰度
通过本场景的实验操作,您将了解并实现在线业务的微服务全链路灰度能力。
目录
相关文章
|
19天前
|
机器学习/深度学习 传感器 数据采集
深度学习在故障检测中的应用:从理论到实践
深度学习在故障检测中的应用:从理论到实践
92 5
|
22天前
|
机器学习/深度学习 人工智能 自然语言处理
揭秘人工智能:深度学习的奥秘与实践
在本文中,我们将深入浅出地探索深度学习的神秘面纱。从基础概念到实际应用,你将获得一份简明扼要的指南,助你理解并运用这一前沿技术。我们避开复杂的数学公式和冗长的论述,以直观的方式呈现深度学习的核心原理和应用实例。无论你是技术新手还是有经验的开发者,这篇文章都将为你打开一扇通往人工智能新世界的大门。
|
23天前
|
机器学习/深度学习 算法 TensorFlow
深度学习中的自编码器:从理论到实践
在这篇文章中,我们将深入探讨深度学习的一个重要分支——自编码器。自编码器是一种无监督学习算法,它可以学习数据的有效表示。我们将首先介绍自编码器的基本概念和工作原理,然后通过一个简单的Python代码示例来展示如何实现一个基本的自编码器。最后,我们将讨论自编码器的一些变体,如稀疏自编码器和降噪自编码器,以及它们在实际应用中的优势。
|
27天前
|
机器学习/深度学习 人工智能 自然语言处理
揭秘AI:深度学习的奥秘与实践
本文将深入浅出地探讨人工智能中的一个重要分支——深度学习。我们将从基础概念出发,逐步揭示深度学习的原理和工作机制。通过生动的比喻和实际代码示例,本文旨在帮助初学者理解并应用深度学习技术,开启AI之旅。
|
27天前
|
机器学习/深度学习 人工智能 自然语言处理
深入浅出深度学习:从理论到实践的探索之旅
在人工智能的璀璨星空中,深度学习如同一颗耀眼的新星,以其强大的数据处理能力引领着技术革新的浪潮。本文将带您走进深度学习的核心概念,揭示其背后的数学原理,并通过实际案例展示如何应用深度学习模型解决现实世界的问题。无论您是初学者还是有一定基础的开发者,这篇文章都将为您提供宝贵的知识和启发。
52 5
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
深度学习中的卷积神经网络(CNN): 从理论到实践
本文将深入浅出地介绍卷积神经网络(CNN)的工作原理,并带领读者通过一个简单的图像分类项目,实现从理论到代码的转变。我们将探索CNN如何识别和处理图像数据,并通过实例展示如何训练一个有效的CNN模型。无论你是深度学习领域的新手还是希望扩展你的技术栈,这篇文章都将为你提供宝贵的知识和技能。
176 7
|
1月前
|
机器学习/深度学习 自然语言处理 语音技术
深入探索深度学习中的兼容性函数:从原理到实践
深入探索深度学习中的兼容性函数:从原理到实践
38 3
|
22天前
|
机器学习/深度学习 存储 人工智能
探索深度学习的奥秘:从理论到实践的技术感悟
本文深入探讨了深度学习技术的核心原理、发展历程以及在实际应用中的体验与挑战。不同于常规摘要,本文旨在通过作者个人的技术实践经历,为读者揭示深度学习领域的复杂性与魅力,同时提供一些实用的技术见解和解决策略。
29 0
|
1月前
|
机器学习/深度学习 自然语言处理 算法
深度学习在图像识别中的应用及实践
本文将探讨深度学习在图像识别领域的应用,并分享一个使用Python和Keras库实现的简单代码示例。我们将介绍深度学习的原理、常用模型以及如何在实际应用中解决问题。通过阅读本文,您将了解深度学习在图像识别中的潜力,并学会如何构建一个简单的神经网络模型。
36 0
|
1月前
|
机器学习/深度学习 算法框架/工具 Python
深度学习的奥秘与实践:从理论到代码
本文将探索深度学习的世界,揭示其背后的原理,并分享如何将这些理论应用到实际编程中。我们将一起踏上一段旅程,从神经网络的基础概念出发,逐步深入到复杂的模型训练和优化技术。你将看到,即使是初学者,也可以实现自己的深度学习项目。