逻辑回归|学习笔记

简介: 快速学习逻辑回归

开发者学堂课程【高校精品课-华东师范大学-人工智能基础:逻辑回归】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/920/detail/15591


逻辑回归

 

内容介绍:

一、逻辑回归

二、Sigmoid 函数

 

一、逻辑回归

之前介绍了一元线性回归和多元线性回归并使用线性回归对电影票房进行了预测,一元线性回归和多元线性回归都属于线性模型,本次将介绍一种非线性的回归算法——逻辑回归。

简单的线性相关问题使用线性回归可以将数据拟合成直线,有时人们只想知道该判定的数据点位于直线的上面还是下面、左侧还是右侧以便得到当前数据的归属或者是类型

针对这项任务介绍一种特殊的回归算法,逻辑回归能够完成分类任务,例如这里有一张信用评分图

image.png

按照现有的样本使用线性回归可以得到一条直线(图中红线)以纵轴的 Y=0.5信用好坏的分界点,直线取点。Y=0.5与直线的焦点为(14,0.5)落在横轴为14,可以理解为信用值高于14分的为好信用

image.png

现在增加两个样本,分别为 A(21,0.55)和 B(24,0.52),重新训练得到一条新的直线K值 变小,纵轴 Y=0.5与直线的交点在15.5,0.5),这时信用值高于15的才被判断为好信用。这样很多样本的判定结果都被改变了

 

二、Sigmoid 函数

为了解决上面的问题,可以在线性回归中引入一个 S 型函数即 Sigmoid也经常被称为逻辑函数。函数形式为h(x)=。其中x的取值范围是(-∞,+∞),而值域为(0,1)。左右都是开区间Sigmoid 函数曲线如下

image.png

它是 S 型函数,生成的图形为 S 形曲线,X=0的位置Y的值为0.5。右边向上曲线趋近于1,左边向下曲线趋近于0。逻辑回归在线性回归模型的基础上,通过引入 S 形函数,将线性回归的输出值映射到(0,1)范围。如果把0.5作为阈值,把结果转换为0或者1,能够完成两类问题的预测。

下面通过线性回归和 Sigmoid 函数推出逻辑回归方程

·首先,已知线性回归的表达式为:. y = W1X1+…十 WnXn + b

·将 y 代入 Sigmoid 公式:h(x)=image.png

·可以得到逻辑回归方程: h(y)=h(x)==

得到方程以后要对方程的参数进行确定,这个过程相对于线性回归方程的过程复杂一些,通常采用的方法是先设置一个目标值,然后再来调整参数,让最终结果逐渐逼近目标

本次介绍了逻辑回归函数的形式和作用。

相关文章
|
数据建模 Linux 数据库
简单实用的数据建模工具PDManer
PDManer是一款开源的国产数据建模工具
13758 1
简单实用的数据建模工具PDManer
|
物联网 Java Linux
Linux安装与配置Eclipse Paho库:实现MQTT通信
Eclipse Paho是一个开源的MQTT(Message Queuing Telemetry Transport)实现,提供了多种编程语言的客户端库,包括C、C++、Java、Python等。在Linux系统中,通过安装和配置Eclipse Paho库,我们可以方便地实现MQTT通信功能。本文将详细介绍在Linux系统中安装和配置Eclipse Paho库的步骤,以便于开发者在物联网项目中使用MQTT协议进行通信。
2297 0
|
NoSQL 数据安全/隐私保护 Android开发
Jlink使用技巧之读取STM32内部的程序
Jlink使用技巧之读取STM32内部的程序
2893 1
Jlink使用技巧之读取STM32内部的程序
|
9月前
|
机器学习/深度学习 数据挖掘 定位技术
多元线性回归:机器学习中的经典模型探讨
多元线性回归是统计学和机器学习中广泛应用的回归分析方法,通过分析多个自变量与因变量之间的关系,帮助理解和预测数据行为。本文深入探讨其理论背景、数学原理、模型构建及实际应用,涵盖房价预测、销售预测和医疗研究等领域。文章还讨论了多重共线性、过拟合等挑战,并展望了未来发展方向,如模型压缩与高效推理、跨模态学习和自监督学习。通过理解这些内容,读者可以更好地运用多元线性回归解决实际问题。
1104 0
|
8月前
|
人工智能 数据可视化 数据挖掘
工业零件不良率、残次率的智能数据分析和数字化管理
在传统工业领域,我们通过引入DataV-Note平台,成功实现了企业智能数据分析与数字化管理的初步目标。这一平台不仅显著提升了数据处理的效率和准确性,还为我们的日常运营提供了更加科学、直观的决策支持。然而,这只是智能化转型的第一步。展望未来,我们期望能够进一步深化技术应用,推动企业管理向更高层次的智能化方向迈进。通过持续优化数据分析能力、完善数字化管理体系,我们致力于将企业的运营模式从传统的经验驱动转变为数据驱动,从而全面提升管理效能和市场竞争力,为企业创造更大的长期价值
423 129
|
Linux 数据安全/隐私保护 网络虚拟化
centos7部署Pritunl
centos7部署Pritunl
|
Java Maven
ProtostuffUtil—快速序列化和反序列化对象工具
ProtostuffUtil—快速序列化和反序列化对象工具
312 0
|
JavaScript
VUE element-ui之table表格勾选复选框动态合计某列的值
VUE element-ui之table表格勾选复选框动态合计某列的值
925 0
VUE element-ui之table表格勾选复选框动态合计某列的值
|
存储 Linux 开发工具
深入了解Git LFS:高效管理大型文件的利器
Git LFS是Git的一个扩展,旨在更有效地处理大型文件。它通过将大文件存储在单独的位置,而在Git仓库中只保留引用和元数据,来减小仓库的体积。这使得Git仓库能够更快速地克隆、推送和拉取,同时有效地处理大型媒体文件、二进制文件等。
726 1
深入了解Git LFS:高效管理大型文件的利器
|
监控 算法 测试技术
【Go语言专栏】Go语言的性能优化与内存分析
【4月更文挑战第30天】本文探讨了Go语言的性能优化策略和内存分析方法。性能优化原则包括基准测试、分析瓶颈、避免过早优化和持续监控。优化策略涉及减少内存分配、避免内存逃逸、利用并发、优化算法和数据结构以及减少系统调用。内存分析借助于Go的`pprof`工具、内存分配跟踪和第三方工具,以发现内存泄漏和管理问题。通过这些方法,开发者能提升Go程序效率和资源利用率。
242 0