BOX-COX变换介绍

简介: BOX-COX变换介绍

前言


通常情况下,我们拿到的数据并不是正态分布的,为了满足经典线性模型的正态性假设,

常常需要使用

1、指数变换

2、对数转化

3、倒数转换

4、平方根后取倒数

5、平方根后再取反正弦

使其转换后的数据接近正态,Box-Cox变换可以使线性回归模型在满足线性、正态性、独立性以及方差齐性的同时,又不丢失信息。变换后有利于线性模型的拟合以及分析出特征的相关性。


一、BOX-COX变换的优点?


1、Box-Cox变换之后,可以一定程度上减小不可观测的误差和预测变量的相关性。

2、Box-Cox变换的主要特点是引入一个参数,通过数据本身估计该参数进而确定应采取的数据变换形式,Box-Cox变换可以明显地改善数据的正态性、对称性和方差相等性,对许多实际数据都是行之有效的。

3、Box-Cox变换即将数据转换为满足正态分布的数据


二、BOX-COX实战


注意:在做Box-Cox变换之前,需要对数据做归一化预处理。在归一化时,对数据进行合并操作可以使训练数据和测试数据一致。也可以分开对训练数据和测试数据进行归一化处理,不过这种方式建立在训练数据和测试数据分布一致的情况下,建议在数据量较大的情况下使用。

# 函数详解
# scipy.stats.boxcox(x, lmbda=None, alpha=None)
# x:输入数组
# 返回
# boxcox:Box-COx次方转换数组
# maxlog:找到的最佳变换参数,如果lmbda参数是None并且alpha不是None,这个返回的浮点数元组表示在给定alpha下最小和最大置信限制


实战分析

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
from scipy import stats
import warnings
# 注意,这里的V0特征值已经经过归一化处理。
dat = train_data_process[['V0', 'target']]
plt.figure(figsize=(10,10))
ax=plt.subplot(2,2,1)
sns.distplot(dat['V0'],fit=stats.norm)
ax=plt.subplot(2,2,2)
res = stats.probplot(dat['V0'], plot=plt)
# 这里为什么要加一??
# boxcox要求输入的数据是正值,这里的输入值一般是经过预处理后的,有一个固定的范围,如果存在非正值,则需要加上一个常数,保证输入值为正值。
trans_var, lambda_var = stats.boxcox(dat['V0'].dropna()+1)
print()
# scale_minmax: 自定义的归一化函数,资料显示还要这么处理,但是实际过程中发现加不加这一步影响不大。
trans_var = scale_minmax(trans_var)  
ax=plt.subplot(2,2,3)
sns.distplot(trans_var,fit=stats.norm)
ax=plt.subplot(2,2,4)
res = stats.probplot(trans_var, plot=plt)


输出:第一行是归一化之后,boxcox之前的数据分布,第二行是boxcox之后的数据分布。

1442e76a106c48c997b768cf258a2d1f.png


参考文章:

box-cox变换.

box-cox解读.

stats.boxcox()函数详解.

scipy.stats.boxcox.


总结


天又黑了,看起来要下雨的样子。

相关文章
|
网络协议 网络架构
计算机网络实验(华为eNSP模拟器)——第四章 配置静态路由、动态路由
计算机网络实验(华为eNSP模拟器)——第四章 配置静态路由、动态路由
计算机网络实验(华为eNSP模拟器)——第四章 配置静态路由、动态路由
|
9月前
|
人工智能 资源调度 自然语言处理
《探秘:人工智能算法与鸿蒙Next携手赋能元宇宙高并发用户交互》
在元宇宙的宏大蓝图中,高并发用户交互是实现沉浸式体验的关键。鸿蒙Next通过分布式架构、微内核优化、智能场景感知和ArkTS语言等技术,使人工智能算法能高效适配,实现计算资源的最优利用,支持大规模多人在线游戏、商务会议等场景下的流畅交互,推动元宇宙产业蓬勃发展。
180 17
anaconda下载安装,镜像源配置修改及虚拟环境的创建
这篇文章介绍了Anaconda的下载安装过程,包括Anaconda的简介、安装步骤、配置修改、创建虚拟环境以及一些常用命令的使用方法。文章还提供了如何修改conda的镜像源为国内镜像源以加速下载的步骤。
anaconda下载安装,镜像源配置修改及虚拟环境的创建
|
运维 Kubernetes Devops
阿里云云效操作报错合集之k8s直接返回401,该如何排查
本合集将整理呈现用户在使用过程中遇到的报错及其对应的解决办法,包括但不限于账户权限设置错误、项目配置不正确、代码提交冲突、构建任务执行失败、测试环境异常、需求流转阻塞等问题。阿里云云效是一站式企业级研发协同和DevOps平台,为企业提供从需求规划、开发、测试、发布到运维、运营的全流程端到端服务和工具支撑,致力于提升企业的研发效能和创新能力。
阿里云云效操作报错合集之k8s直接返回401,该如何排查
|
关系型数据库 MySQL Shell
深入了解Linux /etc/passwd文件
深入了解Linux /etc/passwd文件
739 0
|
C++ Windows
vs2019 This application failed to start because it could not find or load the QT platform plugin
这篇文章介绍了在VS2019中解决QT程序运行时出现的“无法找到或加载QT平台插件”错误的步骤,通过将必要的DLL文件和插件目录复制到项目解决方案中解决了问题。
|
机器学习/深度学习 Dart 索引
【掰开揉碎】lightgbm params 各参数含义
【掰开揉碎】lightgbm params 各参数含义
349 0
|
API 调度
【FreeRTOS】信号量的使用
【FreeRTOS】信号量的使用
227 0
Flutter笔记:Opacity、Offstage和Visibility可见性的比较
Flutter笔记:Opacity、Offstage和Visibility可见性的比较
642 0
|
监控 Java Sentinel
Spring Cloud Alibaba迁移指南(一):一行代码从 Hystrix 迁移到 Sentinel
本文对Hystrix、Resilience4j、Sentinel进行对比,并探讨如何使用一行代码这种极简的方式,将Hystrix迁移到Sentinel。 Hystrix 自从前段时间 宣布停止维护之后,社区推荐了 resilience4j。
11872 112