BOX-COX变换介绍

简介: BOX-COX变换介绍

前言


通常情况下,我们拿到的数据并不是正态分布的,为了满足经典线性模型的正态性假设,

常常需要使用

1、指数变换

2、对数转化

3、倒数转换

4、平方根后取倒数

5、平方根后再取反正弦

使其转换后的数据接近正态,Box-Cox变换可以使线性回归模型在满足线性、正态性、独立性以及方差齐性的同时,又不丢失信息。变换后有利于线性模型的拟合以及分析出特征的相关性。


一、BOX-COX变换的优点?


1、Box-Cox变换之后,可以一定程度上减小不可观测的误差和预测变量的相关性。

2、Box-Cox变换的主要特点是引入一个参数,通过数据本身估计该参数进而确定应采取的数据变换形式,Box-Cox变换可以明显地改善数据的正态性、对称性和方差相等性,对许多实际数据都是行之有效的。

3、Box-Cox变换即将数据转换为满足正态分布的数据


二、BOX-COX实战


注意:在做Box-Cox变换之前,需要对数据做归一化预处理。在归一化时,对数据进行合并操作可以使训练数据和测试数据一致。也可以分开对训练数据和测试数据进行归一化处理,不过这种方式建立在训练数据和测试数据分布一致的情况下,建议在数据量较大的情况下使用。

# 函数详解
# scipy.stats.boxcox(x, lmbda=None, alpha=None)
# x:输入数组
# 返回
# boxcox:Box-COx次方转换数组
# maxlog:找到的最佳变换参数,如果lmbda参数是None并且alpha不是None,这个返回的浮点数元组表示在给定alpha下最小和最大置信限制


实战分析

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
from scipy import stats
import warnings
# 注意,这里的V0特征值已经经过归一化处理。
dat = train_data_process[['V0', 'target']]
plt.figure(figsize=(10,10))
ax=plt.subplot(2,2,1)
sns.distplot(dat['V0'],fit=stats.norm)
ax=plt.subplot(2,2,2)
res = stats.probplot(dat['V0'], plot=plt)
# 这里为什么要加一??
# boxcox要求输入的数据是正值,这里的输入值一般是经过预处理后的,有一个固定的范围,如果存在非正值,则需要加上一个常数,保证输入值为正值。
trans_var, lambda_var = stats.boxcox(dat['V0'].dropna()+1)
print()
# scale_minmax: 自定义的归一化函数,资料显示还要这么处理,但是实际过程中发现加不加这一步影响不大。
trans_var = scale_minmax(trans_var)  
ax=plt.subplot(2,2,3)
sns.distplot(trans_var,fit=stats.norm)
ax=plt.subplot(2,2,4)
res = stats.probplot(trans_var, plot=plt)


输出:第一行是归一化之后,boxcox之前的数据分布,第二行是boxcox之后的数据分布。

1442e76a106c48c997b768cf258a2d1f.png


参考文章:

box-cox变换.

box-cox解读.

stats.boxcox()函数详解.

scipy.stats.boxcox.


总结


天又黑了,看起来要下雨的样子。

相关文章
|
8月前
|
计算机视觉
【YOLOv10改进-损失函数】Shape-IoU:考虑边框形状与尺度的指标
YOLO目标检测专栏探讨了边框回归损失的创新方法,强调了目标形状和尺度对结果的影响。提出的新方法Shape-IoU关注边框自身属性,通过聚焦形状和尺度提高回归精度。实验显示,该方法提升了检测效果,超越现有技术,在多个任务中达到SOTA。论文和代码已公开。
|
9月前
|
算法 Java 计算机视觉
图像处理之颜色梯度变化 (Color Gradient)
图像处理之颜色梯度变化 (Color Gradient)
107 0
|
9月前
|
算法 计算机视觉
图像处理之快速均值模糊(Box Blur)
图像处理之快速均值模糊(Box Blur)
71 0
|
10月前
|
数据可视化
R语言进行数据结构化转换:Box-Cox变换、“凸规则”变换方法
R语言进行数据结构化转换:Box-Cox变换、“凸规则”变换方法
|
数据挖掘
跟着 Cancer Cell 学作图 | 相关性热图(不对称版)
跟着 Cancer Cell 学作图 | 相关性热图(不对称版)
136 0
|
传感器 计算机视觉
CV学习笔记-相机模型(欧式变换及仿射变换)
CV学习笔记-相机模型(欧式变换及仿射变换)
625 0
CV学习笔记-相机模型(欧式变换及仿射变换)
|
Java 计算机视觉 iOS开发
python实现图形检测(绘制轮廓、轮廓拟合等)
python实现图形检测(绘制轮廓、轮廓拟合等)
296 0
python实现图形检测(绘制轮廓、轮廓拟合等)
|
算法
Halcon拟合系列(2)直线/圆/椭圆/矩形拟合算子fit_line_contour_xld/fit_circle_contour_xld/...
Halcon拟合系列(2)直线/圆/椭圆/矩形拟合算子fit_line_contour_xld/fit_circle_contour_xld/...
2347 0
|
Windows Python
Algorithm:实现LDA的Gibbs Gauss采样(绘制多图subplot)
Algorithm:实现LDA的Gibbs Gauss采样(绘制多图subplot)
Algorithm:实现LDA的Gibbs Gauss采样(绘制多图subplot)
|
前端开发 C# Windows
使用Cubic Spline通过一组2D点绘制平滑曲线
原文 Draw a smooth curve through a set of 2D points with Cubic Spline   I would like to provide you with the code to draw a smooth curve through a set of 2D points with cubic spline.
1238 0