改进分析的五种鲜为人知的数据转换技术

简介: 改进分析的五种鲜为人知的数据转换技术

数据转换是通过某些计算或方法将数据转换为另一种值以更好地表示数据的过程。它通常用于满足某些统计测试假设或澄清数据可视化。有许多数据转换公式,但不是每转换都是一样、都能满足的需求。

一些流行的数据转换(比如正态转换和对数转换占据主导地位,因为它们很容易解释,并且在不牺牲太多信息的情况下实现转换目的。

本文将探讨五种鲜为人知的数据转换,它们有望改进分析。

1. Box-Cox转换

Box-Cox换是一种使数据严格遵循正态分布λ参数控制的技术。由于我们可以控制转换的参数,因此它比简单的对数转换灵活得多。

当我们的数据必须严格遵循正态分布或我们想要稳定数据方差时,通常使用Box-Cox转换。通过改变λ参数,转换器可以有多种转换形式。比如说λ = 1表示数据没有变化,λ = 0表示对数变换,而任何其他λ值都是对数据进行幂变换。

我们可以用下面的Python代码实现转换。

复制

import numpy as np
from scipy.stats import boxcox
data = np.random.exponential(scale=2, size=1000)
transformed_data = boxcox(data, lmbda = 0.5)• 1.
• 2.
• 3.
• 4.
• 5.
• 6.

一试各种λ,看看它是否适合的分析。

2. Yeo-Johnson转换

Box-Cox转换是一种出色的数据转换技术,因为我们可以控制转换量,但它有一个缺点:它只适用于正值。基于Box-Cox转换Yeo-Johnson转换可以处理负值。

Box-Cox转换一样,Yeo-Johnsonλ参数控制,可以根据的要求进行更改。此外,如果需要满足线性模型假设,它适用于改善数据正态性和均方差。

可以使用以下代码运用转换。

复制

import numpy as np
from scipy.stats import yeojohnson
data = np.random.normal(loc=0, scale=2, size=1000)
transformed_data = yeojohnson(data, lmbda = 0.5)• 1.
• 2.
• 3.
• 4.
• 5.

3. 秩转换

转换是一种非参数方法,它通过在数据排序时用数据秩替换数据对数据进行转换比如说,将最小的数据点转换1,下一个最小的数据点转换2,以此类推。它通常用于值比秩更不重要的情况。

当我们的数据有很多异常值,或者数据规模可以忽略时,秩转换很有用。这种转换可以降低异常值的影响,因为普遍的正态转换会受到异常值的影响。秩转换也常与参数统计检验结合使用。

我们可以用下面的Python代码进行秩转换

复制

from scipy.stats import rankdata
import numpy as np
data = np.random.normal(loc=0, scale=2, size=1000)
ranked_data = rankdata(data)• 1.
• 2.
• 3.
• 4.
• 5.
• 6.

4. 倒数转换

倒数转换是一种数据转换技术,将数据值替换倒数(1/x),其中x是可以自己决定的值。当处理倾斜的数据分布大多数数据值都很大时,它很有用。倒数转换会尽量减少大值的影响,以便数据集适用于任何后续方法。

这种转换适用于数据包含递减关系的情况,因为它可以帮助更线性地表示数据。然而,如果数据包含零或负值,倒数转换就不好了,因为这种转换不能正确地表示信息。

至于Python代码实现,可以使用以下代码

复制

import numpy as np
data = np.random.exponential(scale=2, size=1000) + 1
reciprocal_transformed_data = np.reciprocal(data)• 1.
• 2.
• 3.
• 4.

5. 分箱转换(离散化)

分箱转换或离散化是一种数据转换技术,它将连续的数据值分成一定的区间(分箱)。转换将数据值替换成分箱标签。用的转换技术将数据预处理具有秩的分类数据,有助于简化数据并降低噪声。

这种转换是有用的,特别是对于那些得益于分类输的技术,比如决策树。它对于处理数据异常值和尽量减小影响也很有用。然而必须正确地决定分箱区间,因为它可能影响数据转换。可以尝试遵循许多经验法则。比如说,Sturges规则表示分箱的数量=log(N) + 1,其中N是数据的数量。

对于使用Sturges 规则的分箱转换,可以使用以下Python代码

复制

import numpy as np
import pandas as pd
data = np.random.normal(loc=0, scale=1, size=1000)num_bins = int(np.ceil(np.log2(len(data)) + 1))
binned_data = pd.cut(data, bins=num_bins, labels=False)• 1.
• 2.
• 3.
• 4.

结论

数据转换是一种数据预处理技术,它将原始数据转换遵循某些计算的另一个值。数据转换在许多情况下都很有用,可以遵循特定的数据分布或更直观地获得洞察力。有许多用的数据转换,但鲜为人知因此本文探讨应该了解的五种转换技术。

相关文章
|
3天前
|
弹性计算 双11 开发者
阿里云ECS“99套餐”再升级!双11一站式满足全年算力需求
11月1日,阿里云弹性计算ECS双11活动全面开启,在延续火爆的云服务器“99套餐”外,CPU、GPU及容器等算力产品均迎来了全年最低价。同时,阿里云全新推出简捷版控制台ECS Lite及专属宝塔面板,大幅降低企业和开发者使用ECS云服务器门槛。
|
21天前
|
存储 弹性计算 人工智能
阿里云弹性计算_通用计算专场精华概览 | 2024云栖大会回顾
阿里云弹性计算产品线、存储产品线产品负责人Alex Chen(陈起鲲)及团队内多位专家,和中国电子技术标准化研究院云计算标准负责人陈行、北京望石智慧科技有限公司首席架构师王晓满两位嘉宾,一同带来了题为《通用计算新品发布与行业实践》的专场Session。本次专场内容包括阿里云弹性计算全新发布的产品家族、阿里云第 9 代 ECS 企业级实例、CIPU 2.0技术解读、E-HPC+超算融合、倚天云原生算力解析等内容,并发布了国内首个云超算国家标准。
阿里云弹性计算_通用计算专场精华概览 | 2024云栖大会回顾
|
3天前
|
人工智能 弹性计算 文字识别
基于阿里云文档智能和RAG快速构建企业"第二大脑"
在数字化转型的背景下,企业面临海量文档管理的挑战。传统的文档管理方式效率低下,难以满足业务需求。阿里云推出的文档智能(Document Mind)与检索增强生成(RAG)技术,通过自动化解析和智能检索,极大地提升了文档管理的效率和信息利用的价值。本文介绍了如何利用阿里云的解决方案,快速构建企业专属的“第二大脑”,助力企业在竞争中占据优势。
|
1天前
|
人工智能 自然语言处理 安全
创新不设限,灵码赋新能:通义灵码新功能深度评测
自从2023年通义灵码发布以来,这款基于阿里云通义大模型的AI编码助手迅速成为开发者心中的“明星产品”。它不仅为个人开发者提供强大支持,还帮助企业团队提升研发效率,推动软件开发行业的创新发展。本文将深入探讨通义灵码最新版本的三大新功能:@workspace、@terminal 和 #team docs,分享这些功能如何在实际工作中提高效率的具体案例。
|
7天前
|
负载均衡 算法 网络安全
阿里云WoSign SSL证书申请指南_沃通SSL技术文档
阿里云平台WoSign品牌SSL证书是由阿里云合作伙伴沃通CA提供,上线阿里云平台以来,成为阿里云平台热销的国产品牌证书产品,用户在阿里云平台https://www.aliyun.com/product/cas 可直接下单购买WoSign SSL证书,快捷部署到阿里云产品中。
1850 6
阿里云WoSign SSL证书申请指南_沃通SSL技术文档
|
10天前
|
Web App开发 算法 安全
什么是阿里云WoSign SSL证书?_沃通SSL技术文档
WoSign品牌SSL证书由阿里云平台SSL证书合作伙伴沃通CA提供,上线阿里云平台以来,成为阿里云平台热销的国产品牌证书产品。
1789 2
|
19天前
|
编解码 Java 程序员
写代码还有专业的编程显示器?
写代码已经十个年头了, 一直都是习惯直接用一台Mac电脑写代码 偶尔接一个显示器, 但是可能因为公司配的显示器不怎么样, 还要接转接头 搞得桌面杂乱无章,分辨率也低,感觉屏幕还是Mac自带的看着舒服
|
26天前
|
存储 人工智能 缓存
AI助理直击要害,从繁复中提炼精华——使用CDN加速访问OSS存储的图片
本案例介绍如何利用AI助理快速实现OSS存储的图片接入CDN,以加速图片访问。通过AI助理提炼关键操作步骤,避免在复杂文档中寻找解决方案。主要步骤包括开通CDN、添加加速域名、配置CNAME等。实测显示,接入CDN后图片加载时间显著缩短,验证了加速效果。此方法大幅提高了操作效率,降低了学习成本。
5386 15
|
13天前
|
人工智能 关系型数据库 Serverless
1024,致开发者们——希望和你一起用技术人独有的方式,庆祝你的主场
阿里云开发者社区推出“1024·云上见”程序员节专题活动,包括云上实操、开发者测评和征文三个分会场,提供14个实操活动、3个解决方案、3 个产品方案的测评及征文比赛,旨在帮助开发者提升技能、分享经验,共筑技术梦想。
1142 152
|
21天前
|
存储 缓存 关系型数据库
MySQL事务日志-Redo Log工作原理分析
事务的隔离性和原子性分别通过锁和事务日志实现,而持久性则依赖于事务日志中的`Redo Log`。在MySQL中,`Redo Log`确保已提交事务的数据能持久保存,即使系统崩溃也能通过重做日志恢复数据。其工作原理是记录数据在内存中的更改,待事务提交时写入磁盘。此外,`Redo Log`采用简单的物理日志格式和高效的顺序IO,确保快速提交。通过不同的落盘策略,可在性能和安全性之间做出权衡。
1585 14