《数据科学:R语言实现》——3.12 估计缺失数据

简介:

本节书摘来自华章计算机《数据科学:R语言实现》一书中的第3章,第3.12节,作者 丘祐玮(David Chiu),更多章节内容可以访问云栖社区“华章计算机”公众号查看。

3.12 估计缺失数据

之前的教程介绍了如何检测数据集中的缺失数值。尽管包含缺失值的数据并不完整,但是我们还是要采用启发式的方法来补全数据集。这里,我们会介绍一些技术来估计缺失值。

准备工作

按照3.3节“转换数据类型”教程,把导入数据的每个属性转换成合适的数据类型。同时按照3.2节“重命名数据变量”中的步骤,命名employees和salaries数据集的列名。

image

实现步骤

执行下列步骤,估计缺失值。

1.首先,我们设置emp_no为10001,抽取用户数据子集。
image

2.然后,我们故意把第8行的salary设置为缺失值:
image

3.第一个估计方法是,我们可以使用函数na.omit移除带有缺失值的记录:
image

4.另外,我们可以计算雇员10001的平均薪水:
image

5.然后,我们可以使用雇员10001的平均薪水来估计缺失值:
image

6.除了上述方法,我们可以使用mice程序包来估计数据:
image

7.下列步骤可以让我们使用函数mice来估计数据:
image

运行原理

估计缺失值的方法通常有3种:第1个是移除缺失值,第2个是执行平均值估计,最后一个是执行多重估计。在本教程中,我们使用了一个雇员的数据作为例子。首先我们设置emp_no为10001,抽取数据子集。然后我们专门把某个薪水值替换为NA缺失值。接着,我们使用其中一种估计方法进行缺失值估计。

首先,我们介绍了如何使用函数na.omit移除缺失值,它会自动地移除带有缺失值的记录。移除缺失值是直接而简单的做法,并且适合缺失值所占的比例很小的时候。相反,如果缺失值在数据集中占的比重较大,移除这些缺失值会使分析结果产生偏差,并导致错误结论。

其次,我们使用平均值来估计缺失值。我们首先使用函数mean,同时忽略缺失值(na.rm表明计算过程不会考虑缺失值),计算平均薪水。这种估计不会影响平均值的整体估计,但是可能会引起数据集标准差和平方误差的偏差,并进一步导致偏差估计。因此,这并不是一个值得推荐的方法。

第三,我们可以使用函数mice执行多重估计。这里我们首先安装加载mice程序包给R进程,然后从from_date和to_date属性中抽取整数年份。然后,考虑到雇员薪水每年都会增加,我们可以选择贝叶斯线性回归作为估计方法(通过给meth参数设置norm实现)来预测缺失值。最后我们使用函数complete获取完整数据。多重估计方法使用数据之间的关系来预测缺失值,并使用蒙特卡洛方法生成可能的缺失值。这是众多缺失值估计问题中最常见的手段。

更多技能

除了使用mice程序包预测数据集中的缺失值,我们还可以使用回归的方法来预测缺失值。

1.首先,保证test.emp的每一个属性都易于访问:
image

2.然后,拟合salary和from_date的回归曲线:
image

3.最后,我们可以预测缺失值的薪水值:
image

函数lm会生成一个salary对from_date的拟合回归曲线,我们可以使用这个拟合模型来预测1993年的可能薪水值。

相关文章
|
4月前
|
数据采集 机器学习/深度学习 数据可视化
R语言从数据到决策:R语言在商业分析中的实践
【9月更文挑战第1天】R语言在商业分析中的应用广泛而深入,从数据收集、预处理、分析到预测模型构建和决策支持,R语言都提供了强大的工具和功能。通过学习和掌握R语言在商业分析中的实践应用,我们可以更好地利用数据驱动企业决策,提升企业的竞争力和盈利能力。未来,随着大数据和人工智能技术的不断发展,R语言在商业分析领域的应用将更加广泛和深入,为企业带来更多的机遇和挑战。
|
4月前
R语言基于表格文件的数据绘制具有多个系列的柱状图与直方图
【9月更文挑战第9天】在R语言中,利用`ggplot2`包可绘制多系列柱状图与直方图。首先读取数据文件`data.csv`,加载`ggplot2`包后,使用`ggplot`函数指定轴与填充颜色,并通过`geom_bar`或`geom_histogram`绘图。参数如`stat`, `position`, `alpha`等可根据需要调整,实现不同系列的图表展示。
|
4月前
|
数据采集 数据可视化 数据挖掘
R语言在金融数据分析中的深度应用:探索数据背后的市场智慧
【9月更文挑战第1天】R语言在金融数据分析中展现出了强大的功能和广泛的应用前景。通过丰富的数据处理函数、强大的统计分析功能和优秀的可视化效果,R语言能够帮助金融机构深入挖掘数据价值,洞察市场动态。未来,随着金融数据的不断积累和技术的不断进步,R语言在金融数据分析中的应用将更加广泛和深入。
|
5月前
|
数据采集 机器学习/深度学习 数据挖掘
R语言数据清洗:高效处理缺失值与重复数据的策略
【8月更文挑战第29天】处理缺失值和重复数据是数据清洗中的基础而重要的步骤。在R语言中,我们拥有多种工具和方法来有效地应对这些问题。通过识别、删除或插补缺失值,以及删除重复数据,我们可以提高数据集的质量和可靠性,为后续的数据分析和建模工作打下坚实的基础。 需要注意的是,处理缺失值和重复数据时,我们应根据实际情况和数据特性选择合适的方法,并在处理过程中保持谨慎,以避免引入新的偏差或错误。
|
5月前
|
数据采集 存储 数据可视化
R语言时间序列分析:处理与建模时间序列数据的深度探索
【8月更文挑战第31天】R语言作为一款功能强大的数据分析工具,为处理时间序列数据提供了丰富的函数和包。从数据读取、预处理、建模到可视化,R语言都提供了灵活且强大的解决方案。然而,时间序列数据的处理和分析是一个复杂的过程,需要结合具体的应用场景和需求来选择合适的方法和模型。希望本文能为读者在R语言中进行时间序列分析提供一些有益的参考和启示。
|
3月前
|
数据挖掘 C语言 C++
R语言是一种强大的统计分析工具,提供了丰富的函数和包用于时间序列分析。
【10月更文挑战第21天】时间序列分析是一种重要的数据分析方法,广泛应用于经济学、金融学、气象学、生态学等领域。R语言是一种强大的统计分析工具,提供了丰富的函数和包用于时间序列分析。本文将介绍使用R语言进行时间序列分析的基本概念、方法和实例,帮助读者掌握R语言在时间序列分析中的应用。
66 3
|
8月前
|
数据可视化 数据挖掘 API
【R语言实战】聚类分析及可视化
【R语言实战】聚类分析及可视化
|
8月前
|
机器学习/深度学习 数据可视化
R语言逻辑回归logistic模型ROC曲线可视化分析2例:麻醉剂用量影响、汽车购买行为2
R语言逻辑回归logistic模型ROC曲线可视化分析2例:麻醉剂用量影响、汽车购买行为
|
5月前
|
机器学习/深度学习 数据采集 数据可视化
R语言在数据科学中的应用实例:探索与预测分析
【8月更文挑战第31天】通过上述实例,我们展示了R语言在数据科学中的强大应用。从数据准备、探索、预处理到建模与预测,R语言提供了完整的解决方案和丰富的工具集。当然,数据科学远不止于此,随着技术的不断发展和业务需求的不断变化,我们需要不断学习和探索新的方法和工具,以更好地应对挑战,挖掘数据的潜在价值。 未来,随着大数据和人工智能技术的普及,R语言在数据科学领域的应用将更加广泛和深入。我们期待看到更多创新的应用实例,为各行各业的发展注入新的动力。
|
5月前
|
资源调度 数据挖掘
R语言回归分析:线性回归模型的构建与评估
【8月更文挑战第31天】线性回归模型是统计分析中一种重要且实用的工具,能够帮助我们理解和预测自变量与因变量之间的线性关系。在R语言中,我们可以轻松地构建和评估线性回归模型,从而对数据背后的关系进行深入的探索和分析。