数据处理|R-dplyr

简介: 数据处理|R-dplyr

dplyr包实现数据的清洗处理,包括数据整合、关联、排序、筛选、汇总、分组等。


1)安装、加载dplyr包、准备数据

install.packages("dplyr") #加载dplyr包
library(dplyr)  #载入dplyr包

使用dplyr包处理数据前,建议先将数据集转换为tbl对象

data(iris)  #本文使用iris示例数据集。
class(iris)  #简单查看数据集
head(iris) 
iris<-tbl_df(iris)    #转化tbl对象

2)数据记录筛选(行筛选)

filter函数:按指定条件筛选符合条件中逻辑判断要求的数据记录。

filter(iris, Sepal.Length == 7)

Q:筛选花萼长大于7,花萼宽带大于等于3的数据?

filter(iris, Sepal.Length > 7 & Sepal.Width>3.0)

Q:筛选出Species 为setosa或virginica的行

filter(iris,Species %in% c("setosa","virginica"))

3)变量筛选(列)

select函数:可以通过指定列名选择指定的变量进行分析,得到的为选择的列。

select(iris,Sepal.Width,Petal.Length,Species)

其他特殊选择,可匹配:

select(iris,contains("." )) #选取名称中含有字符的列
select(iris,ends_with("Length")) #选取名称以指定字符串结尾的列
select(iris,starts_with("Sepal")) #选取名称以指定字符串为开头的列
select(iris,Sepal.Length:Petal.Width) #选取在Sepal.Length和Petal.Width之间的所有列(包含Sepal.Length和Petal.Width)
select(iris,-Species) #选取除Species以外的所有列
Select(iris,……)

区别:Filter&Select

Filter:通过一些准则选择观测值(行)

Select:通过名字来选择变量(列)

更名变量名: Select  &  Rename

head(select(iris,Sepal.W=Sepal.Width)) #只会保留选择的变量
head(rename(iris,Sepal.W=Sepal.Width)) #保留所有变量,可以用来改名

4)数据排序(重要,大小,去除异常值)

arrange函数按给定的列名进行排序,默认为升序排列,也可以对列名加desc()进行降序排序。

arrange(iris,Sepal.Length) # 将数据按照Sepal.Length升序排序
Q:将数据Sepal.Length先升序,后Sepal.Width降序排序:
arrange(iris,Sepal.Length,desc(Sepal.Width))

5)变量变换/重构

mulate()函数可以数据拓展,也可以在保留原变量的基础上增加变量,进行数据处理。

mutate(iris,sepal = Sepal.Length + Sepal.Width)

transmute()函数在扩展新变量的时候,会删除所有原始变量

transmute(iris,sepal = Sepal.Length + Sepal. Width) #计算一个或多个新列并删除原列

6)数据汇总

summarize()函数实现数据集聚合操作,将多个值汇总成一个值

summarise(iris,avg = mean(Sepal.Length))

利用概述函数概括数据,输入数值向量而返回单一数值:

first 向量的第一个值。

last 向量的最后一个值。

IQR 向量的IQR(四分位距) 。

Min ;Max Mean ;Median ;Var ;Sd等

summarise(iris, max(Petal.Width), first(Sepal.Width)) #返回数据框中变量的最大值及第一四分位值

7)数据分组

group_by函数对数据进行分组后,结合summarize函数,可以对分组数据进行汇总统计。

Q:按品种分组,分别计算花萼宽度的均方差

summarise(group_by(iris,Species),sd=sd(Petal.Width))

8)连接操作符

dplyr包里还新引进了一个操作符,%>%, 使用时把数据集名作为开头, 然后依次对此数据进行多步操作。

iris %>%group_by(Species) %>% summarise(sd=sd(Petal.Width)) #iris数据集,按Species分组,汇总Petal.Width的sd值,
iris %>%group_by(Species) %>% mutate(sepal = Sepal.Length + Sepal.Width)

9)抽样

sample_n()随机抽取指定数目的样本,sample_frac()随机抽取指定百分比的样本,默认都为不放回抽样,通过设置replacement =TRUE可改为放回抽样,可以用于实现Bootstrap抽样。

sample_n(mtcars, 50, replace = TRUE) #随机有重复的取50行数
sample_frac(mtcars, 0.1, weight = 1 / mpg) #随机无重复的以1/mpg值做权重取10%的数据

10)数据联结

dplyr包也提供了数据集的连接操作,如左连接、右连接、内连接等:

inner_join(x,y,by = NULL)  #内连接,合并数据仅保留匹配的记录
 left_join(x,y,by = NULL)  #左连接,向数据集x中加入匹配的数据集y记
 right_join(x,y,by = NULL)   #右连接,向数据集y中加入匹配的数据集x记录
 full_join(x,y,by = NULL) #全连接,合并数据保留所有记录,所有行
 semi_join(x,y,by = NULL) #返回能够与y表匹配的x表所有记录
 anti_join(x,y, by = NULL)  #返回无法与y表匹配的x表的所有记录

by设置两个数据集用于匹配的字段名,默认使用全部同名字段进行匹配,如果两个数据集需要匹配的字段名不同,可以直接用等号指定匹配的字段名,如, by = c("a" = "b"),表示用x.a和y.b进行匹配。

11)数据合并

dplyr包中也添加了类似cbind()函数和rbind()函数功能的函数,它们是bind_cols()函数和bind_rows()函数。

注意:bind_rows()函数需要两个合并对象有相同的列数,而bind_cols()函数则需要两个合并对象有相同的行数。

相关文章
|
数据采集 机器学习/深度学习 数据挖掘
python数据分析——数据预处理
数据预处理是数据分析过程中不可或缺的一环,它的目的是为了使原始数据更加规整、清晰,以便于后续的数据分析和建模工作。在Python数据分析中,数据预处理通常包括数据清洗、数据转换和数据特征工程等步骤。
606 0
|
索引
树莓派 Raspberry Pi (bullseye)更换阿里云源方法
树莓派 Raspberry Pi (bullseye)更换阿里云源方法
12975 2
|
11月前
|
存储 消息中间件 人工智能
《多模态数据信息提取》解决方案测评
先预示一下,本次测评有福利彩蛋哟,快过年了,喜庆的对联需要吧;大冬天的,保暖触屏手套需要吧;走过路过不要错过。
317 10
|
10月前
|
存储 传感器 人工智能
《软硬协同优化,解锁鸿蒙系统AI应用性能新高度》
在数字化时代,鸿蒙系统与AI的融合备受关注。鸿蒙凭借微内核架构和分布式特性,支持语音助手、图像识别等AI应用,提升用户体验。为应对复杂AI需求,软硬件协同优化成为关键:软件方面通过算法、资源管理和框架优化挖掘潜力;硬件方面则通过芯片适配、传感器和存储优化提供动力。两者协同实现资源共享、任务调度和数据处理的突破,大幅提升性能,推动智能化体验迈向新高度。
559 9
|
机器学习/深度学习 人工智能 算法
ML.NET:一个.NET开源、免费、跨平台的机器学习框架
ML.NET:一个.NET开源、免费、跨平台的机器学习框架
653 2
|
前端开发 Java 测试技术
android MVP契约类架构模式与MVVM架构模式,哪种架构模式更好?
android MVP契约类架构模式与MVVM架构模式,哪种架构模式更好?
265 2
|
JavaScript
【vue3】vue3中路由hash与History的设置
【vue3】vue3中路由hash与History的设置
602 0
|
Java
SpringBoot集成Mqtt
关于SpringBoot集成mqtt
5185 8
SpringBoot集成Mqtt
|
存储 Shell Linux
【Shell 命令集合 文档编辑】Linux 删除连续重复的行 uniq 命令使用指南
【Shell 命令集合 文档编辑】Linux 删除连续重复的行 uniq 命令使用指南
350 0
|
网络协议 安全 Windows
【bat】批处理脚本大全
【bat】批处理脚本大全
677 2
下一篇
oss云网关配置