Rdd 算子_转换_filter | 学习笔记

简介: 快速学习 Rdd 算子_转换_filter

开发者学堂课程【大数据Spark2020最新课程(知识精讲与实战演练)第二阶段Rdd 算子_转换_filter学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/689/detail/11968


Rdd 算子_转换_filter


内容介绍:

一、序言

二、filter

 

一、序言

数据清洗是数据记录的重要步骤,本质就是把一个数据集当中不合法非法的部分去除,那么在数据集当中去掉一部分数据该怎么去实现呢?

那么这个时候就要去借助一个新的 API 叫做 filter,这个 filter 可以帮助我们在处理器当中去掉一部分元素,filter 整个的原理就是假设说现在呢有一个数据集,经过 filter 的这个过滤,把数据集当中某一个内容去除掉了。

image.png


二、Filter

那么 filter 也是由算子以及算子里面所接收的这个函数来去构成的,filter 这个算子是要做一个过滤,它过滤的规则是要集中的函数来去指定,那么接下来就去写代码,看一看 filter,先进入到 idea 当中,去创建一个新的类,创建一个新的方法,那么这个方法我们就叫做 filter。创建好类之后,第一步是定义集合,第二步是过滤数据,第三是收集结果。

还是使用链式调用的方式,一行代码把三个要求实现。

通过 sc.parallelizeseq1,2,3)),接下来过滤数据,使用 filter,来调用数据。Filter 当中,每一个数据集就是数据库当中的每一个元素,这是需求是保留偶数,这时就可以用 item%2,如果一个数字能被2整除,即为偶数。接下来收集结果,用 for item 来收集结果。

@Test

def filter(): Unit =

// 1. 定义集合

// 2.过滤数据

// 3. 收集结果

sc.parallelize(Seq(1, 2, 3, 4, 5, 6, 7, 8, 9, 10)).filter(item => item % 2==0)

.collect()

.foreach(item => println(item))

运行结果如下:

image.png

通过新生成的rdd当中,只保留了2 4 6 8 10这些偶数,filter 的含义是可以过滤掉数据集当中的某一部分元素。

那么 filter 当中接收的函数,filter 中接收的这个函数参数是每一个元素,如果这个函数返回,那么当前元素就会被加入数据集,如果返回 false,那么就是意味着过滤掉当前元素。

相关文章
|
存储 算法 调度
万字长文!非常详细!操作系统【内存管理】
万字长文!非常详细!操作系统【内存管理】
|
存储 算法 C语言
C语言数组逆序
C语言数组逆序
|
机器学习/深度学习 并行计算 PyTorch
搭建(人工智能)或(视觉处理)环境前必看
在进行做人工智能或视图处理的一些ai环境搭建的时候,我们经常要下Anaconda要下cuda要下pytorch一大堆的东西,那么这些东西的作用和他们之间的关系是什么呢!
263 1
|
14天前
|
存储 弹性计算 人工智能
【2025云栖精华内容】 打造持续领先,全球覆盖的澎湃算力底座——通用计算产品发布与行业实践专场回顾
2025年9月24日,阿里云弹性计算团队多位产品、技术专家及服务器团队技术专家共同在【2025云栖大会】现场带来了《通用计算产品发布与行业实践》的专场论坛,本论坛聚焦弹性计算多款通用算力产品发布。同时,ECS云服务器安全能力、资源售卖模式、计算AI助手等用户体验关键环节也宣布升级,让用云更简单、更智能。海尔三翼鸟云服务负责人刘建锋先生作为特邀嘉宾,莅临现场分享了关于阿里云ECS g9i推动AIoT平台的场景落地实践。
【2025云栖精华内容】 打造持续领先,全球覆盖的澎湃算力底座——通用计算产品发布与行业实践专场回顾
|
5天前
|
云安全 人工智能 安全
Dify平台集成阿里云AI安全护栏,构建AI Runtime安全防线
阿里云 AI 安全护栏加入Dify平台,打造可信赖的 AI
|
8天前
|
人工智能 运维 Java
Spring AI Alibaba Admin 开源!以数据为中心的 Agent 开发平台
Spring AI Alibaba Admin 正式发布!一站式实现 Prompt 管理、动态热更新、评测集构建、自动化评估与全链路可观测,助力企业高效构建可信赖的 AI Agent 应用。开源共建,现已上线!
810 27