Rdd 算子_转换_filter | 学习笔记

简介: 快速学习 Rdd 算子_转换_filter

开发者学堂课程【大数据Spark2020最新课程(知识精讲与实战演练)第二阶段Rdd 算子_转换_filter学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/689/detail/11968


Rdd 算子_转换_filter


内容介绍:

一、序言

二、filter

 

一、序言

数据清洗是数据记录的重要步骤,本质就是把一个数据集当中不合法非法的部分去除,那么在数据集当中去掉一部分数据该怎么去实现呢?

那么这个时候就要去借助一个新的 API 叫做 filter,这个 filter 可以帮助我们在处理器当中去掉一部分元素,filter 整个的原理就是假设说现在呢有一个数据集,经过 filter 的这个过滤,把数据集当中某一个内容去除掉了。

image.png


二、Filter

那么 filter 也是由算子以及算子里面所接收的这个函数来去构成的,filter 这个算子是要做一个过滤,它过滤的规则是要集中的函数来去指定,那么接下来就去写代码,看一看 filter,先进入到 idea 当中,去创建一个新的类,创建一个新的方法,那么这个方法我们就叫做 filter。创建好类之后,第一步是定义集合,第二步是过滤数据,第三是收集结果。

还是使用链式调用的方式,一行代码把三个要求实现。

通过 sc.parallelizeseq1,2,3)),接下来过滤数据,使用 filter,来调用数据。Filter 当中,每一个数据集就是数据库当中的每一个元素,这是需求是保留偶数,这时就可以用 item%2,如果一个数字能被2整除,即为偶数。接下来收集结果,用 for item 来收集结果。

@Test

def filter(): Unit =

// 1. 定义集合

// 2.过滤数据

// 3. 收集结果

sc.parallelize(Seq(1, 2, 3, 4, 5, 6, 7, 8, 9, 10)).filter(item => item % 2==0)

.collect()

.foreach(item => println(item))

运行结果如下:

image.png

通过新生成的rdd当中,只保留了2 4 6 8 10这些偶数,filter 的含义是可以过滤掉数据集当中的某一部分元素。

那么 filter 当中接收的函数,filter 中接收的这个函数参数是每一个元素,如果这个函数返回,那么当前元素就会被加入数据集,如果返回 false,那么就是意味着过滤掉当前元素。

相关文章
|
存储 算法 调度
万字长文!非常详细!操作系统【内存管理】
万字长文!非常详细!操作系统【内存管理】
|
存储 算法 C语言
C语言数组逆序
C语言数组逆序
|
机器学习/深度学习 并行计算 PyTorch
搭建(人工智能)或(视觉处理)环境前必看
在进行做人工智能或视图处理的一些ai环境搭建的时候,我们经常要下Anaconda要下cuda要下pytorch一大堆的东西,那么这些东西的作用和他们之间的关系是什么呢!
237 1
|
3天前
|
人工智能 运维 安全
|
1天前
|
人工智能 异构计算
敬请锁定《C位面对面》,洞察通用计算如何在AI时代持续赋能企业创新,助力业务发展!
敬请锁定《C位面对面》,洞察通用计算如何在AI时代持续赋能企业创新,助力业务发展!
|
8天前
|
人工智能 JavaScript 测试技术
Qwen3-Coder入门教程|10分钟搞定安装配置
Qwen3-Coder 挑战赛简介:无论你是编程小白还是办公达人,都能通过本教程快速上手 Qwen-Code CLI,利用 AI 轻松实现代码编写、文档处理等任务。内容涵盖 API 配置、CLI 安装及多种实用案例,助你提升效率,体验智能编码的乐趣。
770 109
|
3天前
|
机器学习/深度学习 传感器 算法
Edge Impulse:面向微型机器学习的MLOps平台——论文解读
Edge Impulse 是一个面向微型机器学习(TinyML)的云端MLOps平台,致力于解决嵌入式与边缘设备上机器学习开发的碎片化与异构性难题。它提供端到端工具链,涵盖数据采集、信号处理、模型训练、优化压缩及部署全流程,支持资源受限设备的高效AI实现。平台集成AutoML、量化压缩与跨硬件编译技术,显著提升开发效率与模型性能,广泛应用于物联网、可穿戴设备与边缘智能场景。
173 127