Flink用法介绍(1)

简介: Flink用法介绍(1)

自定义source


只需要传入一个SourceFunction即可


val stream4 = env.addSource( new MySensorSource() )


举例说明:随机生成传感器数据


image.png


无非就是通过生成随机数据的方式组装成传感器数据而已


image.png


image.png


val streamMap = stream.map { x => x * 2 }


  • flatMap


a、
flatMap(List(1,2,3))(i -> List(i,i)) 结果是 List(1,1,2,2,3,3)
b、
List("a b","c d").flatMap(line -> line.split(" ")) 结果是List(a,b,c,c)


代码:
val streamFlatMap = stream.flatMap{
 x => x.split(" ")
}


  • Filter


image.png

DataStream、KeyedStream 逻辑地将一个流拆分成不相交的分区 
每个分区包含相同key的元素 在内部以hash的形式实现


代码:
val aggStream = dataStream.keyBy("id")


  • 聚合滚动算子(Rolling Aggregation)


针对keyedStream的每个支流做聚合
sum()
min()
max()
minBy()
maxBy()
相关实践学习
基于Hologres+Flink搭建GitHub实时数据大屏
通过使用Flink、Hologres构建实时数仓,并通过Hologres对接BI分析工具(以DataV为例),实现海量数据实时分析.
实时计算 Flink 实战课程
如何使用实时计算 Flink 搞定数据处理难题?实时计算 Flink 极客训练营产品、技术专家齐上阵,从开源 Flink功能介绍到实时计算 Flink 优势详解,现场实操,5天即可上手! 欢迎开通实时计算 Flink 版: https://cn.aliyun.com/product/bigdata/sc Flink Forward Asia 介绍: Flink Forward 是由 Apache 官方授权,Apache Flink Community China 支持的会议,通过参会不仅可以了解到 Flink 社区的最新动态和发展计划,还可以了解到国内外一线大厂围绕 Flink 生态的生产实践经验,是 Flink 开发者和使用者不可错过的盛会。 去年经过品牌升级后的 Flink Forward Asia 吸引了超过2000人线下参与,一举成为国内最大的 Apache 顶级项目会议。结合2020年的特殊情况,Flink Forward Asia 2020 将在12月26日以线上峰会的形式与大家见面。
相关文章
|
Java 流计算
Flink broadcast的用法
Flink broadcast的用法
441 0
|
BI API 流计算
Flink window 用法介绍(3)
Flink window 用法介绍(3)
244 0
Flink window 用法介绍(3)
|
流计算 索引 Windows
Flink window 用法介绍(2)
Flink window 用法介绍(2)
185 0
Flink window 用法介绍(2)
|
消息中间件 传感器 NoSQL
Flink window 用法介绍(1)
Flink window 用法介绍(1)
305 0
Flink window 用法介绍(1)
|
流计算
Flink用法介绍(2)
Flink用法介绍(2)
726 0
Flink用法介绍(2)
|
SQL Java Maven
【Flink】小白级入门,Flink sql 的基础用法(下)
【Flink】小白级入门,Flink sql 的基础用法
543 0
|
SQL Java 大数据
【Flink】小白级入门,Flink sql 的基础用法(上)
【Flink】小白级入门,Flink sql 的基础用法
746 0
|
Java Scala 流计算
Flink用法介绍(3)
Flink用法介绍(3)
407 0
|
7月前
|
存储 分布式计算 数据处理
「48小时极速反馈」阿里云实时计算Flink广招天下英雄
阿里云实时计算Flink团队,全球领先的流计算引擎缔造者,支撑双11万亿级数据处理,推动Apache Flink技术发展。现招募Flink执行引擎、存储引擎、数据通道、平台管控及产品经理人才,地点覆盖北京、杭州、上海。技术深度参与开源核心,打造企业级实时计算解决方案,助力全球企业实现毫秒洞察。
694 0
「48小时极速反馈」阿里云实时计算Flink广招天下英雄

热门文章

最新文章