AI 助理
备案控制台
开发者社区 大数据与机器学习 开源大数据平台 E-MapReduce 文章 正文

10月17日Spark社区直播【Tablestore Spark Streaming Connector -- 海量结构化数据的实时计算和处理】

2019-10-14 820
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
EMR Serverless StarRocks，5000CU*H 48000GB*H
简介： 本次直播我们邀请了Tablestore存储服务技术专家 朱晓然 ，为大家详细介绍如何基于Tablestore的CDC技术，将大表内实时数据更新对接Spark Streaming来实现数据的实时计算和处理。

主题：
Tablestore Spark Streaming Connector -- 海量结构化数据的实时计算和处理

点击这里是直播间直达链接（回看链接）

时间
10月17日：19：00-20：00

直播介绍：
Tablestore是阿里云自研的云原生结构化大数据存储服务，本议题会详细介绍如何基于Tablestore的CDC技术，将大表内实时数据更新对接Spark Streaming来实现数据的实时计算和处理。最新版本的Connector会随着EMR下个版本的SDK一起开源，场景环节会结合阿里内部的业务介绍用户如何结合Tablestore和Spark来实现实时数据处理。

主讲人：
朱晓然 Tablestore存储服务技术专家

请钉钉扫码至群内观看直播，与嘉宾互动有机会获得社区礼物一份。
Tablestore Spark Streaming Connector -- 海量结构化数据的实时计算和处理.png

文章标签：
开源大数据平台 E-MapReduce
表格存储
实时计算 Flink版
NoSQL
流计算
分布式计算
Spark
关键词：
apache spark数据
实时计算 Flink版数据
streaming实时计算 Flink版
apache spark streaming
实时计算 Flink版spark
相关实践学习
基于EMR Serverless StarRocks一键玩转世界杯
基于StarRocks构建极速统一OLAP平台
快速掌握阿里云 E-MapReduce
E-MapReduce 是构建于阿里云 ECS 弹性虚拟机之上，利用开源大数据生态系统，包括 Hadoop、Spark、HBase，为用户提供集群、作业、数据等管理的一站式大数据处理分析服务。 本课程主要介绍阿里云 E-MapReduce 的使用方法。
阿里云E-MapReduce团队
目录
相关文章
武子康
|
2月前
|
消息中间件 分布式计算 NoSQL
大数据-104 Spark Streaming Kafka Offset Scala实现Redis管理Offset并更新
大数据-104 Spark Streaming Kafka Offset Scala实现Redis管理Offset并更新
武子康
45 0
武子康
|
2月前
|
消息中间件 存储 分布式计算
大数据-103 Spark Streaming Kafka Offset管理详解 Scala自定义Offset
大数据-103 Spark Streaming Kafka Offset管理详解 Scala自定义Offset
武子康
101 0
游客st7pgwv4ge6sq
|
1月前
|
SQL 分布式计算 数据处理
Structured Streaming和Flink实时计算框架的对比
本文对比了Structured Streaming和Flink两大流处理框架。Structured Streaming基于Spark SQL，具有良好的可扩展性和容错性，支持多种数据源和输出格式。Flink则以低延迟、高吞吐和一致性著称，适合毫秒级的流处理任务。文章详细分析了两者在编程模型、窗口操作、写入模式、时间语义、API和库、状态管理和生态系统等方面的优劣势。
游客st7pgwv4ge6sq
60 0
赵渝强老师
|
1月前
|
分布式计算 流计算 Spark
【赵渝强老师】Spark Streaming中的DStream
本文介绍了Spark Streaming的核心概念DStream，即离散流。DStream通过时间间隔将连续的数据流转换为一系列不连续的RDD，再通过Transformation进行转换，实现流式数据的处理。文中以MyNetworkWordCount程序为例，展示了DStream生成RDD的过程，并附有视频讲解。
赵渝强老师
41 0
武子康
|
2月前
|
消息中间件 分布式计算 Kafka
大数据-102 Spark Streaming Kafka ReceiveApproach DirectApproach 附带Producer、DStream代码案例
大数据-102 Spark Streaming Kafka ReceiveApproach DirectApproach 附带Producer、DStream代码案例
武子康
59 0
武子康
|
2月前
|
SQL 分布式计算 大数据
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（一）
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（一）
武子康
49 0
武子康
|
2月前
|
存储 分布式计算 大数据
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（二）
大数据-101 Spark Streaming DStream转换 窗口操作状态 跟踪操作 附带多个案例（二）
武子康
52 0
武子康
|
2月前
|
SQL 分布式计算 大数据
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（一）
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（一）
武子康
39 0
武子康
|
2月前
|
SQL 分布式计算 大数据
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（二）
大数据-100 Spark 集群 Spark Streaming DStream转换 黑名单过滤的三种实现方式（二）
武子康
33 0
武子康
|
2月前
|
消息中间件 分布式计算 Kafka
大数据-99 Spark 集群 Spark Streaming DStream 文件数据流、Socket、RDD队列流
大数据-99 Spark 集群 Spark Streaming DStream 文件数据流、Socket、RDD队列流
武子康
35 0
大数据与机器学习

开源大数据平台 E-MapReduce

热门文章

最新文章

  • 1
    阿里封神谈hadoop生态学习之路
  • 2
    现代流式计算的基石：Google DataFlow
  • 3
    Spark in action on Kubernetes - Playground搭建与架构浅析
  • 4
    梨视频：基于阿里云E-MapReduce搭建视频推荐系统的实践
  • 5
    基于Alluxio系统的Spark DataFrame高效存储管理技术
  • 6
    首次揭秘|为6.4亿人次出行提供无线网络的技术架构
  • 7
    助力云上开源生态 - 阿里云开源大数据平台的发展
  • 8
    Flume NG 简介及配置实战
  • 9
    HAS-插件式Kerberos认证框架
  • 10
    开源生态的新发展：Apache Spark 3.0、Koala和Delta Lake
  • 1
    有奖实践，基于EMR StarRocks实现游戏玩家画像和行为分析
    64
  • 2
    基于OpenLake的Flink+Paimon+EMR StarRocks流式湖仓分析
    359
  • 3
    【赵渝强老师】部署Hadoop的本地模式
    46
  • 4
    EMR Serverless Spark：一站式全托管湖仓分析利器
    170
  • 5
    降本60% ，阿里云 EMR StarRocks 全新发布存算分离版本
    378
  • 6
    阿里云EMR StarRocks X Paimon创建 Streaming Lakehouse
    143
  • 7
    从数据积累到大模型的智能飞跃，你准备好了吗？
    138
  • 8
    DB-GPT v0.6.0 版本更新，发布六大核心新特性！
    151
  • 9
    云栖实录 | 阿里云 OpenLake 解决方案重磅发布：多模态数据统一纳管、引擎平权联合计算、数据共享统一读写
    343
  • 10
    阿里云 EMR Serverless Spark 版正式开启商业化
    170

    • 相关课程

    更多
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第一阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第四阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第五阶段
  • 大数据实战项目 - 反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第六阶段
  • 阿里云表格存储使用教程
  • 大数据实时计算框架Spark快速入门

    • 相关电子书

    更多
  • TableStore在社交类场景下的应用
  • 表格存储实时数据流Steam的技术揭秘和应用场景
  • 表格存储（TableStore）

    • 相关实验场景

    更多
  • 基于EMR StarRocks实现游戏玩家画像和行为分析
  • 基于Hologres轻松玩转一站式实时仓库
  • 基于Hologres轻量实时的高性能OLAP分析
  • 通过Lindorm-cli连接并使用宽表引擎
  • 基于Hologres+Flink搭建GitHub实时数据大屏
  • 玩转MaxCompute SQL! 30分钟搞定数据分析挖掘
    • 下一篇
    DataWorks