直播间直达链接：（回看链接）
时间
7月31日19:00
主讲人：
辰山，阿里巴巴计算平台事业部 EMR 高级开发工程师，目前从事大数据存储方面的开发和优化工作
简介：
在数据上云的大背景下，存储计算分离逐渐成为了大数据处理的一大趋势，计算引擎需要通过网络读写远端的数据，很多情况下 IO 成为了整个计算任务的瓶颈，因而数据缓存成为此类场景下的一个重要的优化手段。本次分享将介绍 Spark 在数据缓存上的一些做法，并将介绍 EMR 自研的 Jindo 存储系统在数据缓存上的应用。 
7月31日Spark钉钉群直播【Apache Spark 在存储计算分离趋势下的数据缓存】
2019-07-29
1261
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
简介：
在数据上云的大背景下，存储计算分离逐渐成为了大数据处理的一大趋势，计算引擎需要通过网络读写远端的数据，很多情况下 IO 成为了整个计算任务的瓶颈，因而数据缓存成为此类场景下的一个重要的优化手段。本次分享将介绍 Spark 在数据缓存上的一些做法，并将介绍 EMR 自研的 Jindo 存储系统在数据缓存上的应用。
目录
相关文章
|
存储
API
钉钉开放平台的存储类API无法提交文件的问题
存储类API： 调用”提交文件”时返回，会返回code 400， 提示 uploadkey 无效。
code: 400, Specified parameter uploadKey is not valid. request id: 768D2EE8-A32E-7A04-A593-63EB0037E431
uploadkey 确实是使用“获取文件上传信息”正常的获得，并且在调用“提交文件”接口前，使用“添加权限”接口赋予了访问权限。
252
0
0
|
存储
专有云
对象存储
|
存储
负载均衡
专有云
|
JavaScript
物联网
使用TDengine国产时序数据库存储能耗数据并通过钉钉机器人接收报警信息
使用TDengine存储能耗数据并接收报警实现目标：1、边缘侧应用采集电表数据2、通过TDengine存储能耗时序数据3、使用钉钉机器人控件发送消息4、实时监测电压波动报警阀值，通过阿里钉钉发送报警消息场景介绍。
10118
2
4
|
监控
物联网
机器人
钉钉机器人调用函数计算实现serverless web服务：传统门禁的简单改造，懒惰癌的福音
本文通过钉钉机器人调用函数计算实现的serverless web服务，打通物联网平台，和树莓派实时通讯。实现了将原有传统的磁吸门禁，改造成可以由钉钉来控制开门的简单应用。
2897
0
3
|
缓存
7月31日Spark钉钉群直播【Apache Spark 在存储计算分离趋势下的数据缓存】
在数据上云的大背景下，存储计算分离逐渐成为了大数据处理的一大趋势，计算引擎需要通过网络读写远端的数据，很多情况下 IO 成为了整个计算任务的瓶颈，因而数据缓存成为此类场景下的一个重要的优化手段。本次分享将介绍 Spark 在数据缓存上的一些做法，并将介绍 EMR 自研的 Jindo 存储系统在数据缓存上的应用。
1141
0
0
|
16天前
|
分布式计算
大数据
Apache
ClickHouse与大数据生态集成：Spark & Flink 实战
【10月更文挑战第26天】在当今这个数据爆炸的时代，能够高效地处理和分析海量数据成为了企业和组织提升竞争力的关键。作为一款高性能的列式数据库系统，ClickHouse 在大数据分析领域展现出了卓越的能力。然而，为了充分利用ClickHouse的优势，将其与现有的大数据处理框架（如Apache Spark和Apache Flink）进行集成变得尤为重要。本文将从我个人的角度出发，探讨如何通过这些技术的结合，实现对大规模数据的实时处理和分析。
48
2
2
|
1月前
|
存储
分布式计算
算法
大数据-106 Spark Graph X 计算学习 案例：1图的基本计算、2连通图算法、3寻找相同的用户
大数据-106 Spark Graph X 计算学习 案例：1图的基本计算、2连通图算法、3寻找相同的用户
60
0
0
|
1月前
|
消息中间件
分布式计算
NoSQL
大数据-104 Spark Streaming Kafka Offset Scala实现Redis管理Offset并更新
大数据-104 Spark Streaming Kafka Offset Scala实现Redis管理Offset并更新
40
0
0
|
1月前
|
消息中间件
存储
分布式计算
大数据-103 Spark Streaming Kafka Offset管理详解 Scala自定义Offset
大数据-103 Spark Streaming Kafka Offset管理详解 Scala自定义Offset
82
0
0
热门文章
最新文章
1
分布式快照算法: Chandy-Lamport
2
如何使用Kafka Connect实现同步RDS binlog数据
3
5W1H(六何分析法)全景洞察大数据
4
在 Apache Spark 中利用 HyperLogLog 函数实现高级分析
5
hive在E-MapReduce集群的实践（二）集群hive参数优化
6
csv导入HBase
7
使用E-MapReduce服务将Kafka数据导入OSS
8
利用yarn capacity scheduler在EMR集群上实现大集群的多租户的集群资源隔离和quota限制
9
列式存储系列（二）: Vertica
10
Apache Spark3.0什么样？一文读懂Apache Spark最新技术发展与展望
1
基于OpenLake的Flink+Paimon+EMR StarRocks流式湖仓分析
74
2
【赵渝强老师】部署Hadoop的本地模式
24
3
EMR Serverless Spark：一站式全托管湖仓分析利器
111
4
降本60% ，阿里云 EMR StarRocks 全新发布存算分离版本
255
5
阿里云EMR StarRocks X Paimon创建 Streaming Lakehouse
119
6
从数据积累到大模型的智能飞跃，你准备好了吗？
109
7
DB-GPT v0.6.0 版本更新，发布六大核心新特性！
112
8
云栖实录 | 阿里云 OpenLake 解决方案重磅发布：多模态数据统一纳管、引擎平权联合计算、数据共享统一读写
269
9
阿里云 EMR Serverless Spark 版正式开启商业化
147
10
小红书 API 接口使用指南：笔记详情数据接口的接入与使用
421