AI 助理
文档备案控制台
开发者社区 大数据与机器学习 开源大数据平台 E-MapReduce 文章 正文

7月31日Spark钉钉群直播【Apache Spark 在存储计算分离趋势下的数据缓存】

2019-07-29 1361
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 在数据上云的大背景下，存储计算分离逐渐成为了大数据处理的一大趋势，计算引擎需要通过网络读写远端的数据，很多情况下 IO 成为了整个计算任务的瓶颈，因而数据缓存成为此类场景下的一个重要的优化手段。本次分享将介绍 Spark 在数据缓存上的一些做法，并将介绍 EMR 自研的 Jindo 存储系统在数据缓存上的应用。

直播间直达链接：（回看链接）

时间

7月31日19:00

主讲人：

辰山，阿里巴巴计算平台事业部 EMR 高级开发工程师，目前从事大数据存储方面的开发和优化工作

简介：

在数据上云的大背景下，存储计算分离逐渐成为了大数据处理的一大趋势，计算引擎需要通过网络读写远端的数据，很多情况下 IO 成为了整个计算任务的瓶颈，因而数据缓存成为此类场景下的一个重要的优化手段。本次分享将介绍 Spark 在数据缓存上的一些做法，并将介绍 EMR 自研的 Jindo 存储系统在数据缓存上的应用。
_Apache_Spark____spark_

文章标签：
开源大数据平台 E-MapReduce
分布式计算
Spark
存储
Apache
缓存
关键词：
钉钉存储
钉钉计算
开源大数据EMR
目录
相关文章
fengsl
|
JavaScript 物联网
使用TDengine国产时序数据库存储能耗数据并通过钉钉机器人接收报警信息
使用TDengine存储能耗数据并接收报警实现目标：1、边缘侧应用采集电表数据2、通过TDengine存储能耗时序数据3、使用钉钉机器人控件发送消息4、实时监测电压波动报警阀值，通过阿里钉钉发送报警消息场景介绍。
fengsl
10553 2
使用TDengine国产时序数据库存储能耗数据并通过钉钉机器人接收报警信息
圣禾名图
|
存储 API
钉钉开放平台的存储类API无法提交文件的问题
存储类API： 调用”提交文件”时返回，会返回code 400， 提示 uploadkey 无效。 code: 400, Specified parameter uploadKey is not valid. request id: 768D2EE8-A32E-7A04-A593-63EB0037E431 uploadkey 确实是使用“获取文件上传信息”正常的获得，并且在调用“提交文件”接口前，使用“添加权限”接口赋予了访问权限。
圣禾名图
392 0
anxin
|
存储 专有云 对象存储
钉钉专属存储部署流程
七步部署钉钉专属存储
anxin
2301 0
钉钉专属存储部署流程
anxin
|
存储 负载均衡 专有云
钉钉专属存储的几种部署架构
MiniOSS三种常用的部署架构
anxin
3224 0
钉钉专属存储的几种部署架构
擎天xm
|
监控 物联网 机器人
钉钉机器人调用函数计算实现serverless web服务：传统门禁的简单改造，懒惰癌的福音
本文通过钉钉机器人调用函数计算实现的serverless web服务，打通物联网平台，和树莓派实时通讯。实现了将原有传统的磁吸门禁，改造成可以由钉钉来控制开门的简单应用。
擎天xm
3421 0
阿里云E-MapReduce团队
|
缓存
7月31日Spark钉钉群直播【Apache Spark 在存储计算分离趋势下的数据缓存】
在数据上云的大背景下，存储计算分离逐渐成为了大数据处理的一大趋势，计算引擎需要通过网络读写远端的数据，很多情况下 IO 成为了整个计算任务的瓶颈，因而数据缓存成为此类场景下的一个重要的优化手段。本次分享将介绍 Spark 在数据缓存上的一些做法，并将介绍 EMR 自研的 Jindo 存储系统在数据缓存上的应用。
阿里云E-MapReduce团队
1218 0
大熊计算机
|
8月前
|
人工智能 分布式计算 大数据
大数据≠大样本：基于Spark的特征降维实战（提升10倍训练效率）
本文探讨了大数据场景下降维的核心问题与解决方案，重点分析了“维度灾难”对模型性能的影响及特征冗余的陷阱。通过数学证明与实际案例，揭示高维空间中样本稀疏性问题，并提出基于Spark的分布式降维技术选型与优化策略。文章详细展示了PCA在亿级用户画像中的应用，包括数据准备、核心实现与效果评估，同时深入探讨了协方差矩阵计算与特征值分解的并行优化方法。此外，还介绍了动态维度调整、非线性特征处理及降维与其他AI技术的协同效应，为生产环境提供了最佳实践指南。最终总结出降维的本质与工程实践原则，展望未来发展方向。
大熊计算机
415 0
郑小健
|
分布式计算 大数据 Apache
ClickHouse与大数据生态集成：Spark & Flink 实战
【10月更文挑战第26天】在当今这个数据爆炸的时代，能够高效地处理和分析海量数据成为了企业和组织提升竞争力的关键。作为一款高性能的列式数据库系统，ClickHouse 在大数据分析领域展现出了卓越的能力。然而，为了充分利用ClickHouse的优势，将其与现有的大数据处理框架（如Apache Spark和Apache Flink）进行集成变得尤为重要。本文将从我个人的角度出发，探讨如何通过这些技术的结合，实现对大规模数据的实时处理和分析。
郑小健
1036 2
ClickHouse与大数据生态集成：Spark & Flink 实战
Echo_Wish
|
11月前
|
存储 分布式计算 Hadoop
从“笨重大象”到“敏捷火花”：Hadoop与Spark的大数据技术进化之路
从“笨重大象”到“敏捷火花”：Hadoop与Spark的大数据技术进化之路
Echo_Wish
563 79
武子康
|
存储 分布式计算 算法
大数据-106 Spark Graph X 计算学习 案例：1图的基本计算、2连通图算法、3寻找相同的用户
大数据-106 Spark Graph X 计算学习 案例：1图的基本计算、2连通图算法、3寻找相同的用户
武子康
300 0
大数据与机器学习

开源大数据平台 E-MapReduce

热门文章

最新文章

  • 1
    分布式快照算法: Chandy-Lamport
  • 2
    JindoFS解析 - 云上大数据高性能数据湖存储方案
  • 3
    使用Hive进行OSS数据处理的一个最佳实践
  • 4
    HAS-插件式Kerberos认证框架
  • 5
    使用Ranger对Hive数据进行脱敏
  • 6
    [译]利用贝叶斯推理做硬件故障率的准实时预测
  • 7
    11月28日Spark社区直播【Tablestore结合Spark的云上流批一体大数据架构 】
  • 8
    Spark Operator浅析
  • 9
    开源大数据周刊-第21期
  • 10
    Spark SQL 性能优化再进一步：CBO 基于代价的优化
  • 1
    淘宝闪购基于阿里云 EMR Serverless Spark&Paimon的湖仓实践：超大规模下的特征生产&多维分析双提效
    52
  • 2
    有奖实践：EMR Serverless StarRocks × Serverless Spark x DLF 共探 TPC 极致性能
    223
  • 3
    大模型RAG实战：从零搭建专属知识库问答助手
    297
  • 4
    大模型微调技术入门：从核心概念到实战落地全攻略
    305
  • 5
    活动报名 | Apache Spark Meetup · 上海站，助力企业构建高效数据平台
    213
  • 6
    0 基础建站？PageAdmin CMS 10 分钟搞定，源码免费拿！
    355
  • 7
    EMR AI助手开启公测：用AI重塑大数据运维，更简单、更智能
    270
  • 8
    EMR StarRocks Stella 内核正式发布，登顶 TPC 榜单全球第一
    329
  • 9
    QuickSSO 与 ECreator 实操应用案例手册
    163
  • 10
    StarRocks+Paimon 落地阿里日志采集：万亿级实时数据秒级查询
    799

    • 相关电子书

    更多
  • 钉钉小程序——为工作方式插上翅膀
  • 钉钉客户端自动化的应用
  • 使命必达 —— 钉钉企业级 消息服务的机遇与挑战
    • 下一篇
    第五届伏魔挑战赛如约来袭，诚邀各路高手来战！