AI 助理
文档备案控制台
开发者社区 大数据与机器学习 开源大数据平台 E-MapReduce 文章 正文

# Apache Spark系列技术直播# 第七讲 【 大数据列式存储之 Parquet/ORC 】

2018-12-26 1875
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 主讲人：诚历（孙大鹏）阿里巴巴计算平台事业部EMR技术专家 简介：Parquet 和 ORC 是大数据生态里最常用到的两个列式存储引擎，这两者在实现上有什异同，哪个效率更好，哪个性能更优，本次分享将和您一起探索两大列式存储。

主讲人：诚历（孙大鹏）阿里巴巴计算平台事业部EMR技术专家

简介：Parquet 和 ORC 是大数据生态里最常用到的两个列式存储引擎，这两者在实现上有什异同，哪个效率更好，哪个性能更优，本次分享将和您一起探索两大列式存储。

_2018_12_26_8_21_56

ppt链接：https://yq.aliyun.com/download/3234

视频链接：https://yq.aliyun.com/live/785

加入Apache Spark中国技术交流钉钉群与大牛交流经验


_2018_12_05_4_48_20_meitu_1

文章标签：
开源大数据平台 E-MapReduce
云原生大数据计算服务 MaxCompute
存储
Apache
大数据
分布式计算
Spark
关键词：
云原生大数据计算服务 MaxCompute技术
Apache技术
云原生大数据计算服务 MaxCompute存储
云原生大数据计算服务 MaxCompute spark
apache spark技术
社区小助手
目录
相关文章
云技术达人
|
8月前
|
存储 人工智能 大数据
云栖2025｜阿里云开源大数据发布新一代“湖流一体”数智平台及全栈技术升级
阿里云在云栖大会发布“湖流一体”数智平台，推出DLF-3.0全模态湖仓、实时计算Flink版升级及EMR系列新品，融合实时化、多模态、智能化技术，打造AI时代高效开放的数据底座，赋能企业数字化转型。
云技术达人
1515 0
TiAmoZhang
|
10月前
|
数据采集 人工智能 分布式计算
ODPS在AI时代的发展战略与技术演进分析报告
ODPS（现MaxCompute）历经十五年发展，从分布式计算平台演进为AI时代的数据基础设施，以超大规模处理、多模态融合与Data+AI协同为核心竞争力，支撑大模型训练与实时分析等前沿场景，助力企业实现数据驱动与智能化转型。
TiAmoZhang
664 4
Q一个好的名字容易让人记住你2483558220
|
8月前
|
数据可视化 大数据 关系型数据库
基于python大数据技术的医疗数据分析与研究
在数字化时代，医疗数据呈爆炸式增长，涵盖患者信息、检查指标、生活方式等。大数据技术助力疾病预测、资源优化与智慧医疗发展，结合Python、MySQL与B/S架构，推动医疗系统高效实现。
Q一个好的名字容易让人记住你2483558220
417 3
1941623231718325
|
10月前
|
SQL 分布式计算 大数据
我与ODPS的十年技术共生之路
ODPS十年相伴，从初识的分布式计算到共生进化，突破架构边界，推动数据价值深挖。其湖仓一体、隐私计算与Serverless能力，助力企业降本增效，赋能政务与商业场景，成为数字化转型的“数字神经系统”。
1941623231718325
212 0
青云交（Java大数据AI云原生Python）
|
10月前
|
存储 人工智能 算法
Java 大视界 -- Java 大数据在智能医疗影像数据压缩与传输优化中的技术应用（227）
本文探讨 Java 大数据在智能医疗影像压缩与传输中的关键技术应用，分析其如何解决医疗影像数据存储、传输与压缩三大难题，并结合实际案例展示技术落地效果。
青云交（Java大数据AI云原生Python）
349 0
青云交（Java大数据AI云原生Python）
|
10月前
|
机器学习/深度学习 算法 Java
Java 大视界 -- Java 大数据在智能物流运输车辆智能调度与路径优化中的技术实现（218）
本文深入探讨了Java大数据技术在智能物流运输中车辆调度与路径优化的应用。通过遗传算法实现车辆资源的智能调度，结合实时路况数据和强化学习算法进行动态路径优化，有效提升了物流效率与客户满意度。以京东物流和顺丰速运的实际案例为支撑，展示了Java大数据在解决行业痛点问题中的强大能力，为物流行业的智能化转型提供了切实可行的技术方案。
青云交（Java大数据AI云原生Python）
843 0
小白学大数据
|
11月前
|
数据采集 自然语言处理 分布式计算
大数据岗位技能需求挖掘：Python爬虫与NLP技术结合
大数据岗位技能需求挖掘：Python爬虫与NLP技术结合
小白学大数据
440 0
华章计算机
|
存储 分布式计算 Spark
《循序渐进学Spark》一 3.3　Spark存储与I/O
华章计算机
1772 0
大熊计算机
|
12月前
|
人工智能 分布式计算 大数据
大数据≠大样本：基于Spark的特征降维实战（提升10倍训练效率）
本文探讨了大数据场景下降维的核心问题与解决方案，重点分析了“维度灾难”对模型性能的影响及特征冗余的陷阱。通过数学证明与实际案例，揭示高维空间中样本稀疏性问题，并提出基于Spark的分布式降维技术选型与优化策略。文章详细展示了PCA在亿级用户画像中的应用，包括数据准备、核心实现与效果评估，同时深入探讨了协方差矩阵计算与特征值分解的并行优化方法。此外，还介绍了动态维度调整、非线性特征处理及降维与其他AI技术的协同效应，为生产环境提供了最佳实践指南。最终总结出降维的本质与工程实践原则，展望未来发展方向。
大熊计算机
660 0
郑小健
|
分布式计算 大数据 Apache
ClickHouse与大数据生态集成：Spark & Flink 实战
【10月更文挑战第26天】在当今这个数据爆炸的时代，能够高效地处理和分析海量数据成为了企业和组织提升竞争力的关键。作为一款高性能的列式数据库系统，ClickHouse 在大数据分析领域展现出了卓越的能力。然而，为了充分利用ClickHouse的优势，将其与现有的大数据处理框架（如Apache Spark和Apache Flink）进行集成变得尤为重要。本文将从我个人的角度出发，探讨如何通过这些技术的结合，实现对大规模数据的实时处理和分析。
郑小健
1232 2
ClickHouse与大数据生态集成：Spark & Flink 实战
大数据与机器学习

开源大数据平台 E-MapReduce

热门文章

最新文章

  • 1
    如何使用Kafka Connect实现同步RDS binlog数据
  • 2
    JindoFS: 云上大数据的高性能数据湖存储方案
  • 3
    JindoFS解析 - 云上大数据高性能数据湖存储方案
  • 4
    漫谈分布式计算框架
  • 5
    首次揭秘|为6.4亿人次出行提供无线网络的技术架构
  • 6
    阿里封神-大数据处理技术漫谈
  • 7
    5W1H(六何分析法)全景洞察大数据
  • 8
    在 Apache Spark 中利用 HyperLogLog 函数实现高级分析
  • 9
    从数砖开源 Delta Lake 说起
  • 10
    Apache Spark 3.0 将内置支持 GPU 调度
  • 1
    优路教育借助阿里云Flink+StarRocks+Paimon湖仓一体化构建职业教育业务全链路实时数据服务平台
    424
  • 2
    OpenClaw + QQ 机器人！保姆级图文教程，一步到位
    542
  • 3
    1688商品详情API（1688.item_get）Python实战：构建B2B供应链数据中台
    341
  • 4
    迅雷基于阿里云 EMR Serverless Spark 实现数仓资源效率与业务提升
    275
  • 5
    鹰角网络：EMR Serverless Spark 在《明日方舟》游戏业务的应用
    700
  • 6
    一套底座支撑多场景：高德地图基于 Paimon + StarRocks 轨迹服务实践
    465
  • 7
    EMR Serverless Spark 携手 PAI/百炼，开启“SQL 即 AI”的新篇章
    318
  • 8
    诗悦游戏基于DLF与EMR StarRocks降本38%
    387
  • 9
    基于DLF构建实时数据湖
    291
  • 10
    数仓-湖仓-湖流，人力家基于阿里云OpenLake架构演进与思考
    408

    • 相关课程

    更多
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第一阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第二阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第三阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第四阶段
  • 大数据实战项目 - 反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第七阶段
  • 大数据实时计算框架Spark快速入门

    • 相关电子书

    更多
  • Hybrid Cloud and Apache Spark
  • Scalable Deep Learning on Spark
  • Comparison of Spark SQL with Hive

    • 推荐镜像

    更多
  • apache
    • 下一篇
    利用阿里云OSS（对象存储服务）快速搭建私人网盘