AI 助理
文档备案控制台
开发者社区 大数据与机器学习 开源大数据平台 E-MapReduce 文章 正文

# Apache Spark系列技术直播# 第七讲 【 大数据列式存储之 Parquet/ORC 】

2018-12-26 1847
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 主讲人：诚历（孙大鹏）阿里巴巴计算平台事业部EMR技术专家 简介：Parquet 和 ORC 是大数据生态里最常用到的两个列式存储引擎，这两者在实现上有什异同，哪个效率更好，哪个性能更优，本次分享将和您一起探索两大列式存储。

主讲人：诚历（孙大鹏）阿里巴巴计算平台事业部EMR技术专家

简介：Parquet 和 ORC 是大数据生态里最常用到的两个列式存储引擎，这两者在实现上有什异同，哪个效率更好，哪个性能更优，本次分享将和您一起探索两大列式存储。

_2018_12_26_8_21_56

ppt链接：https://yq.aliyun.com/download/3234

视频链接：https://yq.aliyun.com/live/785

加入Apache Spark中国技术交流钉钉群与大牛交流经验


_2018_12_05_4_48_20_meitu_1

文章标签：
开源大数据平台 E-MapReduce
云原生大数据计算服务 MaxCompute
存储
Apache
大数据
分布式计算
Spark
关键词：
云原生大数据计算服务 MaxCompute技术
Apache技术
云原生大数据计算服务 MaxCompute存储
云原生大数据计算服务 MaxCompute spark
apache spark技术
社区小助手
目录
相关文章
SelectDB
|
9月前
|
消息中间件 OLAP Kafka
Apache Doris 实时更新技术揭秘：为何在 OLAP 领域表现卓越？
Apache Doris 为何在 OLAP 领域表现卓越？凭借其主键模型、数据延迟、查询性能、并发处理、易用性等多方面特性的表现，在分析领域展现了独特的实时更新能力。
SelectDB
775 9
Echo_Wish
|
10月前
|
存储 JSON 分布式计算
数据湖，不“唬”你：这是大数据存储的新秩序！
数据湖，不“唬”你：这是大数据存储的新秩序！
Echo_Wish
216 2
赵渝强老师
|
10月前
|
存储 分布式计算 大数据
【赵渝强老师】阿里云大数据存储计算服务：MaxCompute
阿里云MaxCompute是快速、全托管的TB/PB级数据仓库解决方案，提供海量数据存储与计算服务。支持多种计算模型，适用于大规模离线数据分析，具备高安全性、低成本、易用性强等特点，助力企业高效处理大数据。
赵渝强老师
464 0
大熊计算机
|
11月前
|
人工智能 分布式计算 大数据
大数据≠大样本：基于Spark的特征降维实战（提升10倍训练效率）
本文探讨了大数据场景下降维的核心问题与解决方案，重点分析了“维度灾难”对模型性能的影响及特征冗余的陷阱。通过数学证明与实际案例，揭示高维空间中样本稀疏性问题，并提出基于Spark的分布式降维技术选型与优化策略。文章详细展示了PCA在亿级用户画像中的应用，包括数据准备、核心实现与效果评估，同时深入探讨了协方差矩阵计算与特征值分解的并行优化方法。此外，还介绍了动态维度调整、非线性特征处理及降维与其他AI技术的协同效应，为生产环境提供了最佳实践指南。最终总结出降维的本质与工程实践原则，展望未来发展方向。
大熊计算机
547 0
JJLIN距离
|
8月前
|
消息中间件 监控 Java
Apache Kafka 分布式流处理平台技术详解与实践指南
本文档全面介绍 Apache Kafka 分布式流处理平台的核心概念、架构设计和实践应用。作为高吞吐量、低延迟的分布式消息系统，Kafka 已成为现代数据管道和流处理应用的事实标准。本文将深入探讨其生产者-消费者模型、主题分区机制、副本复制、流处理API等核心机制，帮助开发者构建可靠、可扩展的实时数据流处理系统。
JJLIN距离
737 4
郑小健
|
分布式计算 大数据 Apache
ClickHouse与大数据生态集成：Spark & Flink 实战
【10月更文挑战第26天】在当今这个数据爆炸的时代，能够高效地处理和分析海量数据成为了企业和组织提升竞争力的关键。作为一款高性能的列式数据库系统，ClickHouse 在大数据分析领域展现出了卓越的能力。然而，为了充分利用ClickHouse的优势，将其与现有的大数据处理框架（如Apache Spark和Apache Flink）进行集成变得尤为重要。本文将从我个人的角度出发，探讨如何通过这些技术的结合，实现对大规模数据的实时处理和分析。
郑小健
1171 2
ClickHouse与大数据生态集成：Spark & Flink 实战
Echo_Wish
|
存储 分布式计算 Hadoop
从“笨重大象”到“敏捷火花”：Hadoop与Spark的大数据技术进化之路
从“笨重大象”到“敏捷火花”：Hadoop与Spark的大数据技术进化之路
Echo_Wish
670 79
蚂蚁数据智能技术
|
10月前
|
人工智能 自然语言处理 测试技术
新晋社区PMC李攀：“在Apache Fory，技术实力是唯一的通行证”
一起走近开源项目的幕后英雄——PMC成员
蚂蚁数据智能技术
319 0
SelectDB
|
存储 SQL 缓存
Apache Doris & SelectDB 技术能力全面解析
本文将对 Doris & SelectDB 适合的分析场景和技术能力进行概述解析
SelectDB
1934 1
Apache Doris & SelectDB 技术能力全面解析
NineData
|
12月前
|
安全 Apache 数据库
【倒计时3天】NineData x Apache Doris x 阿里云联合举办数据库技术Meetup，5月24日深圳见！
5月24日，NineData联合Apache Doris与阿里云在深圳举办数据库技术Meetup。活动聚焦「数据实时分析」与「数据同步迁移」两大领域，邀请行业专家分享技术趋势、产品实践及解决方案，助力企业构建高效安全的数据管理体系。时间：14:00-17:30；地点：深圳新一代产业园2栋20楼会议室。线下名额有限（80人），速报名参与深度交流！
NineData
329 1
大数据与机器学习

开源大数据平台 E-MapReduce

热门文章

最新文章

  • 1
    分布式快照算法: Chandy-Lamport
  • 2
    Spark in action on Kubernetes - Playground搭建与架构浅析
  • 3
    JindoFS解析 - 云上大数据高性能数据湖存储方案
  • 4
    如何在Aliyun E-MapReduce集群上使用Zeppelin和Hue
  • 5
    基于Alluxio系统的Spark DataFrame高效存储管理技术
  • 6
    HIVE MapJoin异常问题处理总结
  • 7
    漫谈分布式计算框架
  • 8
    阿里封神-大数据处理技术漫谈
  • 9
    5W1H(六何分析法)全景洞察大数据
  • 10
    助力云上开源生态 - 阿里云开源大数据平台的发展
  • 1
    迅雷基于阿里云 EMR Serverless Spark 实现数仓资源效率与业务提升
    118
  • 2
    鹰角网络：EMR Serverless Spark 在《明日方舟》游戏业务的应用
    293
  • 3
    一套底座支撑多场景：高德地图基于 Paimon + StarRocks 轨迹服务实践
    208
  • 4
    EMR Serverless Spark 携手 PAI/百炼，开启“SQL 即 AI”的新篇章
    179
  • 5
    诗悦游戏基于DLF与EMR StarRocks降本38%
    267
  • 6
    基于DLF构建实时数据湖
    215
  • 7
    数仓-湖仓-湖流，人力家基于阿里云OpenLake架构演进与思考
    284
  • 8
    淘宝闪购基于阿里云 EMR Serverless Spark&Paimon的湖仓实践：超大规模下的特征生产&多维分析双提效
    452
  • 9
    有奖实践：EMR Serverless StarRocks × Serverless Spark x DLF 共探 TPC 极致性能
    601
  • 10
    大模型RAG实战：从零搭建专属知识库问答助手
    1129

    • 相关课程

    更多
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第一阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第二阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第三阶段
  • 大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第五阶段
  • 大数据实战项目 - 反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第六阶段
  • 大数据实时计算框架Spark快速入门

    • 相关电子书

    更多
  • Hybrid Cloud and Apache Spark
  • Scalable Deep Learning on Spark
  • Comparison of Spark SQL with Hive

    • 推荐镜像

    更多
  • apache
    • 下一篇
    阿里云重磅发布Agentic SOC，企业级AI Agent驱动的安全运营平台