主讲人：诚历（孙大鹏）阿里巴巴计算平台事业部EMR技术专家
简介：Parquet 和 ORC 是大数据生态里最常用到的两个列式存储引擎，这两者在实现上有什异同，哪个效率更好，哪个性能更优，本次分享将和您一起探索两大列式存储。
ppt链接：https://yq.aliyun.com/download/3234
视频链接：https://yq.aliyun.com/live/785
加入Apache Spark中国技术交流钉钉群与大牛交流经验
# Apache Spark系列技术直播# 第七讲 【 大数据列式存储之 Parquet/ORC 】
2018-12-26
1563
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
主讲人：诚历（孙大鹏）阿里巴巴计算平台事业部EMR技术专家
简介：Parquet 和 ORC 是大数据生态里最常用到的两个列式存储引擎，这两者在实现上有什异同，哪个效率更好，哪个性能更优，本次分享将和您一起探索两大列式存储。
相关实践学习
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品，是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法，从场景到实践，体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库，助力开发者学习了解先进的技术栈，并能在实际业务中敏捷的进行大数据分析，赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景，可应用MaxCompute实现数仓搭建，快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理，需要搭建数据仓库？学它！ 没有足够人员和经验来运维大数据平台，不想自建IDC买机器，需要免运维的大数据平台？会SQL就等于会大数据？学它！ 想知道大数据用得对不对，想用更少的钱得到持续演进的数仓能力？获得极致弹性的计算资源和更好的性能，以及持续保护数据安全的生产环境？学它！ 想要获得灵活的分析能力，快速洞察数据规律特征？想要兼得数据湖的灵活性与数据仓库的成长性？学它！ 出品人：阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps
目录
相关文章
|
1月前
|
分布式计算
Hadoop
大数据
大数据技术与Python：结合Spark和Hadoop进行分布式计算
【4月更文挑战第12天】本文介绍了大数据技术及其4V特性，阐述了Hadoop和Spark在大数据处理中的作用。Hadoop提供分布式文件系统和MapReduce，Spark则为内存计算提供快速处理能力。通过Python结合Spark和Hadoop，可在分布式环境中进行数据处理和分析。文章详细讲解了如何配置Python环境、安装Spark和Hadoop，以及使用Python编写和提交代码到集群进行计算。掌握这些技能有助于应对大数据挑战。
355
1
1
|
15天前
|
分布式计算
DataWorks
大数据
MaxCompute操作报错合集之大数据计算的MaxCompute Spark引擎无法读取到表，是什么原因
MaxCompute是阿里云提供的大规模离线数据处理服务，用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时，可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。
23
1
1
|
15天前
|
SQL
分布式计算
大数据
MaxCompute操作报错合集之spark3.1.1通过resource目录下的conf文件配置，报错如何解决
MaxCompute是阿里云提供的大规模离线数据处理服务，用于大数据分析、挖掘和报表生成等场景。在使用MaxCompute进行数据处理时，可能会遇到各种操作报错。以下是一些常见的MaxCompute操作报错及其可能的原因与解决措施的合集。
24
1
1
|
20天前
|
分布式计算
大数据
数据处理
|
29天前
|
数据可视化
Linux
Apache
CentOS部署Apache Superset大数据可视化BI分析工具并实现无公网IP远程访问
CentOS部署Apache Superset大数据可视化BI分析工具并实现无公网IP远程访问
44
0
0
|
1月前
|
机器学习/深度学习
分布式计算
大数据
一文读懂Apache Beam：统一的大数据处理模型与工具
【4月更文挑战第8天】Apache Beam是开源的统一大数据处理模型，提供抽象化编程模型，支持批处理和流处理。它提倡"一次编写，到处运行"，可在多种引擎（如Spark、Dataflow、Flink）上运行。Beam的核心特性包括抽象化概念（PCollection、PTransform和PipelineRunner）、灵活性（支持多种数据源和转换）和高效执行。它广泛应用在ETL、实时流处理、机器学习和大数据仓库场景，助力开发者轻松应对数据处理挑战。
25
1
1
|
1月前
|
分布式计算
资源调度
Hadoop
Apache Hadoop入门指南：搭建分布式大数据处理平台
【4月更文挑战第6天】本文介绍了Apache Hadoop在大数据处理中的关键作用，并引导初学者了解Hadoop的基本概念、核心组件（HDFS、YARN、MapReduce）及如何搭建分布式环境。通过配置Hadoop、格式化HDFS、启动服务和验证环境，学习者可掌握基本操作。此外，文章还提及了开发MapReduce程序、学习Hadoop生态系统和性能调优的重要性，旨在为读者提供Hadoop入门指导，助其踏入大数据处理的旅程。
208
0
0
|
2月前
|
分布式计算
大数据
Apache
|
2月前
|
消息中间件
API
Apache
官宣｜阿里巴巴捐赠的 Flink CDC 项目正式加入 Apache 基金会
本文整理自阿里云开源大数据平台徐榜江 (雪尽)，关于阿里巴巴捐赠的 Flink CDC 项目正式加入 Apache 基金会。
1631
2
2
|
2月前
|
SQL
Java
API
热门文章
最新文章
1
阿里封神谈hadoop生态学习之路
2
如何使用Kafka Connect实现同步RDS binlog数据
3
JindoFS: 云上大数据的高性能数据湖存储方案
4
梨视频：基于阿里云E-MapReduce搭建视频推荐系统的实践
5
JindoFS解析 - 云上大数据高性能数据湖存储方案
6
HIVE MapJoin异常问题处理总结
7
JindoFS概述：云原生的大数据计算存储分离方案
8
助力云上开源生态 - 阿里云开源大数据平台的发展
9
基于Spark Streaming 进行 MySQL Binlog 日志准实时传输
10
在 Apache Spark 中利用 HyperLogLog 函数实现高级分析
1
基于阿里云向量检索 Milvus 版和 LangChain 快速构建 LLM 问答系统
61
2
基于阿里云向量检索 Milvus 版与 PAI 搭建高效的检索增强生成（RAG）系统
156
3
通过阿里云向量检索 Milvus 版和通义千问快速构建基于专属知识库的问答系统
336
4
EMR Notebook 开启公测，提供交互式数据分析平台
179
5
Apache Hadoop入门指南：搭建分布式大数据处理平台
208
6
阿里云向量检索 Milvus 版开启公测，助力企业打造高质量 AI 服务
421
7
Paimon 与 Spark 的集成（二）：查询优化
117550
8
阿里云 EMR Serverless Spark 版免费邀测中
438
9
实用工具推荐：适用于 TypeScript 网络爬取的常用爬虫框架与库
224
10
1688API接口推荐：1688口令转换真实链接接口
40