Presto 架构

简介: Coordinator担当 Master 角色,负责解析 SQL,生成查询计划,提交查询任务给 Worker 执行,管理 Worker 节点。

Presto Server


Coordinator担当 Master 角色,负责解析 SQL,生成查询计划,提交查询任务给 Worker 执行,管理 Worker 节点。


Worker执行任务和处理数据


Data Source


ConnectorConnector 是一个适配连接器,Presto 使用 Connector 去连接不同的数据源,比如 Hive 、关系型数据库等。可以通过实现自己的 Connector 去扩展数据源。


CatalogCatalog 多个 schema 的集合,表示通过 connector 获取的一种数据源,你可以使用 hive connector 的多个 catalog 来代表不同的 hive 集群数据源。常见的 catalog 为:mysql catalog,hive catalog 等


Schema表的集合,类似于 Hive、MySQL 中的 database。


Table类似于Hive中的table


查询 catalog 为 hive,数据库为 test,表为 table1 的语句为

select count(*) from hive.test.table1


Query Model


Statement表示一个 SQL 查询语句


Query表示 Statement 经过解析,生成的执行计划,查询计划。在 Presto 集群中运行的查询, 一个 Query 由多个 Stage 组成、Task、Driver、Split、Operator 和 Datasource 组成。


Stage查询执行阶段,一个 Query 会被拆分成具有层级关系的多个 Stage 执行,一个 Stage 就是查询执行计划的一部分。 四种stage:Coordinator_Only:一般表示 DDL,DML 的 Stage。Single:用于聚合子 stages 数据,并最终将数据输出给终端用户。比如每个查询中的 Root Stage。Fixed:用于接收子 Stage 产生的数据,并在集群中对这些数据进行聚合或分组计算。Source:连接数据源,从数据源读取数据。


Exchange连接不同的 Stage,用于不同 Stage 之间的数据交互Output Buffer:向下游提供数据,数据提供者Exchange Client:从上游读取数据,数据消费者

TaskStage 有多个 Task 组成。


Stage 并不会运行,只是负责管理 Task 和封装建模。Stage 实际运行的是 Task。每个Task 处理一个或者多个 Split。每个 Task 都有对应的输入和输出。


DriverTask 被分解成一个或者多个 Driver,并行执行多个 Driver 的方式来实现 Task 的并发执行。Driver 是作用于一个 Split 的一系列 Operator 的集合。一个 Driver 处理一个 Split,产生输出由 Task 收集并传递给下游的 Stage 中的一个 Task。一个 Driver 拥有一个输入和输出。


OperatorOperator 表示对一个 Split 的一种操作。比如过滤、转换等。 一个 Operator 一次读取一个 Split 的数据,将 Operator 所表示的计算、操作作用于 Split 的数据上,产生输出。每个 Operator 会以 Page 为最小处理单位分别读取输入数据和产生输出数据。Operator 每次只读取一个 Page,输出产生一个 Page


Split一个分片表示大的数据集合中的一个小子集,与 MapReduce 中的 Split 概念类似。

PagePresto 中处理的最小数据单元。一个 Page 对象包括多个 Block 对象,而每个 Block 对象是一个字节数组,存储一个字段的若干行。多个 Block 的横切的一行表示真实的一行数据。一个 Page 最大1MB,最多1 6x1024 行数据。


相关文章
|
SQL 关系型数据库 MySQL
Presto【基础 01】简介+架构+数据源+数据模型+特点(一篇即可入门支持到PB字节的分布式SQL查询引擎Presto)
Presto【基础 01】简介+架构+数据源+数据模型+特点(一篇即可入门支持到PB字节的分布式SQL查询引擎Presto)
1272 0
|
SQL 分布式计算 大数据
七、【计算】Presto架构原理与优化介绍(上) | 青训营笔记
七、【计算】Presto架构原理与优化介绍(上) | 青训营笔记
七、【计算】Presto架构原理与优化介绍(上) | 青训营笔记
|
SQL 存储 分布式计算
Presto 架构原理与优化介绍 | 青训营笔记
MapReduce代表了抽象的物理执行模型,使用]槛较高。 与Mapreduce Job相比,OLAP引擎常通过SQL的形式,为数据分析、数据开发人员提供统的逻辑描述语言,实际的物理执行由具体的引|擎进行转换和优化。
756 0
Presto 架构原理与优化介绍 | 青训营笔记
|
SQL 存储 分布式计算
Presto架构原理
Presto架构原理
685 0
Presto架构原理
|
存储 SQL 监控
深入理解Presto(1) : Presto的架构
简介 Presto是一个facebook开源的分布式SQL查询引擎,适用于交互式分析查询,数据量支持GB到PB字节。presto的架构由关系型数据库的架构演化而来。presto之所以能在各个内存计算型数据库中脱颖而出,在于以下几点: 清晰的架构,是一个能够独立运行的系统,不依赖于任何其他外部系统。
6412 0
|
1月前
|
Cloud Native Serverless API
微服务架构实战指南:从单体应用到云原生的蜕变之路
🌟蒋星熠Jaxonic,代码为舟的星际旅人。深耕微服务架构,擅以DDD拆分服务、构建高可用通信与治理体系。分享从单体到云原生的实战经验,探索技术演进的无限可能。
微服务架构实战指南:从单体应用到云原生的蜕变之路
|
4月前
|
缓存 Cloud Native Java
Java 面试微服务架构与云原生技术实操内容及核心考点梳理 Java 面试
本内容涵盖Java面试核心技术实操,包括微服务架构(Spring Cloud Alibaba)、响应式编程(WebFlux)、容器化(Docker+K8s)、函数式编程、多级缓存、分库分表、链路追踪(Skywalking)等大厂高频考点,助你系统提升面试能力。
248 0
|
11月前
|
弹性计算 API 持续交付
后端服务架构的微服务化转型
本文旨在探讨后端服务从单体架构向微服务架构转型的过程,分析微服务架构的优势和面临的挑战。文章首先介绍单体架构的局限性,然后详细阐述微服务架构的核心概念及其在现代软件开发中的应用。通过对比两种架构,指出微服务化转型的必要性和实施策略。最后,讨论了微服务架构实施过程中可能遇到的问题及解决方案。
|
Cloud Native Devops 云计算
云计算的未来:云原生架构与微服务的革命####
【10月更文挑战第21天】 随着企业数字化转型的加速,云原生技术正迅速成为IT行业的新宠。本文深入探讨了云原生架构的核心理念、关键技术如容器化和微服务的优势,以及如何通过这些技术实现高效、灵活且可扩展的现代应用开发。我们将揭示云原生如何重塑软件开发流程,提升业务敏捷性,并探索其对企业IT架构的深远影响。 ####
338 3

热门文章

最新文章