Presto 访问 OSS 透明缓存加速 | 学习笔记

本文涉及的产品
对象存储 OSS,标准 - 本地冗余存储 20GB 3个月
对象存储 OSS,内容安全 1000 次 1年
对象存储OSS,敏感数据保护2.0 200GB 1年
简介: 快速学习 Presto 访问 OSS 透明缓存加速。

开发者学堂课程【数据湖 JindoFS + OSS 实操干货36讲Presto 访问 OSS 透明缓存加速 】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/833/detail/13973


Presto 访问 OSS 透明缓存加速

 

内容介绍

一、JindoFS 缓存模式简介

二、Presto 访问 OSS 的缓存加速

三、实操演示

 

一、JindoFS 缓存模式简介

两大服务主件:

Jindo Namespace Service(负责缓存数据快的信息管理)

Jindo Storage Service(部署在节点上,利用本地存储资源实现缓存加速)

一个客户端:Jindo SDK

 

二、Presto 访问OSS的缓存加速

1.部署缓存服务

(1)下载最新 Release b2smartdata-x.x.x.tar.gz ,解压并部署到集群所有节点上

2)修改配置文件 conf/bigboot.cfg

 1.png

3)修改 sbin/nodes,配置所有 storage service 的节点列表

4)启动所有服务/sbin/start-service.sh

详细文档可参考:https://gitub.com/aliyun/alibabacloud-jindofs/blob/master/docs/jindofs_cache_mode_deploy.md

2.部署 Jindo SDK

1)安装 jar 包:下载最新的 jar jindofs-sdk-x.x.x.jar,在所有 Presto 节点安装。cpjindofs- sdk-$ {version} .jar$PRESTO_HOME/plugin/hive-hadoop2/

2)配置 JindoFS 实现类:将JindoFS 实现类配置到 Hadoop core-site.xml中。

3.配置 OSS Access Key

OSS Access KeyAccess Key SecretEndpoint 等预先配置在Hadoopcore-site.xml 中。

4.配置客户端连接缓存服务

客户端通过环境变量 B2SDK_CONF_DIR 定位并加载配置文件 bigboot.cfg

·设置环境变量指定配置目录

export B2SDK_CONF_DIR=/path/to/sdk/conf

·在配置目录下添加 bigboot.cfg 配文件

·client.storage.rpc.port=6101

·client.namespace.rpc.address= :8101

·jfs.cache.data-cache.enable=true2.png5.Presto 访问 OSS 透明缓存加速

·完成以上配置之后,重启 Presto 所有服务

·hive catalog 即可访问 OSS

·Presto SQL 读取 OSS 上的数据后,会自动缓存到 JindoFS 缓存系统中,后续访问相同的数据就能够命中缓存


三、实操演示

·JindoFS 缓存服务配置:3.png

·启动后进程会监听在8104端口上,通过浏览器查看8104端口,可以查看整个JindoFS 的状态信息,配置的节点和磁盘水位。

4.png完成以上检查后,即可确认一个缓存服务的可用状态

·以下为在 Presto 中如何使用 SDK 来缓存加速数据5.png

相关实践学习
通义万相文本绘图与人像美化
本解决方案展示了如何利用自研的通义万相AIGC技术在Web服务中实现先进的图像生成。
相关文章
|
缓存 NoSQL 网络安全
【Azure Redis 缓存】Azure Redis服务开启了SSL(6380端口), PHP如何访问缓存呢?
【Azure Redis 缓存】Azure Redis服务开启了SSL(6380端口), PHP如何访问缓存呢?
204 0
|
缓存 NoSQL 网络安全
【Azure Redis 缓存】在Azure Redis中,如何限制只允许Azure App Service访问?
【Azure Redis 缓存】在Azure Redis中,如何限制只允许Azure App Service访问?
115 0
|
缓存 NoSQL Redis
【Azure Redis 缓存】C#程序是否有对应的方式来优化并缩短由于 Redis 维护造成的不可访问的时间
【Azure Redis 缓存】C#程序是否有对应的方式来优化并缩短由于 Redis 维护造成的不可访问的时间
115 0
|
缓存 NoSQL Redis
【Azure Redis 缓存】Azure Redis加入VNET后,在另一个区域(如中国东部二区)的VNET无法访问Redis服务(注:两个VNET已经结对,相互之间可以互ping)
【Azure Redis 缓存】Azure Redis加入VNET后,在另一个区域(如中国东部二区)的VNET无法访问Redis服务(注:两个VNET已经结对,相互之间可以互ping)
100 0
|
缓存 NoSQL 网络协议
【Azure Redis 缓存】如何使得Azure Redis可以仅从内网访问? Config 及 Timeout参数配置
【Azure Redis 缓存】如何使得Azure Redis可以仅从内网访问? Config 及 Timeout参数配置
185 0
|
缓存 NoSQL 网络协议
【Azure Redis 缓存 Azure Cache For Redis】在创建高级层Redis(P1)集成虚拟网络(VNET)后,如何测试VNET中资源如何成功访问及配置白名单的效果
【Azure Redis 缓存 Azure Cache For Redis】在创建高级层Redis(P1)集成虚拟网络(VNET)后,如何测试VNET中资源如何成功访问及配置白名单的效果
159 0
|
缓存 监控 网络协议
Web的缓存加速
Web的缓存加速(Squid的安装与配置) 1.Squid代理服务器基础知识
317 0
Web的缓存加速
|
缓存 网络协议 前端开发
浏览器访问缓存都发生了什么
浏览器访问缓存都发生了什么
121 0
|
缓存 NoSQL 关系型数据库
课时3:通过缓存来加速数据库访问(MySQL+Redis)
课时3:通过缓存来加速数据库访问(MySQL+Redis)
|
存储 人工智能 缓存
2022云栖精选—云原生驱动数据抽象 与缓存加速开源技术发展
顾 荣 南京大学 计算机科学与技术系 计算机软件新技术国家重点实验室(南京大学
568 0
2022云栖精选—云原生驱动数据抽象 与缓存加速开源技术发展