AWS大数据三种经典玩法(下)

本文涉及的产品
数据管理 DMS,安全协同 3个实例 3个月
推荐场景:
学生管理系统数据库
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
简介: 笔记

三、AWS实操案例


1、业务流程图

62.png

具体流程如上图所示,我们从任何一个可访问的RDS关系型数据获取数据源,通过DMS处理后存储至S3里面,然后我们将S3中的数据类似ETL的数据处理,即通过Glue进行处理。然后将处理后的数据存储至Redshift的数仓里面去,然后我们可以通过Athena提供SQ查询功能访问数仓或者Glue里面的数据,然后再通过报表工具(QuickSight)进行展示。哈哈,通过上面的全家桶介绍,发现理解下面的流程图是不是非常的简单了。


2、RDS→DMS→S3实例

目的:将mysql关系型数据库user表的记录通过DMS工具,抽取至S3中。

63.png

S3配置:首先我们在AWS平台上创建S3的桶来存储我们要抽取的数据。创建过程我们按系统提示输入即可非常方便,如果不能找到S3的组件,可在搜索栏进行搜索。具体如下图所示。64.png65.png

DMS配置:类似搜索dms进入dms组件操作界面,配置对应数据库URL,创建实例、创建作业从mysql到s3。如图所示创建过程很简单,只需要按照对应水印操作即可。

66.png67.png68.pngimage.pngimage.png

运行实例:点击创建好的实例,去S3中查看运行的结果。如下图所示我们可以在S3里面查看对应抽取的数据,然后点击对应数据查看,抽取过来的记录是和mysql源数据库数据是一致的。

71.png72.png73.png

四、总结


1、AWS自家的组件使用非常的方便,整个开发过程也可监控,全程可视化配置。AWS的默认配置是根据常用开发场景进行设置的,因此可大大提高开发效率。而AWS的组件的高度集成不得不让人竖起大拇指。


2、我们可根据我们业务实际情况,选择不同的玩法更好适配业务的发展。


3、 不管哪种玩法,AWS都提供了托管服务和基础架构组件。架构现代化是一切创新的基石,其最重要的理念是“The right tool for the job”,即在不同的场景使用专门构建的工具,而专门的工具需要专业的现代化托管平台,这些都可以大量节省企业的时间、金钱和精力。 AWS无疑是最佳的选择之一。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
架构师 大数据 数据库
大厂 AWS 推崇的大数据平台是什么样的? - 亚马逊云科技数据驱动创新 - 在线大会精彩回顾(20211028) 2
大厂 AWS 推崇的大数据平台是什么样的? - 亚马逊云科技数据驱动创新 - 在线大会精彩回顾(20211028)
|
存储 安全 搜索推荐
大厂 AWS 推崇的大数据平台是什么样的? - 亚马逊云科技数据驱动创新 - 在线大会精彩回顾(20211028) 1
大厂 AWS 推崇的大数据平台是什么样的? - 亚马逊云科技数据驱动创新 - 在线大会精彩回顾(20211028)
|
机器学习/深度学习 存储 数据可视化
|
存储 NoSQL 大数据
“七天深入HBase大数据生态实训营”玩法公告
个人学习HBase不免遇到架构了解不清晰、查询设计效率低、业务搭建不科学等等问题。5月31日,阿里云联合中国HBase技术社区联合推出《七天深入HBase大数据生态实训营》,由Apache HBase社区PMC领衔授课,通过原理讲解、实战教学,带你走进分布式存储的广阔世界。
“七天深入HBase大数据生态实训营”玩法公告
|
分布式计算 大数据 Hadoop
|
网络协议 大数据
大数据下的玩法 DNS MAPPING
https://dnsdumpster.com/ https://scans.io/ http://www.
765 0
|
存储 大数据
基于AWS云服务的大数据与大规模计算的应用架构
AWS对于大规模计算方案是很受欢迎的,如科学计算,模拟和研究项目。这些方案包括从科研设备,测量设备,或其他计算作业的大量数据集的采集。
783 0