搭建大数据运行环境之二(3)

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
简介: 搭建大数据运行环境之二(3)

负责


  • 存放数据


  • 文件被分割以block的形式被存储在磁盘上


Secondarynode


用来监控hdfs状态的后台辅助程序
就向namenode一样 每个集群都有一个
并且部署在一个单独的服务器上
不接受或记录任何实时的数据变化
与namenode通信 以定期保存hdfs元数据快照


存在的意义


1、由于namenode是单点
通过SecondaryNameNode的快照功能
可以将namenode宕机时间和数据损失降低到最小
2、若namenode出现问题 Secondarynode可以作为备用节点
3、主要将namenode image(fsimage)和Edit log定期合并


  • fsimage


包含hadoop系统所有目录(修改时间、访问控制权限)和
文件(修改时间、访问时间、块大小、组成一个文件块信息)idnode的序列化信息


  • Edit log


客户端对文件操作的记录 比如上传新文件


客户端执行写操作



image.png


image.png


Resourcemanager


与客户端进行交互


处理来自于客户端的请求
如查询应用的运行情况等


管理各个应用的ApplicationMaster


为ApplicationMaster申请第一个Container用于启动和
在它运行失败时将它重新启动


管理NodeManager


接收来自NodeManager的资源和节点健康情况汇报
并向NodeManager下达管理资源命令
例如kill掉某个container


资源管理和调度


最重要的职能:
接收来自ApplicationMaster的资源申请
并且为其进行分配


Nodemanager


NM是ResourceManager在每台机器上的代理
负责容器管理,并监控它们的资源使用情况
以及向ResourceManager/Scheduler提供资源使用报告


总结


image.png


Mysql


在192.168.84.128上安装Mysql
docker pull mysql:5.7
# 创建数据,配置目录
mkdir -p /docker/mysql/{data,conf.d}
# 创建配置文件
vi /docker/mysql/conf.d/my.cnf
# 添个一项配置,默认是 UTC
[mysqld]
log_timestamps=SYSTEM
default-time-zone='+8:00'
character-set-server=utf8
# 重新启动
docker run --name mysql -p 3306:3306 \
-v /docker/mysql/conf.d:/etc/mysql/conf.d \
-v /docker/mysql/data:/var/lib/mysql \
-e MYSQL_ROOT_PASSWORD=123456 \
--restart=always -d mysql:5.7
# 参数说明
-e MYSQL_ROOT_PASSWORD=123456:初始化root用户的密码
--restart=always:跟随 Docker 启动
相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
分布式计算 Hadoop Java
Hadoop学习指南:探索大数据时代的重要组成——运行环境搭建
Hadoop学习指南:探索大数据时代的重要组成——运行环境搭建
119 0
|
分布式计算 资源调度 Hadoop
大数据Hadoop运行环境搭建
大数据Hadoop运行环境搭建
265 0
|
SQL 消息中间件 存储
搭建大数据运行环境之二(4)
搭建大数据运行环境之二(4)
180 0
搭建大数据运行环境之二(4)
|
分布式计算 大数据 Hadoop
搭建大数据运行环境之二(2)
搭建大数据运行环境之二(2)
158 0
搭建大数据运行环境之二(2)
|
分布式计算 大数据 Hadoop
搭建大数据运行环境之二(1)
搭建大数据运行环境之二(1)
183 0
搭建大数据运行环境之二(1)
|
分布式计算 大数据 Hadoop
搭建大数据运行环境之一
搭建大数据运行环境之一
164 0
搭建大数据运行环境之一
|
分布式计算 资源调度 安全
大数据之Hadoop3.x 运行环境搭建(手把手搭建集群)
安装模板虚拟机,IP 地址 192.168.10.100、主机名称 hadoop100、内存 4G、硬盘 50G
1602 0
大数据之Hadoop3.x 运行环境搭建(手把手搭建集群)
|
分布式计算 大数据 数据处理
|
2月前
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么?
数据架构 ODPS 是什么?
427 7
|
2月前
|
存储 分布式计算 大数据
大数据 优化数据读取
【11月更文挑战第4天】
58 2