搭建大数据运行环境之二(3)

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
云数据库 RDS MySQL Serverless,价值2615元额度,1个月
简介: 搭建大数据运行环境之二(3)

负责


  • 存放数据


  • 文件被分割以block的形式被存储在磁盘上


Secondarynode


用来监控hdfs状态的后台辅助程序
就向namenode一样 每个集群都有一个
并且部署在一个单独的服务器上
不接受或记录任何实时的数据变化
与namenode通信 以定期保存hdfs元数据快照


存在的意义


1、由于namenode是单点
通过SecondaryNameNode的快照功能
可以将namenode宕机时间和数据损失降低到最小
2、若namenode出现问题 Secondarynode可以作为备用节点
3、主要将namenode image(fsimage)和Edit log定期合并


  • fsimage


包含hadoop系统所有目录(修改时间、访问控制权限)和
文件(修改时间、访问时间、块大小、组成一个文件块信息)idnode的序列化信息


  • Edit log


客户端对文件操作的记录 比如上传新文件


客户端执行写操作



image.png


image.png


Resourcemanager


与客户端进行交互


处理来自于客户端的请求
如查询应用的运行情况等


管理各个应用的ApplicationMaster


为ApplicationMaster申请第一个Container用于启动和
在它运行失败时将它重新启动


管理NodeManager


接收来自NodeManager的资源和节点健康情况汇报
并向NodeManager下达管理资源命令
例如kill掉某个container


资源管理和调度


最重要的职能:
接收来自ApplicationMaster的资源申请
并且为其进行分配


Nodemanager


NM是ResourceManager在每台机器上的代理
负责容器管理,并监控它们的资源使用情况
以及向ResourceManager/Scheduler提供资源使用报告


总结


image.png


Mysql


在192.168.84.128上安装Mysql
docker pull mysql:5.7
# 创建数据,配置目录
mkdir -p /docker/mysql/{data,conf.d}
# 创建配置文件
vi /docker/mysql/conf.d/my.cnf
# 添个一项配置,默认是 UTC
[mysqld]
log_timestamps=SYSTEM
default-time-zone='+8:00'
character-set-server=utf8
# 重新启动
docker run --name mysql -p 3306:3306 \
-v /docker/mysql/conf.d:/etc/mysql/conf.d \
-v /docker/mysql/data:/var/lib/mysql \
-e MYSQL_ROOT_PASSWORD=123456 \
--restart=always -d mysql:5.7
# 参数说明
-e MYSQL_ROOT_PASSWORD=123456:初始化root用户的密码
--restart=always:跟随 Docker 启动
相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
SQL 消息中间件 存储
搭建大数据运行环境之二(4)
搭建大数据运行环境之二(4)
151 0
搭建大数据运行环境之二(4)
|
分布式计算 大数据 Hadoop
搭建大数据运行环境之二(2)
搭建大数据运行环境之二(2)
132 0
搭建大数据运行环境之二(2)
|
分布式计算 大数据 Hadoop
搭建大数据运行环境之二(1)
搭建大数据运行环境之二(1)
152 0
搭建大数据运行环境之二(1)
|
分布式计算 大数据 Hadoop
搭建大数据运行环境之一
搭建大数据运行环境之一
140 0
搭建大数据运行环境之一
|
分布式计算 大数据 数据处理
|
8天前
|
分布式计算 大数据 BI
MaxCompute产品使用合集之MaxCompute项目的数据是否可以被接入到阿里云的Quick BI中
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
8天前
|
SQL 分布式计算 大数据
MaxCompute产品使用合集之怎样可以将大数据计算MaxCompute表的数据可以导出为本地文件
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
8天前
|
分布式计算 DataWorks 关系型数据库
MaxCompute产品使用合集之可以使用什么方法将MySQL的数据实时同步到MaxCompute
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
7天前
|
分布式计算 DataWorks 数据库
DataWorks操作报错合集之DataWorks使用数据集成整库全增量同步oceanbase数据到odps的时候,遇到报错,该怎么处理
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
21 0
|
7天前
|
分布式计算 DataWorks 关系型数据库
DataWorks产品使用合集之在 DataWorks 中,使用Oracle作为数据源进行数据映射和查询,如何更改数据源为MaxCompute或其他类型
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
24 1

热门文章

最新文章