hadoop常用进程和web端口整理

本文涉及的产品
服务治理 MSE Sentinel/OpenSergo,Agent数量 不受限
注册配置 MSE Nacos/ZooKeeper,118元/月
云原生网关 MSE Higress,422元/月
简介: 应用场景 Hadoop部署完分布式集群后,运行了一些组件,会产生很多进程,和web可以访问的端口,容易混淆,这里把一些常见的进程,进程的作用和端口进行归纳,总结,方便区分。

应用场景

Hadoop部署完分布式集群后,运行了一些组件,会产生很多进程,和web可以访问的端口,容易混淆,这里把一些常见的进程,进程的作用和端口进行归纳,总结,方便区分。

操作步骤

1. HDFS进程及端口

HDFS启动后包含的进程有:NameNode,DataNode,SecondaryNameNode

启动方法,在主节点:

 #  cd /opt/hadoop2.6.0/sbin/
 #  ./start-dfs.sh

启动完后访问端口为50070,通过主节点IP加上端口即可访问:

这里写图片描述

2. YARN进程及端口

YARN启动后包含的进程有:Resourcemanager,NodeManager

启动方法,在主节点:

 # cd /opt/hadoop2.6.0/sbin/ 
 # ./start-yarn.sh

启动完后访问端口为8088,通过主节点IP加上端口即可访问:

这里写图片描述

3. ZooKeeper进程

Zookeeper启动后包含的进程是:QuorumPeerMain

注:
HQuorumPeer进程是hbase管理的zookeeper
QuorumPeerMain进程就是zookeeper独立的进程

也就是说,如果您用的是hbase的zookeeper,那么就是HQuorumPeer进程

启动方法,在需要启动ZooKeeper的节点上:

 # cd /opt/zookeeper3.4.10/bin/ 
 # zkServer.sh start

4. HBASE进程及端口

Hbase启动后包含的进程有 : HMaster,HRegionServer

启动方法,在主节点:

 # cd /opt/hbase1.2.6/bin 
 # ./start-hbase.sh

启动完后访问端口为16010,通过主节点IP加上端口即可访问:

这里写图片描述

5. Spark进程及端口

Spark启动后包含的进程有 : Master Worker

启动方法,在主节点:

 # cd /opt/spark1.6.1/sbin 
 # ./start-all.sh

启动完后访问端口为8080,通过主节点IP加上端口即可访问:【资源监控地址master】

这里写图片描述

启动后4040任务监控端口并没有开启,需要spark-shell –master spark://hadoop0:7077,执行:【任务监控地址Drive】

这里写图片描述

注意:

  spark-shelllocal模式,在4040端口监控任务】
  spark-shell --master spark://hadoop0:7077  【standalone模式,在8080端口监控任务】
  spark-shell --master yarn-client          【yarn-client模式,在yarn 8088端口监控任务】
  spark-shell --master yarn-cluster         【yarn-cluster模式,在yarn 8088端口监控任务】
相关实践学习
lindorm多模间数据无缝流转
展现了Lindorm多模融合能力——用kafka API写入,无缝流转在各引擎内进行数据存储和计算的实验。
云数据库HBase版使用教程
  相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情: https://cn.aliyun.com/product/hbase   ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
相关文章
|
8月前
杀死本地80端口被占用的进程,还你一片宁静乐土
杀死本地80端口被占用的进程,还你一片宁静乐土
|
5月前
|
网络协议 Linux
Linux查看端口监听情况,以及Linux查看某个端口对应的进程号和程序
Linux查看端口监听情况,以及Linux查看某个端口对应的进程号和程序
740 2
|
3月前
|
运维 Linux
Linux查找占用的端口,并杀死进程的简单方法
通过上述步骤和命令,您能够迅速识别并根据实际情况管理Linux系统中占用特定端口的进程。为了获得更全面的服务器管理技巧和解决方案,提供了丰富的资源和专业服务,是您提升运维技能的理想选择。
100 1
|
3月前
通过进程识别号查看SQLserve端口号
通过进程识别号查看SQLserve端口号
44 0
|
5月前
|
网络协议
Mac根据端口查询进程id的命令
这篇文章介绍了在Mac操作系统上如何使用两种命令来查询监听特定端口的进程ID。第一种方法是使用`netstat -anp tcp -v | grep 端口号`,例如`netstat -anp tcp -v | grep 80`,这将列出所有使用端口80的TCP连接及其相关信息。第二种方法是使用`lsof -P -n -i:端口号`,例如`lsof -P -n -i:8080`,这将显示使用指定端口的进程列表,包括进程ID、用户、文件描述符等信息。文章通过示例展示了如何使用这些命令,并提供了输出结果的截图。
380 2
|
5月前
|
Windows
Windows中如何查看被占用的端口、杀掉对应的进程
这篇文章介绍了在Windows系统中如何查看被占用的端口号以及如何杀掉占用端口的进程,包括使用命令提示符的`netstat -ano | findstr 端口号`命令查找进程PID,然后通过任务管理器或`taskkill /PID PID号`命令来结束进程。
Windows中如何查看被占用的端口、杀掉对应的进程
|
5月前
|
存储 分布式计算 资源调度
|
5月前
|
Linux Windows
Windows查找监听端口对应的进程及其路径
Windows查找监听端口对应的进程及其路径
134 0
|
6月前
|
运维 Python Windows
如何通过Python脚本查找并终止占用指定端口的进程
在日常的开发和运维过程中,某些端口被意外占用是一个常见的问题。这种情况可能导致服务无法启动或冲突。本文将介绍如何通过Python脚本查找并终止占用指定端口的进程,以确保系统的正常运行。
|
7月前
|
缓存 数据安全/隐私保护 虚拟化
windows端口被占用,无法通过netstat找到进程,占用的端口又不能修改,该怎么办?
项目运行时服务器8080端口被占用,常规`netstat`命令找不到占用进程。解决方法包括:1) 强制关机重启释放端口;2) 使用`netstat -anobq`或Windows 10的`Get-NetTCPConnection` PowerShell命令查找BOUND状态的进程;3) 调整Windows动态端口范围,避免冲突。注意,强制关机可能影响数据安全。
1644 2