Mac环境下安装hadoop

简介: Mac环境下安装hadoop

配置ssh免密登录

mac下开启远程登录

系统偏好设置 -> 共享 -> 远程登录

授权免密登录


# 生成秘钥(如果没有)
ssh-keygen -t rsa -P ''
# 授权免密登录
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
# 免密登录
ssh lcoalhost

安装hadoop

brew install hadoop

配置


# 查看hadoop路径
brew info hadoop
# 查看java路径
which java

进入配置文件路径

/usr/local/Cellar/hadoop/3.1.1/libexec/etc/hadoop


1、配置JAVA环境

hadoop-env.sh

export HADOOP_OPTS="$HADOOP_OPTS -Djava.net.preferIPv4Stack=true -Djava.security.krb5.realm= -Djava.security.krb5.kdc="
export JAVA_HOME="/Library/Java/JavaVirtualMachines/jdk1.8.0_172.jdk/Contents/Home"

2、配置hdfs地址和端口

core-site.xml


<configuration>
  <property>
     <name>hadoop.tmp.dir</name>
<value>/usr/local/Cellar/hadoop/hdfs/tmp</value>
  </property>
  <property>
     <name>fs.default.name</name>
     <value>hdfs://localhost:8020</value>
  </property>
</configuration>

3、配置jobtracker的地址和端口

mapred-site.xml

<configuration>
      <property>
        <name>mapred.job.tracker</name>
        <value>localhost:8021</value>
      </property>
</configuration>

4、修改hdfs备份数

hdfs-site.xml

<configuration>
   <property>
     <name>dfs.replication</name>
     <value>1</value>
    </property>
    <property>
       <name>dfs.name.dir</name>
       <value>/usr/local/Cellar/hadoop/hdfs/name</value>
    </property>
    <property>
       <name>dfs.data.dir</name>
       <value>/usr/local/Cellar/hadoop/hdfs/data</value>
    </property>
    <property>
      <name>dfs.http.address</name>
      <value>localhost:50070</value>
    </property>
</configuration>

添加环境变量

vim ~/.bash_profile

export HADOOP_HOME=/usr/local/Cellar/hadoop/3.1.1
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin

生效

source ~/.bash_profile

格式化hdfs

hdfs namenode -format

启动关闭


start-dfs.sh  
stop-dfs.sh
start-yarn.sh
stop-yarn.sh

hadoop http://localhost:50070

yarn http://localhost:8088


查看文件

hdfs dfs -ls  /

指令没反应加个sudo

相关文章
|
29天前
|
NoSQL 数据可视化 Redis
Mac安装Redis
Mac安装Redis
35 3
|
29天前
|
Oracle Java 关系型数据库
Mac安装JDK1.8
Mac安装JDK1.8
266 4
|
29天前
|
数据安全/隐私保护 iOS开发 MacOS
Mac安装Navicat Premium 16.3.5
Mac安装Navicat Premium 16.3.5
87 3
|
9天前
|
Web App开发 开发工具 Android开发
【Flutter】Flutter安装和配置(mac)
【Flutter】Flutter安装和配置(mac)
|
13天前
|
Shell 数据安全/隐私保护
Mac上HomeBrew安装及换源教程
【8月更文挑战第30天】这是在 Mac 上安装及更换 Homebrew 源的教程。首先通过终端执行命令 `/bin/bash -c &quot;\$\(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh\)` 安装 Homebrew,并使用 `brew --version` 检查是否安装成功。接着可更换软件源以提高下载速度,例如设置中科大为源,并更新相关设置。这将有助于提升 Homebrew 的使用体验。
152 9
|
29天前
|
应用服务中间件 PHP nginx
Mac安装Nginx
Mac安装Nginx
21 2
Mac安装Nginx
|
16天前
|
分布式计算 资源调度 Hadoop
centos7二进制安装Hadoop3
centos7二进制安装Hadoop3
|
29天前
|
网络安全 开发工具 git
Mac安装Git
Mac安装Git
23 2
|
29天前
|
Python
Mac安装Python3.12开发环境
Mac安装Python3.12开发环境
101 2
|
17天前
|
存储 分布式计算 监控
Hadoop在云计算环境下的部署策略
【8月更文第28天】Hadoop是一个开源软件框架,用于分布式存储和处理大规模数据集。随着云计算技术的发展,越来越多的企业开始利用云平台的优势来部署Hadoop集群,以实现更高的可扩展性、可用性和成本效益。本文将探讨如何在公有云、私有云及混合云环境下部署和管理Hadoop集群,并提供具体的部署策略和代码示例。
39 0