1.下载hadoop ,推荐去官网下载:请点击 官网地址(我下载的是2.6.5版本的)
2,把它进行拷贝到linux中;
3,在usr下解压其压缩文件
命令【tar -zxvf +文件名】
4,删除压缩包
命令【rm -rf +文件名】
5,将解压后的文件改名为“hadoop”
命令【mv +旧文件名+hadoop】
6,根据hadoop文件的位置编辑它的环境变量
命令【vim /etc/bashrc】
添加以下内容:
#set hadoop env
export HADOOP_HOME=/usr/hadoop
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin:$PATH
补充:关于sbin的目录的配置可以,在任何位置启动hadoop
7,使其上面配置的文件生效
命令【source /etc/bashrc】
8,hadoop是否能够启动的重点来了,那就是文件的配置(/usr/hadoop/etc/hadoop/下的文件)
-
- hadoop-env.sh :主要添加jdk的环境变量
export JAVA_HOME=/usr/java/jdk1.7.0_80
-
- core-site.xml : 添加内容如下(小括号的内容不必填写,但所描述的目录需要自己建立)
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://172.21.3.73:9000</value> (默认的HDFS路径)
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/home/hadoopdir/tmp</value> (默认是NameNode、DataNode、JournalNode等存放数据的公共目录)
</property>
<configuration>
-
- hdfs-site.xml : 添加内容如下
<configuration>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:///home/hadoopdir/dfs/name</value>
</property>
<property>
<name>dfs.namenode.data.dir</name>
<value>file:///home/hadoopdir/dfs/data</value>
</property>
<property>
<name>dfs.replication</name>
<value>3</value>(指定DataNode存储block的副本数量。默认值是3个,我们现在有4个DataNode,该值不大于4即可。)
</property>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>172.21.3.73:50090</value>
</property>
<property>
<name>dfs.webhdfs.enabled</name>
<value>true</value>
</property>
</configuration>
-
- yarn-site.xml : 添加内容如下
<configuration>
<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.resourcemanager.hostname</name>
<value>master.hadoop</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.resourcemanager.address</name>
<value>172.21.3.73:8032</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>172.21.3.73:8030</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>172.21.3.73:8031</value>
</property>
<property>
<name>yarn.resourcemanager.admin.address</name>
<value>172.21.3.73:8033</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address</name>
<value>172.21.3.73:8088</value>
</property>
</configuration
-
- mapred-site.xml (这个文件本身是没有的,cp mapre-site.xml.template mapre-site.xml)
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
<final>true</final>
</property>
<property>
<name>mapreduce.jobtracker.http.address</name>
<value>172.21.3.73:50030</value>
</property>
<property>
<name>mapreduce.jobhistory.address</name>
<value>http://172.21.3.73:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.address</name>
<value>172.21.3.73:19888</value>
</property>
<property>
<name>mapred.job.tracker</name>
<value>http://172.21.3.73:9001</value>
</property>
</configuration>9,在Slaves 里配置节点信息(只配置从节点就可以了)
Slave1.Hadoop
Slave2.Hadoop
Slave3.Hadoop
10,接下来就可以进行大胆的验证了,集群启动时需要格式化命令【hadoop namenode -format】
11,启动集群命令【start-all.sh】
12,可以在网页上看出集群的状态(当然 也可以直接:jps 查询)两个网页【主节点ip:50070】,【主节点ip; 9000】
12,当然中间会出现很多问题,接下来我会慢慢补充的。。。。。!