在这里我选用4台机器进行示范，各台机器的职责如下表格所示
<a href="http://s1.51cto.com/wyfs02/M02/7D/DD/wKiom1bxHY3xHDDiAAJddu5Z7hk945.jpg" target="_blank"></a>
（说明： 1. ZooKeepe使用其它节点的 2. Hadoop0节点安装所有的master, ha的matster全部是worker, 以达到较高的资源利用率，又对master的负载不会过高）
Hadoop0 -> dchadoop206
Hadoop1 -> dchadoop207
Hadoop2 -> dchadoop208
Hadoop3 -> dchadoop209
1. 搭建自动HA
1.1. 复制编译后的hadoop项目到/usr/local目录下
1.2. 修改位于etc/hadoop目录下的配置文件
1.1.1. hadoop-env.sh
1
<code>export</code> <code>JAVA_HOME=</code><code>/usr/local/jdk</code>
1.1.1. core-site.xml
2
3
4
5
<code><configuration></code>
<code><property></code>
<code> </code><code><name>fs.defaultFS<</code><code>/name</code><code>></code>
<code> </code><code><value>hdfs:</code><code>//cluster1</code><code><</code><code>/value</code><code>></code>
<code><</code><code>/property</code><code>></code>
【这里的值指的是默认的HDFS路径。当有多个HDFS集群同时工作时，用户如果不写集群名称，那么默认使用哪个哪？在这里指定！该值来自于hdfs-site.xml中的配置。在节点hadoop0和hadoop1中使用cluster1，在节点hadoop2和hadoop3中使用cluster2】
<code> </code><code><name>hadoop.tmp.</code><code>dir</code><code><</code><code>/name</code><code>></code>
<code> </code><code><value></code><code>/data0/hadoop/tmp</code><code><</code><code>/value</code><code>></code>
【这里的路径默认是NameNode、DataNode、JournalNode等存放数据的公共目录。用户也可以自己单独指定这三类节点的目录。】
<code> </code><code><name>ha.zookeeper.quorum<</code><code>/name</code><code>></code>
<code> </code><code><value>hadoop0:2181,hadoop1:2181,hadoop2:2181<</code><code>/value</code><code>></code>
【这里是ZooKeeper集群的地址和端口。注意，数量一定是奇数，且不少于三个节点】
<code><</code><code>/configuration</code><code>></code>
1.1.1. hdfs-site.xml
该文件只配置在hadoop0和hadoop1上。
<code> </code><code><property></code>
<code> </code><code><name>dfs.replication<</code><code>/name</code><code>></code>
<code> </code><code><value>2<</code><code>/value</code><code>></code>
<code> </code><code><</code><code>/property</code><code>></code>
【指定DataNode存储block的副本数量。默认值是3个，我们现在有4个DataNode，该值不大于4即可。】
<code> </code><code><name>dfs.namenode.name.</code><code>dir</code><code><</code><code>/name</code><code>></code>
<code> </code><code><value></code><code>file</code><code>:</code><code>///data0/hadoop2/hdfs/name</code><code><</code><code>/value</code><code>></code>
<code> </code><code><</code><code>/property</code><code>></code>
【指定namenode元数据信息存储位置】
<code> </code><code><name>dfs.datanode.data.</code><code>dir</code><code><</code><code>/name</code><code>> <value></code><code>file</code><code>:</code><code>///data0/hadoop2/hdfs/data</code><code>,</code><code>file</code><code>:</code><code>///data1/hadoop2/hdfs/data</code><code>,</code><code>file</code><code>:</code><code>///data2/hadoop2/hdfs/data</code><code>,</code><code>file</code><code>:</code><code>///data3/hadoop2/hdfs/data</code><code>,</code><code>file</code><code>:</code><code>///data4/hadoop2/hdfs/data</code><code>,</code><code>file</code><code>:</code><code>///data5/hadoop2/hdfs/data</code><code>,</code><code>file</code><code>:</code><code>///data6/hadoop2/hdfs/data</code><code>,</code><code>file</code><code>:</code><code>///data7/hadoop2/hdfs/data</code><code>,</code><code>file</code><code>:</code><code>///data8/hadoop2/hdfs/data</code><code>,</code><code>file</code><code>:</code><code>///data9/hadoop2/hdfs/data</code><code>,</code><code>file</code><code>:</code><code>///data10/hadoop2/hdfs/data</code><code><</code><code>/value</code><code>></code>
【指定datanode元数据信息存储位置, 设置成所有的磁盘】
<code> </code><code><property></code>
<code> </code><code><name>dfs.nameservices<</code><code>/name</code><code>></code>
<code> </code><code><value>cluster1<</code><code>/value</code><code>></code>
【设置cluster1的namenode id。】
<code> </code><code><name>dfs.ha.namenodes.cluster1<</code><code>/name</code><code>></code>
<code> </code><code><value>hadoop0,hadoop1<</code><code>/value</code><code>></code>
【指定NameService是cluster1时的namenode有哪些，这里的值也是逻辑名称，名字随便起，相互不重复即可】
<code> </code><code><name>dfs.namenode.rpc-address.cluster1.hadoop0<</code><code>/name</code><code>></code>
<code> </code><code><value>hadoop0:9000<</code><code>/value</code><code>></code>
【指定hadoop0的RPC地址】
<code> </code><code><name>dfs.namenode.http-address.cluster1.hadoop0<</code><code>/name</code><code>></code>
<code> </code><code><value>hadoop0:50070<</code><code>/value</code><code>></code>
【指定hadoop0的http地址】
<code> </code><code><name>dfs.namenode.rpc-address.cluster1.hadoop1<</code><code>/name</code><code>></code>
<code> </code><code><value>hadoop1:9000<</code><code>/value</code><code>></code>
【指定hadoop1的RPC地址】
<code> </code><code><name>dfs.namenode.http-address.cluster1.hadoop1<</code><code>/name</code><code>></code>
<code> </code><code><value>hadoop1:50070<</code><code>/value</code><code>></code>
【指定hadoop1的http地址】
<code> </code><code><property></code>
<code> </code><code><name>dfs.namenode.shared.edits.</code><code>dir</code><code><</code><code>/name</code><code>></code>
<code> </code><code><value>qjournal:</code><code>//hadoop0</code><code>:8485;hadoop1:8485;hadoop2:8485</code><code>/cluster1</code><code><</code><code>/value</code><code>></code>
【指定cluster1的两个NameNode共享edits文件目录时，使用的JournalNode集群信息】
<code> </code><code><name>dfs.ha.automatic-failover.enabled.cluster1<</code><code>/name</code><code>></code>
<code> </code><code><value></code><code>true</code><code><</code><code>/value</code><code>></code>
【指定cluster1是否启动自动故障恢复，即当NameNode出故障时，是否自动切换到另一台NameNode】
<code> </code><code><name>dfs.client.failover.proxy.provider.cluster1<</code><code>/name</code><code>></code>
<code> </code><code><value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider<</code><code>/value</code><code>></code>
【指定cluster1出故障时，哪个实现类负责执行故障切换】
<code> </code><code><name>dfs.journalnode.edits.</code><code>dir</code><code><</code><code>/name</code><code>></code>
<code> </code><code><value></code><code>/data0/hadoop2/hdfs/journal</code><code><</code><code>/value</code><code>></code>
【指定JournalNode集群在对NameNode的目录进行共享时，自己存储数据的磁盘路径】
<code> </code><code><name>dfs.ha.fencing.methods<</code><code>/name</code><code>></code>
<code> </code><code><value>sshfence<</code><code>/value</code><code>></code>
【一旦需要NameNode切换，使用ssh方式进行操作】
<code> </code><code><name>dfs.ha.fencing.</code><code>ssh</code><code>.private-key-files<</code><code>/name</code><code>></code>
<code> </code><code><value></code><code>/root/</code><code>.</code><code>ssh</code><code>/id_rsa</code><code><</code><code>/value</code><code>></code>
【如果使用ssh进行故障切换，使用ssh通信时用的密钥存储的位置】
1.2.4. slaves
hadoop1
hadoop2
1.3. 把以上配置的内容复制到hadoop1、hadoop2、hadoop3节点上
1.4. 修改hadoop1、hadoop2、hadoop3上的配置文件内容
1.4.1. 修改hadoop2上的core-site.xml内容
<code>fs.defaultFS的值改为hdfs:</code><code>//cluster2</code>
1.4.1. 修改hadoop2上的hdfs-site.xml内容
把cluster1中关于journalnode的配置项删除，增加如下内容
<code> </code><code><name>dfs.namenode.shared.edits.</code><code>dir</code><code><</code><code>/name</code><code>></code>
<code><value>qjournal:</code><code>//hadoop0</code><code>:8485;hadoop1:8485;hadoop2:8485</code><code>/cluster2</code><code><</code><code>/value</code><code>></code>
1.4.3. 开始启动
1.4.3.1. 启动journalnode
在hadoop0、hadoop1、hadoop2上执行
<code>sbin</code><code>/hadoop-daemon</code><code>.sh startjournalnode</code>
1.4.3.1. 格式化ZooKeeper
在hadoop0、hadoop2上执行
bin/hdfs zkfc -formatZK
zkCli.sh-->ls->/Hadoop-ha/cluster1
<a href="http://s1.51cto.com/wyfs02/M00/7D/DA/wKioL1bxI3DR9Iy5AADs0Gj8mCU801.png" target="_blank"></a>
<a href="http://s3.51cto.com/wyfs02/M01/7D/DD/wKiom1bxItugasZxAADUdZ1aWAE302.png" target="_blank"></a>
1.4.3.3. 对hadoop0节点进行格式化和启动
<code>bin</code><code>/hdfs</code> <code>namenode -</code><code>format</code>
<code>sbin</code><code>/hadoop-daemon</code><code>.sh start namenode</code>
1.4.3.4. 对hadoop1节点进行格式化和启动
<code>bin</code><code>/hdfs</code> <code>namenode -bootstrapStandby</code>
1.4.3.5. 在hadoop0、hadoop1上启动zkfc
<code>sbin</code><code>/hadoop-daemon</code><code>.sh start zkfc</code>
我们的hadoop0、hadoop1有一个节点就会变为active状态。
1.4.3.6. 对于cluster2执行类似操作
1.4.4. 启动datanode
在hadoop0上执行命令
<code>sbin</code><code>/hadoop-daemons</code><code>.sh start datanode</code>
1.5. 配置Yarn
1.5.1. 修改文件mapred-site.xml
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
<code> </code><code><name>mapreduce.framework.name<</code><code>/name</code><code>></code>
<code> </code><code><value>yarn<</code><code>/value</code><code>></code>
<code> </code>
<code> </code><code><name>mapreduce.jobhistory.address<</code><code>/name</code><code>></code>
<code> </code><code><value>hadoop0:10020<</code><code>/value</code><code>></code>
<code> </code><code><name>mapreduce.jobhistory.webapp.address<</code><code>/name</code><code>></code>
<code> </code><code><value>hadoop0:19888<</code><code>/value</code><code>> </code>
<code> </code><code><name>mapreduce.task.io.</code><code>sort</code><code>.factor<</code><code>/name</code><code>></code>
<code> </code><code><value>20<</code><code>/value</code><code>></code>
<code> </code><code><description>The number of streams to merge at once </code><code>while</code> <code>sorting</code>
<code> </code><code>files. This determines the numberof </code><code>open</code> <code>file</code> <code>handles.<</code><code>/description</code><code>></code>
<code> </code><code><name>mapreduce.reduce.shuffle.parallelcopies<</code><code>/name</code><code>></code>
<code> </code><code><value>40<</code><code>/value</code><code>></code>
<code> </code><code><description>The default number of parallel transfers run byreduce</code>
<code> </code><code>during the copy(shuffle) phase.</code>
<code> </code><code><</code><code>/description</code><code>></code>
<code> </code><code><name>mapreduce.job.reduce.slowstart.completedmaps<</code><code>/name</code><code>></code>
<code> </code><code><value>0.80<</code><code>/value</code><code>></code>
<code> </code><code><description>Fraction of the number of maps </code><code>in</code> <code>the job whichshould be</code>
<code> </code><code>complete before reduces are scheduled </code><code>for</code> <code>the job.</code>
<code> </code><code><name>mapreduce.task.io.</code><code>sort</code><code>.mb<</code><code>/name</code><code>></code>
<code> </code><code><value>300<</code><code>/value</code><code>></code>
<code> </code><code><description>The total amount of buffer memory to use whilesorting</code>
<code> </code><code>files, </code><code>in</code> <code>megabytes. By default,gives each merge stream 1MB, </code><code>which</code>
<code> </code><code>should minimize seeks.<</code><code>/description</code><code>></code>
<code> </code><code><name>mapreduce.map.output.compress<</code><code>/name</code><code>></code>
<code> </code><code><value></code><code>true</code><code><</code><code>/value</code><code>></code>
<code> </code><code><description>Should the outputs of the maps be compressed beforebeing</code>
<code> </code><code>sent across the network. UsesSequenceFile compression.</code>
<code> </code>
<code> </code><code><name>mapreduce.client.submit.</code><code>file</code><code>.replication<</code><code>/name</code><code>></code>
<code> </code><code><value>5<</code><code>/value</code><code>></code>
<code> </code><code><description>默认10，The replication level </code><code>for</code> <code>submitted job files. This</code>
<code> </code><code>should be around thesquare root of the number of nodes.</code>
<code> </code><code><</code><code>/description</code><code>></code>
1.5.2. 修改文件yarn-site.xml
<code> </code><code><name>yarn.resourcemanager.ha.enabled<</code><code>/name</code><code>></code>
<code> </code><code><value></code><code>true</code><code><</code><code>/value</code><code>></code>
【打开resourcemanager ha模式】
<code> </code><code><name>yarn.resourcemanager.cluster-</code><code>id</code><code><</code><code>/name</code><code>></code>
<code> </code><code><value>yarn-ha-cluster<</code><code>/value</code><code>></code>
【打开resourcemanager ha的集群名称，这个名称可以在zookeeper中查看】
<code> </code><code><name>yarn.resourcemanager.ha.</code><code>rm</code><code>-ids<</code><code>/name</code><code>></code>
<code> </code><code><value>rm1,rm2<</code><code>/value</code><code>></code>
【设置resourcemanager的id,可以与主机同名】
<code> </code><code><name>yarn.resourcemanager.</code><code>hostname</code><code>.rm1<</code><code>/name</code><code>></code>
<code> </code><code><value>hadoop0<</code><code>/value</code><code>></code>
【指定rm1对应哪一台主机】
<code> </code><code><name>yarn.resourcemanager.</code><code>hostname</code><code>.rm2<</code><code>/name</code><code>></code>
<code> </code><code><value>hadoop1<</code><code>/value</code><code>></code>
<code> </code><code><name>yarn.resourcemanager.zk-address<</code><code>/name</code><code>></code>
<code> </code><code><value>zk1:2181,zk2:2181,zk3:2181<</code><code>/value</code><code>></code>
<code> </code><code><name>yarn.nodemanager.aux-services<</code><code>/name</code><code>></code>
<code> </code><code><value>mapreduce_shuffle<</code><code>/value</code><code>></code>
<code><!---用什么方式进行数据传递-></code>
<code><property> </code>
<code> </code><code><name>yarn.log-aggregation-</code><code>enable</code><code><</code><code>/name</code><code>> </code>
<code> </code><code><value></code><code>true</code><code><</code><code>/value</code><code>> </code>
【设置日志合并】
<code> </code><code><name>yarn.application.classpath<</code><code>/name</code><code>></code>
<code> </code><code><value></code>
<code> </code><code>/usr/local/hadoop-2</code><code>.5.0-cdh5.3.8</code><code>/etc/hadoop</code><code>,</code>
<code> </code><code>/usr/local/hadoop-2</code><code>.5.0-cdh5.3.8</code><code>/share/hadoop/common/</code><code>*,</code>
<code> </code><code>/usr/local/hadoop-2</code><code>.5.0-cdh5.3.8</code><code>/share/hadoop/common/lib/</code><code>*,</code>
<code> </code><code>/usr/local/hadoop-2</code><code>.5.0-cdh5.3.8</code><code>/share/hadoop/hdfs/</code><code>*,</code>
<code> </code><code>/usr/local/hadoop-2</code><code>.5.0-cdh5.3.8</code><code>/share/hadoop/hdfs/lib/</code><code>*,</code>
<code> </code><code>/usr/local/hadoop-2</code><code>.5.0-cdh5.3.8</code><code>/share/hadoop/yarn/</code><code>*,</code>
<code> </code><code>/usr/local/hadoop-2</code><code>.5.0-cdh5.3.8</code><code>/share/hadoop/yarn/lib/</code><code>*,</code>
<code> </code><code>/usr/local/hbase-0</code><code>.98.6-cdh5.3.8</code><code>/lib/</code><code>*,</code>
<code> </code><code>/usr/local/hadoop-2</code><code>.5.0-cdh5.3.8</code><code>/lib_dc/</code><code>*,</code>
<code> </code><code>/usr/local/hbase-0</code><code>.98.6-cdh5.3.8</code><code>/conf/</code>
<code> </code><code><</code><code>/value</code><code>></code>
【设置classpath,没有新增外部jar的话，不需要配这个】
<code><!--设置调度器类型为CapacityScheduler， 默认是公平调度器--></code>
<code> </code><code><name>yarn.resourcemanager.scheduler.class<</code><code>/name</code><code>> <value>org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.CapacityScheduler<</code><code>/value</code><code>></code>
<code><!--设置nodemanager节点内存大小，CPU个数--></code>
<code> </code><code><property></code>
<code> </code><code><name>yarn.nodemanager.resource.memory-mb<</code><code>/name</code><code>></code>
<code> </code><code><value>28672<</code><code>/value</code><code>></code>
【设置nodemanager节点内存大小 28G】
<code> </code><code><name>yarn.nodemanager.resource.cpu-vcores<</code><code>/name</code><code>></code>
<code> </code><code><value>14<</code><code>/value</code><code>></code>
【设置nodemanager节点内存大小 14个core】
<code> </code><code><name>yarn.timeline-service.enabled<</code><code>/name</code><code>></code>
<code> </code><code><value></code><code>true</code><code><</code><code>/value</code><code>></code>
<code> </code><code><</code><code>/property</code><code>></code>
【打开timeline服务】
1.5.3 修改环境变量（可以不改，使用默认配置）
1.5.3.1 修改 yarn-env.sh
<code>YARN_LOG_DIR=</code><code>/data0/hadoop2/logs</code>
【修改yarn的日志目录，默认在$HADOOP_HOME/logs下】
1.5.3.2 修改hadoop-env.sh
<code>export</code> <code>JAVA_HOME=</code><code>/usr/java/jdk1</code><code>.7.0_25</code>
【修改jdk】
<code>export</code> <code>HADOOP_LOG_DIR=</code><code>/data0/hadoop2/logs</code>
【修改hadoop的日志目录，默认在$HADOOP_HOME/logs下】
<code>export</code> <code>HADOOP_PID_DIR=</code><code>/data0/hadoop2/pid</code>
【修改hadoop pid目录】
1.5.5 修改capacity-scheduler.xml这个文件 （可选 ，设置调度器为CapacityScheduler时，可以通过这个配置文件修改作业队列）
<code> </code><code><!-- compare memroy only --></code>
<code> </code><code><name>yarn.scheduler.capacity.resource-calculator<</code><code>/name</code><code>></code>
<code> </code><code><value>org.apache.hadoop.yarn.util.resource.DefaultResourceCalculator<</code><code>/value</code><code>></code>
<code> </code><code><</code><code>/property</code><code>></code>
<code> </code>
<code> </code><code><!-- </code><code>more</code> <code>chance </code><code>for</code> <code>app master that will launch MR jobs --></code>
<code> </code><code><name>yarn.scheduler.capacity.maximum-am-resource-percent<</code><code>/name</code><code>></code>
<code> </code><code><value>0.9<</code><code>/value</code><code>></code>
【appMaster可以使用集群多少资源】
<code> </code><code><!-- 打开异步调度--></code>
<code> </code><code><name>yarn.scheduler.capacity.schedule-asynchronously.</code><code>enable</code><code><</code><code>/name</code><code>></code>
<code> </code><code><!-- 定义队列名称queues,dev--></code>
<code> </code><code><name>yarn.scheduler.capacity.root.queues<</code><code>/name</code><code>></code>
<code> </code><code><value>default,dev<</code><code>/value</code><code>></code>
<code> </code><code><name>yarn.scheduler.capacity.root.dev.capacity<</code><code>/name</code><code>></code>
<code> </code><code><value>50<</code><code>/value</code><code>></code>
【设置队列dev的能力大小占集群的50%】
<code> </code><code><name>yarn.scheduler.capacity.root.default.capacity<</code><code>/name</code><code>></code>
【设置队列default的能力大小占集群的50%】
<code> </code><code><</code><code>/configuration</code><code>></code>
1.5.4 启动yarn
在hadoop0上执行
<code>sbin</code><code>/start-yarn</code><code>.sh</code>
<code></code>
本文转自 zouqingyun 51CTO博客，原文链接：http://blog.51cto.com/zouqingyun/1754041，如需转载请自行联系原作者
![Windows下Cygwin环境的Hadoop安装（3）- 运行hadoop中的wordcount实例遇到的问题和解决方法[图]](data:image/gif;base64,R0lGODlhAQABAIAAAP///wAAACwAAAAAAQABAAACAkQBADs=)