Hadoop分布式操作系统的安装与配置

本次安装的配置文件如下表:
Hadoop多节点集群安装配置
除此之外,还需要用到WinScp软件用来从本地上传Hadopp和Jdk到虚拟机。
WinScp下载地址:https://pan.baidu.com/share/init?surl=dEDt2k5
提取码:283b
JDK下载地址http://www.oracle.com/technetwork/java/javase/index.html
Hadoop下载地址http://hadoop.apache.org/common/releases.html

一. 虚拟机安装
本次安装的虚拟机使用的是VMware软件,系统采用CentOS6.7,有一个主节点和三个数据节点,首先是虚拟机的安装,如下图所示:
Hadoop多节点集群安装配置
虚拟机全名为登录名,用户名为登陆后操作的用户名,密码为123456
需要注意的是,在伪分布式模式下安装,网络模式选择桥接模式(bridge)
Hadoop多节点集群安装配置
磁盘容量和运行内存分别为10G和512M:

Hadoop多节点集群安装配置
Hadoop多节点集群安装配置虚拟机名称统一格式:为node1,node2,node3,node4:
Hadoop多节点集群安装配置
进入安装:
Hadoop多节点集群安装配置
安装成功:
Hadoop多节点集群安装配置
进入系统,打开终端:
Hadoop多节点集群安装配置
更改主机名和局域网内的ip映射。更改主机名,在获取root权限之后,用下列指令:vi /etc/sysconfig/network 修改主机名为:Slvae3
Hadoop多节点集群安装配置
更改映射要保证每一个节点的hosts文件要相同,可以先在主节点更改,然后使用SCP指令复制给其他节点。修改指令如下: vi /etc/hosts
Hadoop多节点集群安装配置
Hadoop多节点集群安装配置
Hadoop多节点集群安装配置
传送成功,并依次传送。

修改完主机名和对应映射之后,检查是否能ping的通:
Hadoop多节点集群安装配置
如上则表示已经ping通,同时ping用户名:
Hadoop多节点集群安装配置
Ping用户名也成功,则它们之间的通信已经畅通,接下来使它们之间无密码登陆
首先主节点生成公钥: Hadoop多节点集群安装配置
Hadoop多节点集群安装配置
然后使用ssh-copy-id -i id_rsa.pub [email protected]指令将公钥复制到各个机子上, Hadoop多节点集群安装配置
复制完之后去各个机子检查/home/Hadoop/.ssh/下的authorized_keys文件下是否有主节点的公钥:
Hadoop多节点集群安装配置
可以看到公钥已经复制成功,下面检查是否能够无密码登陆:
Hadoop多节点集群安装配置
已经可以无密码访问。

接下来开始安装JDK。首先在/usr下新建一个Java文件夹,
Hadoop多节点集群安装配置
然后用WinScp上传JDK到虚拟机内
Hadoop多节点集群安装配置
Hadoop多节点集群安装配置
Hadoop多节点集群安装配置
上传成功,解压文件
Hadoop多节点集群安装配置
删除安装包
然后配置环境变量,打开/etc/profile,在最后面加上
Hadoop多节点集群安装配置
保存退出,输入source /etc/profile来使配置生效,输入java –version查看结果:
Hadoop多节点集群安装配置
到此,Java环境配置成功。

接下来配置Hadoop,
首先用WinScp将本地下载的Hadoop文件上传到主节点,然后解压。之后是配置文件:
修改slaves文件
Hadoop多节点集群安装配置
修改core-site.xml
Hadoop多节点集群安装配置

修改hdfs-site.xml
Hadoop多节点集群安装配置

修改yarn-site.xml
Hadoop多节点集群安装配置

修改mapred-site.xml

Hadoop多节点集群安装配置

全部修改完后,使用SCP命令将在主节点配置好的文件传到其他机子上。

Hadoop多节点集群安装配置
然后尝试启动。分别输入下列指令:./sbin/start-dfs.sh
Hadoop多节点集群安装配置
./sbin/start-yarn.sh
Hadoop多节点集群安装配置
./sbin/mr-jobhistory-daemon.sh start historyserver
Hadoop多节点集群安装配置
输入jps指令,查看进程:
Hadoop多节点集群安装配置
数据节点进程:
Hadoop多节点集群安装配置
在网页上查看:
Hadoop多节点集群安装配置
总共有三个节点,内存总共25G,实际上分配的总共30G,有5G属于配置文件。
到此hadoop多节点集群安装与配置已经完成。

相关文章: