【图文教程】Centos 7下安装Hadoop
创始人
2024-02-09 22:38:57
0

环境说明:

系统:Centos7 在VM中安装的

hadoop版本:2.7.7

JDK:1.8

注意:Hadoop需要Java环境的。记得安装Java环境

PS:Centos JDK安装

 mkdir /data

1:上传jdk的tar.解压

2:修改/etc/proflie,把Javahome环境变量配置上:

记住:在修改前,先备份

在文件最后添加:

export JAVA_HOME=/data/jdk1.8.0_351
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib:$CLASSPATH
export JAVA_PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin
export PATH=$PATH:${JAVA_PATH}

说明:/data/jdk1.8.0_351 修改成你自己的

如下图:

 

添加完成后,使用 source /etc/profile 使其生效。

查看Java版本:

开始安装:

一:下载安装包:

1.1: 安装包下载地址 https://repo.huaweicloud.com/apache/hadoop/common/hadoop-2.7.7/hadoop-2.7.7.tar.gz

1.2:上传并解压

 mkdir /data

在Xshell中可以使用rz命令进行上传

 

解压:

 cd /datatar -zxvf hadoop-2.7.7.tar.gz

二:hadoop配置

声明:下文中提到的,hadoop的安装目录:

比如凯哥的安装目录,就是第一步上传到/data后解压的。所以hadoop安装目录就是:/data/hadoop-2.7.7 这个别搞错了

2.1:修改hadoop安装目录 /etc/hadoop 下的 hadoop-env.sh的内容

cd /data/hadoop-2.7.7/etc/hadoop/

注意:是hadoop的安装目录:

比如凯哥的安装目录,就是第一步上传到/data后解压的。所以hadoop安装目录就是:/data/hadoop-2.7.7 这个别搞错了

vi hadoop-env.sh

输入Javahome的配置

# 指定JAVA_HOME
export JAVA_HOME=/data/jdk1.8.0_351

 

2.2:修改hadoop安装目录 /etc/hadoop 下的

vi core-site.xml

输入下面:

主要: 这个标签。后面第3步和第4步,同样需要注意。

fs.defaultFShdfs://192.168.50.135:9002hadoop.tmp.dir/data/hadoop/tmp

需要主要,将hdfs的ip修改成你自己物理机的ip.

 

我们发现,在配置hadoop运行时候文件存储路径为/data/hadoop 如果没有这个目录,需要创建

注:这里fs.defaultFSvalue最好是写本机的静态IP。当然写本机主机名,再配置hosts是最好的,如果用localhost,然后在windowsjava操作hdfs的时候,会连接不上主机。

2.3:修改 hadoop安装目录/etc/hadoop下的hdf-site.xml的内容

vi hdfs-site.xml

输入:

dfs.namenode.name.dir/data/hadoop/hadoop/hdfs/nnfs.checkpoint.dir/data/hadoop/hdfs/snnfs.checkpoint.edits.dir/data/hadoop/hdfs/snndfs.datanode.data.dir/data/hadoop/hdfs/dndfs.name.dir/data/hadoop/namedfs.data.dir/data/hadoop/nodedfs.replication1dfs.http.address192.168.50.135:9000ipc.maximum.data.length134217728

同样需要注意的是将ip修改成自己服务器的真实ip

2.4:修改 hadoop安装目录下的/etc/hadoop 下的yarn-site.xml


yarn.nodemanager.vmem-check-enabledfalse

yarn.nodemanager.aux-servicesmapreduce_shuffle

yarn.application.classpath/data/hadoop-2.7.7/etc/*,/data/hadoop-2.7.7/etc/hadoop/*,/data/hadoop-2.7.7/lib/*,/data/hadoop-2.7.7/share/hadoop/common/*,/data/hadoop-2.7.7/share/hadoop/common/lib/*,/data/hadoop-2.7.7/share/hadoop/mapreduce/*,/data/hadoop-2.7.7/share/hadoop/mapreduce/lib/*,/data/hadoop-2.7.7/share/hadoop/hdfs/*,/data/hadoop-2.7.7/share/hadoop/hdfs/lib/*,/data/hadoop-2.7.7/share/hadoop/yarn/*,/data/hadoop-2.7.7/share/hadoop/yarn/lib/*

三:将Hadoop配置到环境变量中:

在 /etc/profile中配置

export HADOOP_HOME=/data/hadoop-2.7.7
export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export HADOOP_CLASSPATH=`hadoop classpath`
export HADOOP_CONF_DIR=/data/hadoop-2.7.7/etc/hadoop

 

4:配置hosts

可能会用到。如下错误时候修改:

 

修改hosts:

在/etc/hosts。同样需要注意,修改前,记得备份下。

192.168.50.135 VM-xxx-centos localhost.localdomain gp-master ::1 VM-xx-centos VM-xxx-centos
192.168.50.135 master01

 

5:制作证书,免登陆配置

切换到root下

cd /root

接着:

#执行生成密钥命令:
ssh-keygen -t rsa
#然后三个回车

继续:

ssh-copy-id -i /root/.ssh/id_rsa.pub root@master01

选择yes

输入登录第一台节点的密码(操作完成该节点公钥复制到第一台节点中)

 

6:启动

进入到hadoop安装目录/sbin下,执行start-all.sh命令

./start-all.sh

 

使用jps命令验证是否已经启动成功(这些都启动了才算成功:ResourceManager、DataNode、SecondaryNameNode、NodeManager、TaskManagerRunner、YarnTaskExecutorRunner、NameNode):

jps

相关内容

热门资讯

喜欢穿一身黑的男生性格(喜欢穿... 今天百科达人给各位分享喜欢穿一身黑的男生性格的知识,其中也会对喜欢穿一身黑衣服的男人人好相处吗进行解...
发春是什么意思(思春和发春是什... 本篇文章极速百科给大家谈谈发春是什么意思,以及思春和发春是什么意思对应的知识点,希望对各位有所帮助,...
网络用语zl是什么意思(zl是... 今天给各位分享网络用语zl是什么意思的知识,其中也会对zl是啥意思是什么网络用语进行解释,如果能碰巧...
为什么酷狗音乐自己唱的歌不能下... 本篇文章极速百科小编给大家谈谈为什么酷狗音乐自己唱的歌不能下载到本地?,以及为什么酷狗下载的歌曲不是...
华为下载未安装的文件去哪找(华... 今天百科达人给各位分享华为下载未安装的文件去哪找的知识,其中也会对华为下载未安装的文件去哪找到进行解...
家里可以做假山养金鱼吗(假山能... 今天百科达人给各位分享家里可以做假山养金鱼吗的知识,其中也会对假山能放鱼缸里吗进行解释,如果能碰巧解...
四分五裂是什么生肖什么动物(四... 本篇文章极速百科小编给大家谈谈四分五裂是什么生肖什么动物,以及四分五裂打一生肖是什么对应的知识点,希...
怎么往应用助手里添加应用(应用... 今天百科达人给各位分享怎么往应用助手里添加应用的知识,其中也会对应用助手怎么添加微信进行解释,如果能...
客厅放八骏马摆件可以吗(家里摆... 今天给各位分享客厅放八骏马摆件可以吗的知识,其中也会对家里摆八骏马摆件好吗进行解释,如果能碰巧解决你...
美团联名卡审核成功待激活(美团... 今天百科达人给各位分享美团联名卡审核成功待激活的知识,其中也会对美团联名卡审核未通过进行解释,如果能...