当前位置:   article > 正文

Window10安装Hadoop3.1.0_hadoop3.1.0下载

hadoop3.1.0下载

准备
(1) Hadoop3.1.0版本的安装包:https://archive.apache.org/dist/hadoop/common/hadoop-3.1.0/hadoop-3.1.0.tar.gz  (耐心下载,很慢的,1个小时起步)


(2) Windows环境安装所需的bin:https://github.com/s911415/apache-hadoop-3.1.0-winutils
(hadoop自带bin是linux系统运行,要在window系统运行,需要这个文件bin替换hadoop包的bin)

1.安装JDK (省略)

2.winutils的bin文件夹替换Hadoop3.1.0的bin文件夹 (支持hadoop在win系统运行)

3.像安装JDK一样配置系统环境变量,因为scala语言运行在jvm,所以还需要安装jdk

4.修改Hadoop配置文件

1.core-site.xml

  1. <configuration>
  2. <property>
  3. <name>fs.defaultFS</name>
  4. <value>hdfs://localhost:900</value>
  5. </property>
  6. </configuration>

2. mapred-site.xml

  1. <configuration>
  2. <property>
  3. <name>mapreduce.framework.name</name>
  4. <value>yarn</value>
  5. </property>
  6. </configuration>

3. yarn-site.xml

  1. <configuration>
  2. <property>
  3. <name>yarn.nodemanager.aux-services</name>
  4. <value>mapreduce_shuffle</value>
  5. </property>
  6. <property>
  7. <name>yarn.nodemanager.auxservices.mapreduce.shuffle.class</name>
  8. <value>org.apache.hadoop.mapred.ShuffleHandler</value>
  9. </property>
  10. </configuration>

 4. 创建存数据的文件夹,路径与5的配置相关联

 5. hdfs-site.xml  (如果反斜杠\不行,可以换成正斜杠/); 其中value是文件夹datanode和namenode的路径

  1. <configuration>
  2. <property>
  3. <name>dfs.replication</name>
  4. <value>1</value>
  5. </property>
  6. <property>
  7. <name>dfs.datanode.name.dir</name>
  8. <value>D:/hadoop-3.1.0/data2020/datanode</value>
  9. </property>
  10. <property>
  11. <name>dfs.namenode.data.dir</name>
  12. <value>D:/hadoop-3.1.0/data2020/namenode</value>
  13. </property>
  14. </configuration>

验证环境是否正常: 

  1. #进入到 D:\hadoop-3.1.0\bin 路径,如果没报错的话,证明配置文件没出问题!
  2. hdfs namenode –format
  3. #跳出两个窗口,不要关掉它们!
  4. start-dfs.cmd
  5. #进入到D:\hadoop-3.1.0\Sbin路径再输入命令,再出现两个窗口,也不要关!
  6. start-yarn.cmd

接着在浏览器中访问  http://localhost:9870/

补充说明:  我这里环境变量配置sbin,于是在 D:\hadoop-3.1.0\bin目录 执行命令,打不开网站,原因不详!!

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/笔触狂放9/article/detail/914525
推荐阅读
相关标签
  

闽ICP备14008679号