赞
踩
参考教程:
【1】Ubuntu16.04 下 hadoop的安装与配置(伪分布式环境)
【2】hadoop搭建四个配置文件(core-site.xml hdfs-site.xml mapred-site.xml yarn-site.xml )的简单介绍
【3】超详细的Hadoop3.1.2架构单机、伪分布式、完全分布式安装和配置
大部分内容摘自参考教程1,更新了过时的部分。结合教程2加了yarn配置文件。结合教程3加了3版本。
目录里面加*的部分为yarn相关,可以选择不配置,相关参数并不是很完整,后面运行的部分也和安装配置无关。
如果像本文一样是走虚拟机,强烈建议先开【虚拟机粘贴板】!!!可自行搜索,作者本人博客也有相关教程。
终端启动命令【ctrl+alt+t】,终端复制粘贴快捷键【ctrl+shift+c/v】。
1 准备阶段
1.1 创建hadoop用户(也可以不要直接用当前用户)
$ sudo useradd -m hadoop -s /bin/bash #创建hadoop用户,并使用/bin/bash作为shell
$ sudo passwd hadoop #为hadoop用户设置密码(自己定),之后需要连续输入两次密码
$ sudo adduser hadoop sudo #为hadoop用户增加管理员权限
$ su - hadoop #切换当前用户为用户hadoop
$ sudo apt-get update #更新hadoop用户的apt,方便后面的
1.2 安装SSH,设置SSH无密码登陆
$ sudo apt-get install openssh-server #安装SSH server
$ ssh localhost #登陆SSH,第一次登陆输入yes
$ exit #退出登录的ssh localhost
$ cd ~/.ssh/ #如果没法进入该目录,执行一次ssh localhost
$ ssh-keygen -t rsa #输入以后,需要连续敲击三次回车
看到 密钥框框 之后,再输入:
$ cat ./id_rsa.pub >> ./authorized_keys #加入授权
$ ssh localhost #此时已不需密码即可登录localhost.
1.3 安装jdk,配置环境变量
$ sudo apt-get install openjdk-8-jdk #安装jdk1.8
$ sudo apt-get install vim #为了后面代码高亮,安装一下vim(也可不装都用vi)
$ vim ~/.bashrc #修改环境变量
vim操作说明:( i ->(ctrl+shift+v)-> ESC -> :wq )
进来先敲字母 i 进入insert模式,
粘贴(ctrl+shift+v)完代码之后,
ESC 退出编辑模式,
输入“ :wq ”保存文件并退出
在文件末尾直接添加如下指令:
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH
在文件修改完毕以后,检查版本号
$ source ~/.bashrc #使新配置的环境变量生效
$ java -version #检测是否安装成功,查看版本
如果出现版本号,就完成jdk安装
2 安装hadoop
2.1 下载
随意找一个Hadoop镜像站,下载文件大小最大的,不带src的那个包。
一般命名是这种:hadoop-2.10.0.tar.gz
这里用的2.10.0版本(版本尽量选2系列的,3系列改变了网页端口号,需要自己改一下,都可)
2.2 安装
$ cd /home/本机的root用户名/Downloads #进入下载文件的目录
$ sudo tar -zxvf hadoop-2.10.0.tar.gz -C /usr/local #解压到/usr/local目录下
$ cd /usr/local #去解压好的目录下
$ sudo mv hadoop-2.10.0 hadoop #重命名为hadoop
$ sudo chown -R hadoop ./hadoop #修改文件权限
2.3 配置环境变量
进入刚刚那个.bashrc文件
$ vim ~/.bashrc #修改环境变量
一样的编辑步骤( i ->(ctrl+shift+v)-> ESC -> :wq )
添加如下代码
export HADOOP_HOME=/usr/local/hadoop
export CLASSPATH=$($HADOOP_HOME/bin/hadoop classpath):$CLASSPATH
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
在文件修改完毕以后,检查版本号
$ source ~/.bashrc #使新配置的环境变量生效
$ hadoop version #检测是否安装成功,查看版本
如果出现版本号,就完成Hadoop安装
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。