1、环境搭建-大数据 Hadoop配置和单机Hadoop系统配置

#查看服务器ip
ip add
#设置主机名称
hostnamectl set-hostname master
bash
#查看
hostname
#绑定ip
vi /etc/hosts

添加

服务器ip地址 master

#查看ssh状态
systemctl status sshd

active (running)

#关闭防火墙
systemctl stop firewalld
#查看防火墙状态
systemctl status firewalld
#永久关闭防火墙
systemctl disable firewalld

创建hadoop用户并设置密码

安装jdk

vi /etc/profile
#环境变量
export java_home=jdk安装根目录全路径
export path=$path:$java_home/bin
#执行使生效
source /etc/profile
#查看是否可用
echo $java_home
# 查看jdk安装
java -version

安装配置hadoop环境

解压

vi /etc/profile

配置环境变量

# hadoop_home 指向 java 安装目录
export hadoop_home=hadoop安装根目录全路径
export path=$path:$hadoop_home/bin:$hadoop_home/sbin
#执行使生效
source /etc/profile
#检查
hadoop
#修改目录所有者和组
chown -r hadoop:hadoop 安装目录全路径

安装单机hadoop系统

进入hadoop根目录

vi etc/hadoop/hadoop-env.sh

查找export java_home修改等号后面为jdk路径

进入hadoop用户

创建imput目录

写一个统计文件,测试 mapreduce 运行

hadoop jar /usr/local/src/hadoop2.7.1/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.1.jar  wordcount  ~/input/data.txt ~/output

查看输出目录

查看输出目录下part-r-00000文件

递归删除输出目录