欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

VMware虚拟机下hadoop1.x的安装方法

程序员文章站 2024-02-28 23:37:28
这是hadoop学习全程记录第1篇,在这篇里我将介绍一下如何在linux下安装hadoop1.x。 先说明一下我的开发环境: 虚拟机:vmware8.0; 操作系统:...

这是hadoop学习全程记录第1篇,在这篇里我将介绍一下如何在linux下安装hadoop1.x。

先说明一下我的开发环境:

虚拟机:vmware8.0;

操作系统:centos6.4;

版本:jdk1.8;hadoop1.2.1

①下载hadoop1.2.1,网盘:链接: https://pan.baidu.com/s/1sl5dmip 密码: 5p67

下载jdk1.8,网盘:链接: https://pan.baidu.com/s/1bon1gh5 密码: t36h

将 jdk-8u144-linux-x64.tar.gz 解压至 /home/wyt/jdk8 文件夹下,将 hadoop-1.2.1.tar.gz 解压至 /home/wyt/hadoop 文件夹下。

②配置jdk及hadoop环境变量:修改/etc/profile文件

vim /etc/profile
//输入i,进入编辑模式
export java_home=/home/wyt/jdk8
export classpath=.:$classpath:$java_home/lib
export hadoop_home=/home/wyt/hadoop
export path=$path:$hadoop_home/bin:$java_home/bin
//按esc,按shift,输入:wq
source /etc/profile //保存并退出

③测试

java,javac,java -version
hadoop

④修改hadoop配置文件

<!-- hadoop-env.sh -->

export java_home=/usr/java/jdk8

<!-- core-site.xml -->

 <property>
 <name>hadoop.tmp.dir</name>
 <value>/hadoop</value>
 </property>
 <property>
 <name>dfs.name.dir</name>
 <value>/hadoop/name</value>
 </property>
 <property>
 <name>fs.default.name</name>
 <value>hdfs://localhost:9000</value>
 </property>

<!-- hdfs-site.xml -->

<property>
<name>dfs.data.dir</name>
<value>/hadoop/data</value>
</property>

<!-- mapred-site.xml -->

<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>

并在hadoop安装目录下新建data、name、tmp文件夹。

⑤名称节点格式化,并查看运行状态

hadoop namenode -format
//cd 命令切换至 hadoop/bin/文件夹下,输入 ls 命令查看
start-all.sh
jps //查看运行状态,运行正常的话需要多次输入密码
//最后结果为:
//  jps
//  jobtracker
//  namenode
//  datanode
//  secondarynamenode
//  nodemanager 

⑥测试hdfs

//常用hdfs命令:
hadoop fs -ls /查看目录
hadoop fs -put a.txt /user/hadoop/放入
hadoop fs -cat /user/hadoop/a.txt 查看内容
hadoop fs -rmr /output:删除文件/文件夹

附:linux常用命令:

cd ..  //返回上级目录
cd ~  //返回home目录
cd /  //返回根目录
cd var/ //进入var/文件夹下(使用tab)

su -  //超级管理员模式
ifconfig //查看ip

附:其他常用linux操作软件:

//windows与虚拟机centos文件传输:
filezilla;xftp 5;或者安装vmware tools(可便捷使用剪切板及文件复制功能)
//脱离虚拟机centos输入命令行:
xshell 5

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。