3.2 Mapreduce实例—WordCount
实验3.2 Mapreduce实例—WordCount
字体:
实验目的
1.准确理解Mapreduce的设计原理
2.熟练掌握WordCount程序代码编写
3.学会自己编写WordCount程序进行词频统计
实验原理
MapReduce采用的是“分而治之”的思想,把对大规模数据集的操作,分发给一个主节点管理下的各个从节点共同完成,然后通过整合各个节点的中间结果,得到最终结果。简单来说,MapReduce就是“任务的分解与结果的汇总”。
1.MapReduce的工作原理
在分布式计算中,MapReduce框架负责处理了并行编程里分布式存储、工作调度,负载均衡、容错处理以及网络通信等复杂问题,现在我们把处理过程高度抽象为Map与Reduce两个部分来进行阐述,其中Map部分负责把任务分解成多个子任务,Reduce部分负责把分解后多个子任务的处理结果汇总起来,具体设计思路如下。
(1)Map过程需要继承org.apache.hadoop.mapreduce包中Mapper类,并重写其map方法。通过在map方法中添加两句把key值和value值输出到控制台的代码,可以发现map方法中输入的value值存储的是文本文件中的一行(以回车符为行结束标记),而输入的key值存储的是该行的首字母相对于文本文件的首地址的偏移量。然后用StringTokenizer类将每一行拆分成为一个个的字段,把截取出需要的字段(本实验为买家id字段)设置为key,并将其作为map方法的结果输出。
(2)Reduce过程需要继承org.apache.hadoop.mapreduce包中Reducer类,并重写其reduce方法。Map过程输出的<key,value>键值对先经过shuffle过程把key值相同的所有value值聚集起来形成values,此时values是对应key字段的计数值所组成的列表,然后将<key,values>输入到reduce方法中,reduce方法只要遍历values并求和,即可得到某个单词的总次数。
在main()主函数中新建一个Job对象,由Job对象负责管理和运行MapReduce的一个计算任务,并通过Job的一些方法对任务的参数进行相关的设置。本实验是设置使用将继承Mapper的doMapper类完成Map过程中的处理和使用doReducer类完成Reduce过程中的处理。还设置了Map过程和Reduce过程的输出类型:key的类型为Text,value的类型为IntWritable。任务的输出和输入路径则由字符串指定,并由FileInputFormat和FileOutputFormat分别设定。完成相应任务的参数设定后,即可调用job.waitForCompletion()方法执行任务,其余的工作都交由MapReduce框架处理。
2.MapReduce框架的作业运行流程
(1)ResourceManager:是YARN资源控制框架的中心模块,负责集群中所有资源的统一管理和分配。它接收来自NM(NodeManager)的汇报,建立AM,并将资源派送给AM(ApplicationMaster)。
(2)NodeManager:简称NM,NodeManager是ResourceManager在每台机器上的代理,负责容器管理,并监控他们的资源使用情况(cpu、内存、磁盘及网络等),以及向ResourceManager提供这些资源使用报告。
(3)ApplicationMaster:以下简称AM。YARN中每个应用都会启动一个AM,负责向RM申请资源,请求NM启动Container,并告诉Container做什么事情。
(4)Container:资源容器。YARN中所有的应用都是在Container之上运行的。AM也是在Container上运行的,不过AM的Container是RM申请的。Container是YARN中资源的抽象,它封装了某个节点上一定量的资源(CPU和内存两类资源)。Container由ApplicationMaster向ResourceManager申请的,由ResouceManager中的资源调度器异步分配给ApplicationMaster。Container的运行是由ApplicationMaster向资源所在的NodeManager发起的,Container运行时需提供内部执行的任务命令(可以是任何命令,比如java、Python、C++进程启动命令均可)以及该命令执行所需的环境变量和外部资源(比如词典文件、可执行文件、jar包等)。
另外,一个应用程序所需的Container分为两大类,如下:
①运行ApplicationMaster的Container:这是由ResourceManager(向内部的资源调度器)申请和启动的,用户提交应用程序时,可指定唯一的ApplicationMaster所需的资源。
②运行各类任务的Container:这是由ApplicationMaster向ResourceManager申请的,并为了ApplicationMaster与NodeManager通信以启动的。
以上两类Container可能在任意节点上,它们的位置通常而言是随机的,即ApplicationMaster可能与它管理的任务运行在一个节点上。
实验环境
elementary 14.04
1.8.0_151-linux-x64
hadoop-2.6.5
hadoop-eclipse-plugin-2.6.5-.jar
eclipse-java-oxygen-1a-linux-gtk-x86_64.tar.gz
实验内容
现有某电商网站用户对商品的收藏数据,记录了用户收藏的商品id以及收藏日期,名为buyer_favorite1。
buyer_favorite1包含:买家id,商品id,收藏日期这三个字段,数据以“\t”分割,样本数据及格式如下:
1. 买家id 商品id 收藏日期
2. 10181 1000481 2010-04-04 16:54:31
3. 20001 1001597 2010-04-07 15:07:52
4. 20001 1001560 2010-04-07 15:08:27
5. 20042 1001368 2010-04-08 08:20:30
6. 20067 1002061 2010-04-08 16:45:33
7. 20056 1003289 2010-04-12 10:50:55
8. 20056 1003290 2010-04-12 11:57:35
9. 20056 1003292 2010-04-12 12:05:29
10. 20054 1002420 2010-04-14 15:24:12
11. 20055 1001679 2010-04-14 19:46:04
12. 20054 1010675 2010-04-14 15:23:53
13. 20054 1002429 2010-04-14 17:52:45
14. 20076 1002427 2010-04-14 19:35:39
15. 20054 1003326 2010-04-20 12:54:44
16. 20056 1002420 2010-04-15 11:24:49
17. 20064 1002422 2010-04-15 11:35:54
18. 20056 1003066 2010-04-15 11:43:01
19. 20056 1003055 2010-04-15 11:43:06
20. 20056 1010183 2010-04-15 11:45:24
21. 20056 1002422 2010-04-15 11:45:49
22. 20056 1003100 2010-04-15 11:45:54
23. 20056 1003094 2010-04-15 11:45:57
24. 20056 1003064 2010-04-15 11:46:04
25. 20056 1010178 2010-04-15 16:15:20
26. 20076 1003101 2010-04-15 16:37:27
27. 20076 1003103 2010-04-15 16:37:05
28. 20076 1003100 2010-04-15 16:37:18
29. 20076 1003066 2010-04-15 16:37:31
30. 20054 1003103 2010-04-15 16:40:14
31. 20054 1003100 2010-04-15 16:40:16
要求编写MapReduce程序,统计每个买家收藏商品数量。统计结果数据如下:
1. 买家id 商品数量
2. 10181 1
3. 20001 2
4. 20042 1
5. 20054 6
6. 20055 1
7. 20056 12
8. 20064 1
9. 20067 1
10. 20076 5
实验步骤
1.切换目录到/apps/hadoop/sbin下,启动hadoop。
cd /apps/hadoop/sbin
./start-all.sh
2.在linux上,创建一个目录/usr/data/mapreduce1。
mkdir -p /usr/data/mapreduce1
3.将17GB Volume下面的“第三次课”文件目录下的buyer_favorite1 复制桌面,然后复制到/usr/data/mapreduce1目录下。
sudo cp /home/bigdata/Desktop/buyer_favorite1 /usr/data/mapreduce1
依然在“第三次课”文件目录下,将项目用到的依赖包hadoop2lib复制到/usr/data/目录下。
/*
//没有这个依赖包,在网上找到并学习了一个Wordcount的方法
找到Hadoop-mapreduce-example-2.6.5.jar(由Hadoop版本决定)
我的在这里
看一下该jar包的详细信息,执行
hadoop jar hadoop-mapreduce-examples-2.6.5.jar
然后看到
可以看见jar文件有很多案例,我们这里主要看一下wordcount程序,执行命令查看
hadoop jar hadoop-mapreduce-examples-2.6.5.jar wordcount
执行成功。
在这里发现一个问题:sudo并不能随意用
有时候会出现这个错误
百度给出的结果也很简单,没有给Hadoop配置相对的路径,和配置java一样
sudo gedit /etc/profile
打开在最后加上再输入 ↓ 使其生效
source /etc/profile
但是这样重复进行了好多次,在sudo一些命令的时候还是会出现Hadoop:command not found
在这里发现了问题根源所在。来自“柳大的CSDN博客”:http://blog.csdn.net/poechant
我们知道在执行Linux命令时,如果在其前面加上sudo,就表示以root权限执行。但是这其实是有一个前提的,就是只有那些Linux内置系统命令才可以用如此的形式来执行,而对于Shell内置命令或其他用户自定义命令、别名等,是不能用sudo来使用root权限的。为什么呢?详细说一下sudo幕后隐藏的过程才能明白。
因为当在Linux下用sudo执行某一命令时,是在原进程(parent process)的基础上fork出来一个子进程(child process),这个子进程是以root权限执行的。然后在子进程中,执行你在sudo后面跟的命令。
在子进程中是无法调用涉及到父进程的状态的一些命令的,所以非系统内置命令会被拒绝。这就是为什么会出现command not found的提示。具体来说,当我们执行:
- sudo cd /home/michael
所在这个shell进程中(称其为PP,表示parent process)fork出一个子进程(称其为CP,表示child process),那么在CP中是无法改变PP的所在目录的。
- sudo ls /home/michael
sudo后由PP产生了CP,CP是无法获取PP所在的目录的内容的(具体来说,是读取该目录的block data,可详见《柳大的Linux游记·基础篇(2)Linux文件系统的inode》一文)。
根据提示,需要输入文件和输出目录,那么接下来,我们就准备以下输入文件和输出目录吧。
注:其实只需要准备输入文件,不需要准备输出目录。因为 MapReduce 程序的运行,其输出目录不能是已存在的,否则会抛出异常。
这是为了避免数据覆盖的问题。请看《Hadoop权威指南》
官方文档中是这样输入:
(官方是放在input文件里,下面先写创建input文件的。这里可以有多个输入文件)
mkdir input
cd input/
这里直接截取 http://blog.csdn.net/gulu_gulu_jp/article/details/51298164/ 的运行截图
因为我们是使用 HDFS 文件系统的,所以我们要运行 WordCount 这个 MapReduce 程序的话,需要将文件放入 HDFS 上。因此我们使用 HDFS 的文件系统命令,在HDFS文件系统根目录下创建一个input目录,用来保存输入文件。
执行命令:
hadoop fs -mkdir /input
相当于在linux下创建文件,这里是在HDFS上创建目录
将所需统计的文件copy到HDFS上,执行命令:
hadoop fs -put /usr/data/mapreduce1/buyer_favorite1 /input
上面是我需要统计的所在文件的位置,参照的例子如下,*表示 f1.txt,f2.txt,f3.txt等这种形式的文件
hadoop fs -put input/f*.txt /input
然后查看刚刚创建的HDFS文件
hadoop fs -ls /input
可以看到显示这样,其中“1020” 表示的是该文件中的字符数
hadoop jar '/apps/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.5.jar' wordcount /input /output
该命令会读入/input 下的所有文件...
程序运行完毕,查看输出结果:
hadoop fs -cat /output/*
我们不难发现,输出格式都为<key,value>形式
从中可以找到我们需要统计的内容。
*/
//尝试原来的方法
4.将linux本地/usr/data/mapreduce1/buyer_favorite1,上传到HDFS上的/mymapreduce1/in目录下。若HDFS目录不存在,需提前创建。
hadoop fs -mkdir -p /mymapreduce1/in
hadoop fs -put /usr/data/mapreduce1/buyer_favorite1 /mymapreduce1/in
5.打开Eclipse,新建Java Project项目。并将项目名设置为mapreduce1。
6.在项目名mapreduce1下,新建package包。并将包命名为mapreduce 。
7.在创建的包mapreduce下,新建类。并将类命名为WordCount。
8.添加项目所需依赖的jar包,右键单击项目名,新建一个目录hadoop2lib,用于存放项目所需的jar包。
将linux上/usr/data/mapreduce1目录下,hadoop2lib目录中的jar包,全部拷贝到eclipse中,mapreduce1项目的hadoop2lib目录下。
...
选中hadoop2lib目录下所有的jar包,单击右键,选择Build Path=>Add to Build Path
9.编写Java代码,并描述其设计思路。
下图描述了该mapreduce的执行过程
大致思路是将hdfs上的文本作为输入,MapReduce通过InputFormat会将文本进行切片处理,并将每行的首字母相对于文本文件的首地址的偏移量作为输入键值对的key,文本内容作为输入键值对的value,经过在map函数处理,输出中间结果<word,1>的形式,并在reduce函数中完成对每个单词的词频统计。整个程序代码主要包括两部分:Mapper部分和Reducer部分。
Mapper代码
public static class doMapper extends Mapper<Object, Text, Text, IntWritable>{
//第一个Object表示输入key的类型;第二个Text表示输入value的类型;第三个Text表示表示输出键的类型;第四个IntWritable表示输出值的类型
public static final IntWritable one = new IntWritable(1);
public static Text word = new Text();
@Override
protected void map(Object key, Text value, Context context)
throws IOException, InterruptedException
//抛出异常
{
StringTokenizer tokenizer = new StringTokenizer(value.toString(),"\t");
//StringTokenizer是Java工具包中的一个类,用于将字符串进行拆分
word.set(tokenizer.nextToken());
//返回当前位置到下一个分隔符之间的字符串
context.write(word, one);
//将word存到容器中,记一个数
}
在map函数里有三个参数,前面两个Object key,Text value就是输入的key和value,第三个参数Context context是可以记录输入的key和value。例如context.write(word,one);此外context还会记录map运算的状态。map阶段采用Hadoop的默认的作业输入方式,把输入的value用StringTokenizer()方法截取出的买家id字段设置为key,设置value为1,然后直接输出<key,value>。
Reducer代码
public static class doReducer extends Reducer<Text, IntWritable, Text, IntWritable>{
//参数同Map一样,依次表示是输入键类型,输入值类型,输出键类型,输出值类型
private IntWritable result = new IntWritable();
@Override
protected void reduce(Text key, Iterable<IntWritable> values, Context context)
throws IOException, InterruptedException {
int sum = 0;
for (IntWritable value : values) {
sum += value.get();
}
//for循环遍历,将得到的values值累加
result.set(sum);
context.write(key, result);
}
}
map输出的<key,value>先要经过shuffle过程把相同key值的所有value聚集起来形成<key,values>后交给reduce端。reduce端接收到<key,values>之后,将输入的key直接复制给输出的key,用for循环遍历values并求和,求和结果就是key值代表的单词出现的总次,将其设置为value,直接输出<key,value>。
完整代码
package mapreduce;
import java.io.IOException; import java.util.StringTokenizer; import org.apache.hadoop.fs.Path; import org.apache.hadoop.io.IntWritable; import org.apache.hadoop.io.Text; import org.apache.hadoop.mapreduce.Job; import org.apache.hadoop.mapreduce.Mapper; import org.apache.hadoop.mapreduce.Reducer; import org.apache.hadoop.mapreduce.lib.input.FileInputFormat; import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat; public class WordCount { public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException { Job job = Job.getInstance(); job.setJobName("WordCount"); job.setJarByClass(WordCount.class); job.setMapperClass(doMapper.class); job.setReducerClass(doReducer.class); job.setOutputKeyClass(Text.class); job.setOutputValueClass(IntWritable.class); Path in = new Path("hdfs://localhost:9000/mymapreduce1/in/buyer_favorite1"); Path out = new Path("hdfs://localhost:9000/mymapreduce1/out"); FileInputFormat.addInputPath(job, in); FileOutputFormat.setOutputPath(job, out); System.exit(job.waitForCompletion(true) ? 0 : 1); } public static class doMapper extends Mapper<Object, Text, Text, IntWritable>{ public static final IntWritable one = new IntWritable(1); public static Text word = new Text(); @Override protected void map(Object key, Text value, Context context) throws IOException, InterruptedException { StringTokenizer tokenizer = new StringTokenizer(value.toString(), "\t"); word.set(tokenizer.nextToken()); context.write(word, one); } } public static class doReducer extends Reducer<Text, IntWritable, Text, IntWritable>{ private IntWritable result = new IntWritable(); @Override protected void reduce(Text key, Iterable<IntWritable> values, Context context) throws IOException, InterruptedException { int sum = 0; for (IntWritable value : values) { sum += value.get(); } result.set(sum); context.write(key, result); } } } |
10.在WordCount类文件中,单击右键=>Run As=>Run on Hadoop选项,将MapReduce任务提交到Hadoop中。
11.待执行完毕后,打开终端或使用hadoop eclipse插件,查看hdfs上,程序输出的实验结果。
1. hadoop fs -ls /mymapreduce1/out
2. hadoop fs -cat /mymapreduce1/out/part-r-00000