hadoop 切片机制分析与应用

前言

上面是一张mapreduce读取一个文本数据的逻辑顺序处理图。我们知道，不管是本地运行还是集群模式下，最终以job的任务调度形式运行，主要分为两个阶段

• map阶段，开启maptask处理数据的读取
• reduce阶段，开启reducetask对数据做聚合

比如在wordcount案例中，一段文本数据，在map阶段首先被解析，拆分成一个个的单词，其实对hadoop来说，这项工作的完成，是由背后开启的一个maptask进行处理的，等job处理完成，看到在目标文件夹下，生成了对应的单词统计结果

如果有多个单词统计文本文件要处理呢？我们不妨改造下wordcount的job代码，在一个目录下放多个处理文件，看运行完毕的结果如何呢？

运行完毕后，我们随机截取几张运行中的日志，通过阅读关键信息，相信感兴趣的同学能看出点什么吧，总结下来

• 如果一个job开启后，检查到一个目录下包含多个待处理文件，将会开启多个maptask处理
• 默认情况下，有多少个文件，就开启多少个maptask任务
• reducetask处理完毕后，对结果做归并

hadoop任务并行化

使用hadoop或者其他大数据框架的一个很重要的原因在于，它们的底层设计能很好的支撑任务的并行化处理，也就是说，会充分利用服务器的配置将一个复杂的任务，或者单个task处理起来很耗时的任务根据需要拆分成多个并行的子任务来处理，充分利用服务器性能，达到任务处理的最优，耗时最短，机器性能利用率最佳

hadoop同样如此，提供了很多配置参数提供客户端选择，从而提升任务的处理性能

我们知道，hadoop的任务处理主要分为2个阶段，map和reduce阶段，默认情况下，结合上面的案例可以知道，将会根据文件个数默认开启等量的maptask去处理，但是我们设想这样一个问题，现在的文件比较小，尚未超过默认的一个blocksize ，即128m，如果超出了怎么办？甚至说这个文件达到1个g怎么办？

于是得出如下结论：

maptask的并行度决定map阶段的任务处理并发度，进而影响到整个job的处理速度

这样说来，当要处理的某个文件特别大的时候，通过设置maptask的并行度是可以提升整个map阶段的处理速度的

思考：1g的数据，启动8个maptask，可以提高集群的并发处理能力。那么1k的数据，也启动8个maptask，会提高集群性能吗？maptask并行任务是否越多越好呢？哪些因素影响了maptask并行度？

maptask并行度决定机制

• 数据块：block是hdfs物理上的单位，即把数据分成一块一块的，数据块是hdfs存储数据单位数据切片：数据切片只在逻辑上对输入进行分片，并不是真的会在磁盘上将其切分成多个片进行存储。
• 数据切片是mapreduce程序计算输入数据的单位，一个切片会对应启动一个maptask。

设想一段300mb大小的文件，假如按照100mb为一个切片的话，可以分为3个切片，这样map阶段将会开启3个maptask来处理这个任务，但是默认情况下，hadoop处理的一个文件块即block的size大小为128mb，那么问题来了，假如在生产环境下，hadoop真正在分布式环境下运行，任务往往分布在不同的机器上运行的，如下图所示

• node1 ~ node3 可认为是集群中3个节点，用于处理maptask数据
• 默认情况下，每次处理一个任务默认的文件数据库大小为128mb
• 300mb的待处理文件，按照100mb为一个切片，将会划分为3个切片，3个切片将会开启3个maptask进行处理

以上按照直观的理解，可以归纳出上面几点，但仔细分析下，会发现另一个问题就是，切片规则是客户端人为指定的规则，可以理解为一个账本，上面记录了工人干活时的工时，从而为结工资的时候做考量

但是对于3个节点来说，它们可不这么想了，因为它们是真正干活即执行任务的，人家管你是什么切片规则呢？总不能按照你的100mb大小的切片规则将自己的默认的128mb的数据库大小也改为100mb吧？这显然是不可能的，那该怎么办呢？

既然你切片上的规则是100mb嘛，于是node1节点就按照你的规则来，我这个节点上就处理100mb大小的数据就完事了，还剩下28mb大小的数据怎么办？既然分成了3个切片，肯定要开启3个maptask了，node2节点也要处理一个任务了，但是不能随意就处理数据啊，得先把node1节点上面那个28mb的未处理完毕的文件拷贝过来，再拼接出72mb大小的数据块，凑够100mb了再搞事

于是，如果在真正的分布式环境下，这样就存在一个数据文件的跨节点拷贝问题，这很显然会带来一部分的网络开销，如果数据文件较大话，这个性能损耗就很值得考虑了

按照以上理解，我们可总结出如下经验：

• 一个job的map阶段的并行度由客户端在提交job时候的切片数量决定
• 每一个切片将会被分配一个maptask进行处理
• 默认情况下，如果不指定，切片大小 = blocksize的块大小，这也是最优的处理
• 切片时不考虑数据整体，而是针对每一个文件单独切片

hadoop默认切片机制

默认情况下，不做任何设置的话，hadoop将采用fileinputformat切片机制，简单来说，原理如下：

• 简单的按照文件内容长度进行切片
• 切片大小，默认等于128mb，即blocksize的大小
• 切片时不考虑数据整体，而是针对每一个文件单独切片

这个相对来说，比较简单，就不再过多赘述了，可以通过源码调试，找到下面的writenewsplits 方法，进去看看源码的做法

hadoop textinputformat 的优化切片机制

fileinputformat实现类

在编写job的main程序中，还记得最后设置读取文件和输出文件的两行代码

在运行mapreduce程序时，输入的文件格式有很多种，比如：基于行的日志文件、二进制格式文件、数据库表等。那么，针对不同的数据类型，mapreduce是如何读取这些数据的呢？

fileinputformat常见的接口实现类包括：textinputformat、keyvaluetextinputformat、nlineinputformat、combinetextinputformat和自定义inputformat等。

最常见的就是textinputformat

• textinputformat是默认的fileinputformat实现类
• 按行读取每条记录
• 键是存储该行在整个文件中的起始字节偏移量， longwritable类型
• 值是这行的内容，不包括任何行终止符（换行符和回车符），text类型。

以下是一个示例，比如，一个分片包含了如下4条文本记录

rich learning form
intelligent learning engine
learning more convenient
from the real demand for more close to the enterprise

每条记录可以表示为以下键/值对：

(0,rich learning form)
(20,intelligent learning engine)
(49,learning more convenient)
(74,from the real demand for more close to the enterprise)

combinetextinputformat切片机制

从上面的分析来看，框架默认的textinputformat切片机制，是对任务按文件规划切片，不管文件多小，都会作为一个单独的切片，交给一个maptask，假如有大量小文件，就会产生大量的maptask，从而处理效率上并不高

于是就可以考虑另一种切片机制，即combinetextinputformat

combinetextinputformat应用场景

combinetextinputformat 用于小文件过多的场景，它可将多个小文件从逻辑上规划到一个切片中，这样，多个小文件就可以交给一个maptask处理

比如上面几个文件，最大的只有不到7mb，最下的只有不到2mb，那么基于combinetextinputformat的切片机制，可以考虑使用这种切片来做，具体的设置在job任务的代码中按照下面这样做设置

注意：虚拟存储切片最大值设置最好根据实际的小文件大小情况来设置具体的值，这个可以按照总体文件的大小，获取一个中位数比较好

combinetextinputformat案例代码演示

使用上面的4个文件作为输入数据源，期望只需要使用一个切片处理4个文件（默认情况下，4个文件将会启动4个切片和4个maptask，从控制台日志中观察）

使用combinetextinputformat的切片，大概如下面的实现过程

• 不做任何处理，运行上面的的wordcount案例程序，观察切片个数为4（控制台日志）
• 在job的代码中增加如下代码，运行程序，并观察运行的切片个数为1

• 先设置为4mb,然后尝试设置为20mb，观察运行结果是否为1个切片，number of splits:1

通过控制台的输出结果，验证了上面的目标猜想

到此这篇关于hadoop 切片机制分析与应用的文章就介绍到这了,更多相关hadoop 切片机制内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持！