Hadoop上Data Locality的详解

hadoop上data locality的详解

hadoop上的data locality是指数据与mapper任务运行时数据的距离接近程度（data locality in hadoop refers to the“proximity” of the data with respect to the mapper tasks working on the data.）

1. why data locality is imporant?

当数据集存储在hdfs中时，它被划分为块并存储在hadoop集群中的datanode上。当在数据集执行mapreduce作业时，各个mappers将处理这些块（输进行入分片处理）。如果mapper不能从它执行的节点上获取数据，数据需要通过网络从具有这些数据的datanode拷贝到执行mapper任务的节点上（the data needs to be copied over the network from the datanode which has the data to the datanode which is executing the mapper task）。假设一个mapreduce作业具有超过1000个mapper，在同一时间每一个mapper都试着去从集群上另一个datanode节点上拷贝数据，这将导致严重的网络阻塞，因为所有的mapper都尝试在同一时间拷贝数据（这不是一种理想的方法）。因此，将计算任务移动到更接近数据的节点上是一种更有效与廉价的方法，相比于将数据移动到更接近计算任务的节点上（it is always effective and cheap to move the computation closer to the data than to move the data closer to the computation）。

2. how is data proximity defined?

当jobtracker（mrv1）或applicationmaster（mrv2）接收到运行作业的请求时，它查看集群中的哪些节点有足够的资源来执行该作业的mappers和reducers。同时需要根据mapper运行数据所处位置来考虑决定每个mapper执行的节点（serious consideration is made to decide on which nodes the individual mappers will be executed based on where the data for the mapper is located）。

3. data local

当数据所处的节点与mapper执行的节点是同一节点，我们称之为data local。在这种情况下，数据的接近度更接近计算（ in this case the proximity of the data is closer to the computation.）。jobtracker（mrv1）或applicationmaster（mrv2）首选具有mapper所需要数据的节点来执行mapper。

4. rack local

虽然data local是理想的选择，但由于受限于集群上的资源，并不总是在与数据同一节点上执行mapper（although data local is the ideal choice, it is not always possible to execute the mapper on the same node as the data due to resource constraints on a busy cluster）。在这种情况下，优选地选择在那些与数据节点在同一机架上的不同节点上运行mapper（ in such instances it is preferred to run the mapper on a different node but on the same rack as the node which has the data.）。在这种情况下，数据将在节点之间进行移动，从具有数据的节点移动到在同一机架上执行mapper的节点，这种情况我们称之为rack local。

5. different rack

在繁忙的群集中，有时rack local也不可能。在这种情况下，选择不同机架上的节点来执行mapper，并且将数据从具有数据的节点复制到在不同机架上执行mapper的节点。这是最不可取的情况。

如有疑问请留言或者到本站社区交流讨论，感谢阅读，希望能帮助到大家，谢谢大家对本站的支持！