Hadoop中MapReduce中combine、partition、shuffle的作用是什么？在程序中怎么运用？

曾经终败给现在 2021-12-20 17:37 157阅读 0赞

MarkdownPad Document

# Hadoop中MapReduce中combine、partition、shuffle的作用是什么？在程序中怎么运用？ #

转：https://blog.csdn.net/u013063153/article/details/72357560

啦啦啦啦 我居然一字不落通读一遍，，，汇总。

## map 端的Shuffle细节： ##

![UfHAIhB.jpg][]

需要将数据写入内存缓冲区中，缓冲区的作用是批量收集map结果，减少磁盘IO的影响。我们的key/value对以及Partition的结果都会被写入缓冲区。当然写入之前，key与value值都会被序列化成字节数组。

哪个key到哪个Reducer的分配过程，是由Partitioner规定的。

当溢写线程启动后，需要对这80MB空间内的key做排序(Sort)。排序是MapReduce模型默认的行为，这里的排序也是对序列化的字节做的排序。

reduce只指reduce端执行从多个map task取数据做计算的过程。除reduce外，非正式地合并数据只能算做combine了。其实大家知道的，

MapReduce中将Combiner等同于Reducer。

当map task真正完成时，内存缓冲区中的数据也全部溢写到磁盘中形成一个溢写文件。最终磁盘中会至少有一个这样的溢写文件存在(如果map的输出结果很少，当map执行完成时，只会产生一个溢写文件)，

因为最终的文件只有一个，所以需要将这些溢写文件归并到一起，这个过程就叫做Merge。

因为它们有相同的key，所以得merge成group。什么是group。

对于“aaa”就是像这样的：{“aaa”, [5, 8, 2, …]}，数组中的值就是从不同溢写文件中读取出来的，然后再把这些值加起来。
    请注意，因为merge是将多个溢写文件合并到一个文件，所以可能也有相同的key存在，
    在这个过程中如果client设置过Combiner，
    也会使用Combiner来合并相同的key。

至此，map端的所有工作都已结束，最终生成的这个文件也存放在TaskTracker够得着的某个本地目录内。每个reduce task不断地通过RPC从JobTracker那里获取map task是否完成的信息，如果reduce task得到通知，获知某台TaskTracker上的map task执行完成，Shuffle的后半段过程开始启动。

## 下面我也分段地描述reduce 端的Shuffle细节： ##

![M1G7w8K.jpg][]

1.  Copy过程，简单地拉取数据。Reduce进程启动一些数据copy线程(Fetcher)，通过HTTP方式请求map task所在的TaskTracker获取map task的输出文件。因为map task早已结束，这些文件就归TaskTracker管理在本地磁盘中。
2.  Merge阶段。这里的merge如map端的merge动作，只是数组中存放的是不同map端copy来的数值。Copy过来的数据会先放入内存缓冲区中，这里的缓冲区大小要比map端的更为灵活，它基于JVM的heap size设置，因为Shuffle阶段Reducer不运行，所以应该把绝大部分的内存都给Shuffle用。这里需要强调的是，merge有三种形式：1)内存到内存 2)内存到磁盘 3)磁盘到磁盘。默认情况下第一种形式不启用，让人比较困惑，是吧。当内存中的数据量到达一定阈值，就启动内存到磁盘的merge。与map 端类似，这也是溢写的过程，这个过程中如果你设置有Combiner，也是会启用的，然后在磁盘中生成了众多的溢写文件。第二种merge方式一直在运行，直到没有map端的数据时才结束，然后启动第三种磁盘到磁盘的merge方式生成最终的那个文件。
3.  Reducer的输入文件。不断地merge后，最后会生成一个“最终文件”。为什么加引号？因为这个文件可能存在于磁盘上，也可能存在于内存中。对我们来说，当然希望它存放于内存中，直接作为Reducer的输入，但默认情况下，这个文件是存放于磁盘中的。当Reducer的输入文件已定，整个Shuffle才最终结束。然后就是Reducer执行，把结果放到HDFS上。

转载于:https://www.cnblogs.com/ming-michelle/p/10515048.html

[UfHAIhB.jpg]: https://i.imgur.com/UfHAIhB.jpg
[M1G7w8K.jpg]: https://i.imgur.com/M1G7w8K.jpg