从MapReduce的执行来看如何优化MaxCompute（原ODPS） SQL

拼搏现实的明天。 2022-06-12 10:22 250阅读 0赞

[原文链接][Link 1]

摘要： SQL基础有这些操作（按照执行顺序来排列）： from join(left join, right join, inner join, outer join ,semi join) where group by select sum distinct count order by 如果我们能理解mapreduce是怎么实现这些SQL中的基本操作的，那么我们将很容易理解怎么优化SQL写法。

# SQL基础有这些操作（按照执行顺序来排列）： #

*  from
 *  join(left join, right join, inner join, outer join ,semi join)
 *  where
 *  group by
 *  select
 *  sum
 *  distinct
 *  count
 *  order by

如果我们能理解mapreduce是怎么实现这些SQL中的基本操作的，那么我们将很容易理解怎么优化SQL写法。接下来我们一个一个的谈：

*  from  
    这个操作是在解析过程中就完成了，目的就是找出输入的表(文件)。
 *  join(left join, right join, inner join, outer join ,semi join)  
    这个操作需要在参与map和reduce整个阶段。下图给出了各个阶段的数据输入输出变化：  
    假如执行这个SQL：
    
        select student_id, student_name, course_id 
        from student left join student_course on student.student_id = student_course.student_id;
    
    ![screenshot.png][]

从上面图可以看出当出现数据在某个（某些）key特别集中的时候，就会出现reduce的接收数据是不均匀的，导致reduce端数据倾斜。

*  where  
    这个地方如果有分区字段的话，会直接解析阶段就做裁剪。不会拖到后面的map和reduce阶段。如果不是分区字段，则只会涉及得到map阶段，在这个阶段直接过滤。
 *  group by
    
        select student_id, sum(score)
        from student_course
        group by student_id
    
    将GroupBy的字段组合为map的输出key值，利用MapReduce的排序，在reduce阶段保存LastKey区分不同的key。MapReduce的过程如下（当然这里只是说明Reduce端的非Hash聚合过程）  
    ![screenshot.png][screenshot.png 1]
 *  select  
    因为MaxComput（原ODPS）的文件存储是列式的，所以在select在编译解析的过程中会起到裁剪列的作用。比如一个表假如有100列，select中只出现了3列，那么其余的97列是没有进行计算的。写select尽量避免使用＊，并且不需要的字段尽量删减掉。
 *  sum  
    到这里开始涉及到了聚合函数，聚合函数需要区分可以拆分并行和不可以拆分并行两种。sum是典型的可拆分并行的。sum(1,2,3,1) = sum(1,2) + sum(3,1) = 7。而avg就是不可并行计算，avg(1,2,3,1) != avg(1,2) + avg(3,1) != avg(avg(1,2) + avg(3,1))。但是avg可以转化成可并行计算，比如先sum分子，再sum分母来并行化。  
    如果函数可并行，那么就可以在map阶段进行提前聚合，大大减少后面的发往reduce端的网络传递。
 *  distinct  
    如果是单distinct的话,会把distinct的列直接附在group-by字段组后面，然后进行处理。  
    麻烦的是multi distinct。根据disinct的逻辑，必须保证每个分组（group-by）相同的distinct列相同的key都分在同一个reduce中，否则就没有办法完成去重工作。所以如果按照单distinct的逻辑，reduce端就需要针对每一个distinct字段进行排序和去重。这样做显然是不高效的，因为对reduce端的计算压力很大，而且也没有利用到shuffle阶段的排序。  
    第二种方法就是把distinct的字段都拆开，形成独立的n张表。最后再做union all的操作。过程如下：
    
        select date, count(distinct student_id),count(distinct course), sum(score)
        from student_course
        group by date
    
    ![screenshot.png][screenshot.png 2]
 *  order by  
    在odps上和order by相似的功能在还有sort by, distribute by,cluster by。 后面的语法在普通的关系型数据库都不存在。算是mapreduce特有的功能。这里先解释下每个语句的含义：
    
    > order by —— order by会对输入做全局排序，因此只有一个Reducer(多个Reducer无法保证全局有序)，然而只有一个Reducer，会导致当输入规模较大时，消耗较长的计算时间。  
    > sort by —— sort by不是全局排序，其在数据进入reducer前完成排序，因此，如果用sort by进行排序，并且设置mapred.reduce.tasks>1，则sort by只会保证每个reducer的输出有序，并不保证全局有序。sort by不同于order by，它不受Hive.mapred.mode属性的影响，sort by的数据只能保证在同一个reduce中的数据可以按指定字段排序。使用sort by你可以指定执行的reduce个数(通过set mapred.reduce.tasks=n来指定)，对输出的数据再执行归并排序，即可得到全部结果。  
    > distribute by —— distribute by是控制在map端如何拆分数据给reduce端的。hive会根据distribute by后面列，对应reduce的个数进行分发，默认是采用hash算法。sort by为每个reduce产生一个排序文件。在有些情况下，你需要控制某个特定行应该到哪个reducer，这通常是为了进行后续的聚集操作。distribute by刚好可以做这件事。因此，distribute by经常和sort by配合使用。  
    > cluster by —— cluster by除了具有distribute by的功能外还兼具sort by的功能。但是排序只能是倒叙排序，不能指定排序规则为ASC或者DESC。

# MapReduce的几个阶段 #

*  input
 *  split
 *  map
 *  shuffle
 *  reduce
 *  output 这每个阶段都会出现各种问题，我们依次从前到后来讲怎么处理各个阶段出现的问题。

## Input & split ##

根据MaxCompute的功能，input可以是本地文件，也可以是数据库的表。可以通过InputFormat借口来定义。但是这个Format和后面的split阶段息息相关。因为split只切割比block小的文件，对于小文件则不作处理。所以当存在大量的小文件（特指大小达不到block大小的文件），会生成大量的split块，同时也会启动大量map任务。

### 可能出现的问题 ###

*  分区裁剪中出现问题 > 解决方法是让odps在生成任务之前就能确定好读区到分区的范围
 *  输入存在大量小文件，导致map instance数量超标 > 解决办法是读取时候设定块大小，可以使用setSplitSize来控制读取文件总大小 > 解决方案二是提前就把这些小文件给合并了
 *  输入文件大小分布非常不均匀，导致split的块大小分布不均匀，从而导致map端倾斜 > 可以使用setSplitSize来控制读取文件总大小
 *  输入的文件不能被切割，导致split块大小不均匀
    
    > 暂时没有找到解法
    
    相比于hadoop，odps系统在小文件处理方面的功能已经比较完善，主要体现在以下两个方面：  
    (1) 默认情况下，当Job完成之后，如果满足一定的条件，系统会自动分配一个FuxiTask（调度任务）进行小文件合并，即我们经常看到的MergeTask；

## map ##

map阶段的输入是上面Input&split阶段来保障的，一个分片一个map任务。所以当分片处理的不合理，map阶段就会出现问题。而map端经过shuffle和combianer（可选）后，会把数据交给reduce端。

#### 从input&split 到map可能出现的问题 ####

*  输入存在大量小文件，导致map instance数量超标 > 同上
 *  因为ODPS的SQL或者其他任务会解析成一个Task DAG。所以从最初输入到最终输出会有很多的中间计算。而这些中间计算之间也是对应着一个个的map reduce。如果当上一个map/reduce任务产生的输入可能形成一个种长尾分布，导致下一个mapreduce输入出现长尾。也就是map端任务倾斜。

## shuffle ##

这个阶段是mapreduce的核心，设计到sort，group和数据分发。

#### 可能出现的问题 ####

*  数据量特别大，可以使用combinar来进行mapper端的聚合。odps的参数是

## reduce ##

知道mapreduce计算模型的人都知道，map阶段输入是非结构化的，并不需要实现规定好输入的内容，输出则是一块块分区好的pair。而到reduce则有要求，那就是同样key的map处理的pair需要发送到同样的reduce中。这样就会出现某key数据量很大，某key数据量很小的时候对应的reduce处理的数据量大小也是不均匀的。一旦出现这种情，任务执行的结束时间必然会受到最长任务的拖累。,v>,v>

能产生reduce数据分布不均匀的操作，最长出现的有两分类：  
1. join  
这里推荐本书[《mapreduce设计模式》][mapreduce]，其中的连接模式篇章把各种join的描述。在这里大概说下join的类型：

*  reduce端连接
 *  map端连接（在odps中使用mapjoin即可），这个操作的前提是存在一个小表能放入到mapreduce中的环形内存中。而且大表必须作为“主表”（比如left join的话就必须是左表，而right join就必须是右表）。  
    所以到底为什么会产生倾斜呢？map端连接肯定是不会产生数据倾斜的，那么倾斜的必然是reduce连接。当一张表出现数据热点。这样就会出现热点reduce的运行远远大于其它的长尾，导致数据不均衡。
    
    大概总结下就是：  
    \- 如果存在小表，且如果左外连接时候小表是右表（或者是右外连接，小表必须是左表），可以使用mapjoin。  
    \- 如果都是大表且有热点，这样会出现倾斜，这时候需要剔除热点数据单独处理。  
    \- 如果都是大表没有热点，这样不会出现倾斜，这样还需要怎么优化？——这里首选想办法减小数据集合，如果不能在查看是否出现某些热门的数据，如果有，则对数据进行分桶。

1.  count(distinct) 对于distinct的实现，单键的时候会被直接附到group by的字段后，同时作为map输出的key值来处理。这样转化成了group by处理，一般是没有问题的。但是麻烦的是多键值count(distinct)，这个没有办法直接把所有的distinct的字段附到group by后面了。因为这样无法利用shuffle阶段的排序，到了reduce阶段需要做很多遍的去重操作。所有一般对于multi distinct都是采用给distinct 字段做编号，然后复制数据。比如输入数据是这样：

可以看到distinct会导致数据翻倍膨胀，而这些膨胀的数据后会通过网络传输到reduce，必然会造成很大的浪费。所以要治理，方法一是首先把distinct转成group by放在子查询中，然后外层再套一层查询进行分组count。

select user_id,count(deal_id),count(item) 
    from
    (
       select  user_id,deal_id, item from deal_list group by user_id,deal_id, item
    ) group by user_id;

方法二：设置参数——odps.sql.groupby.skewindata=true  
当选项设定为 true，生成的查询计划会有两个 MR Job。第一个 MR Job 中，Map 的输出结果集合会随机分布到 Reduce 中，每个 Reduce 做部分聚合操作，并输出结果，这样处理的结果是相同的 Group By Key 有可能被分发到不同的 Reduce 中，从而达到负载均衡的目的；第二个 MR Job 再根据预处理的数据结果按照 Group By Key 分布到 Reduce 中（这个过程可以保证相同的 Group By Key 被分布到同一个 Reduce 中），最后完成最终的聚合操作。

阿里巴巴大数据-玩家社区  [https://yq.aliyun.com/teams/6/][https_yq.aliyun.com_teams_6]

\---阿里大数据博文，问答，社群，实践，有朋自远方来，不亦说乎……

![bba01b493e1c5d904e882b1c380673c6ebe49a98][]

本文为云栖社区原创内容，未经允许不得转载，如需转载请发送邮件至yqeditor@list.alibaba-inc.com；如果您发现本社区中有涉嫌抄袭的内容，欢迎发送邮件至：yqgroup@service.aliyun.com 进行举报，并提供相关证据，一经查实，本社区将立刻删除涉嫌侵权内容。

![Center][]

[原文链接][Link 1]

[Link 1]: http://click.aliyun.com/m/26469/
[screenshot.png]: /images/20220612/9a6916471ccd415c829b62c89ace137b.png
[screenshot.png 1]: /images/20220612/ff2d391f48714f73a73deca8657df8ac.png
[screenshot.png 2]: /images/20220612/ca9c83034b5342e49c16bd46dd011b97.png
[mapreduce]: https://www.amazon.cn/MapReduce%E8%AE%BE%E8%AE%A1%E6%A8%A1%E5%BC%8F-%E8%BF%88%E7%BA%B3/dp/B00NA989GU/ref=sr_1_1?ie=UTF8&qid=1479738671&sr=8-1&keywords=mapreduce%E8%AE%BE%E8%AE%A1%E6%A8%A1%E5%BC%8F
[https_yq.aliyun.com_teams_6]: https://yq.aliyun.com/teams/6/
[bba01b493e1c5d904e882b1c380673c6ebe49a98]: /images/20220612/cf3e6d0b0f114764923f6e8893ef4878.png
[Center]: /images/20220612/c8c48dce92b0410db0b38055847eb944.png