数仓工具—Hive优化

淡淡的烟草味﹌ 2022-12-28 09:01 300阅读 0赞

数据过滤

行过滤

  • 行处理：在分区剪裁中，当使用外关联时，如果将副表的过滤条件写在Where后面，那么就会先全表关联，之后再过滤，

列过滤

  • 列处理：在SELECT中，只拿需要的列，如果有，**尽量使用分区过滤，少用SELECT ***。

map 个数

input目录的文件总个数，input的文件大小，集群设置的文件块大小(目前为128M, 可在hive中通过set dfs.block.size;命令查看到，该参数不能自定义修改)；

如果一个任务有很多小文件（远远小于块大小128m），则每个小文件也会被当做一个块，用一个map任务来完成，而一个map任务启动和初始化的时间远远大于逻辑处理的时间，就会造成很大的资源浪费。而且，同时可执行的map数是受限的

是不是保证每个map处理接近128m的文件块，就高枕无忧了，答案也是不一定。比如有一个127m的文件，正常会用一个map去完成，但这个文件只有一个或者两个小字段，却有几千万的记录，如果map处理的逻辑比较复杂，用一个map任务去做，肯定也比较耗时

map 个数计算公式

在 MapReduce 的编程案例中，我们得知，一个MR Job的 MapTask 数量是由输入分片 InputSplit 决定的。而输入分片是由 FileInputFormat.getSp

发表评论

表情：
评论列表 （有 0 条评论，300人围观）

还没有评论，来说两句吧...

相关阅读

    相关 数仓工具—Hive架构服务(16)

    Hive 服务详解 前面我们学习[数仓工具—Hive的架构设计][Hive] 的时候学到了很多概念，像元数据服务什么的，其实架构设计里的每一项都对应的是一种服务或者是一个

    桃扇骨桃扇骨/ 0 赞/ 214 阅读

    相关 数仓工具—Hive动态分区(6)

    动态分区 前面我们学习了Hive 的分区分桶表，我们讲到了分区表中的分区字段可以是我们指定的字段——静态分区，也可以是数据表中的某些字段，这个怎么理解呢，例如我们有一个网

    野性酷女野性酷女/ 0 赞/ 244 阅读