轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.23 Hadoop序列化之自定义Mapper类

古城微笑少年丶 2024-03-22 19:33 41阅读 0赞

### 轻松入门大数据 ###

#### 文章目录 ####

*   *  轻松入门大数据
     *   *  第4章 入门到进阶：系统玩转分布式计算框架MapReduce
         *   *  4.1 Hadoop之MapReduce
             *   *  4.1.23 Hadoop序列化之自定义Mapper类

![在这里插入图片描述][6cd7f896a1e744c78f1fd85f696be17b.png_pic_center]

#### 第4章 入门到进阶：系统玩转分布式计算框架MapReduce ####

##### 4.1 Hadoop之MapReduce #####

> 1.  初识MapReduce
> 2.  MR优缺点
> 3.  MR核心思想
> 4.  官方词频统计案例分析
> 5.  MR编程规范
> 6.  MR数据类型
> 7.  词频统计分析详解
> 8.  模板方法设计模式
> 9.  序列化
> 10. Hadoop序列化之Writable
> 11. 自定义序列化案例实战
> 12. 初识InputFormat&InputSplit
> 13. InputSplit和Block的关系
> 14. InputFormat系列编程
> 15. Partitioner
> 16. Combiner
> 17. 排序
> 18. 初识OutputFormat
> 19. 自定义OutputFormat实战
> 20. 场景题之group by
> 21. 场景题之distinct
> 22. 场景题之join
> 23. Shuffle详解
> 24. MR核心组件总结

###### 4.1.23 Hadoop序列化之自定义Mapper类 ######

序列化类有了

![在这里插入图片描述][98fa1b143ab44398a92704ef09072c73.png_pic_center]

下面就是Mapper

package com.dingjiaxiong.mr.ser;
    
    import org.apache.hadoop.io.LongWritable;
    import org.apache.hadoop.io.Text;
    import org.apache.hadoop.mapreduce.Mapper;
    
    import java.io.IOException;
    
    /**
     * @Author Ding Jiaxiong
     * @Date 5/7/23 1:32 PM
     */
    
    /**
     * 按照分隔符进行拆分
     * 把每一行数据转换成一个Access对象
     * 输出<phone, Access>
     */
    public class AccessMapper extends Mapper<LongWritable, Text, Text, Access> {
        
    
        @Override
        protected void map(LongWritable key, Text value, Mapper<LongWritable, Text, Text, Access>.Context context) throws IOException, InterruptedException {
        
            String[] splits = value.toString().split("\t");
    
            /**
             * 一定要从代码的健壮性角度出发取数据
             */
    
            String phone = splits[1].trim();
            long up = Long.parseLong(splits[splits.length - 3]);
            long down = Long.parseLong(splits[splits.length - 2]);
    
            context.write(new Text(phone), new Access(phone, up, down));
        }
    }

![在这里插入图片描述][caf47b2d208e423f9718c6b1dc6ccaec.png_pic_center]

最后输出，`<phone,Access>` 这就是我们的自定义Mapper。

[6cd7f896a1e744c78f1fd85f696be17b.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/0c6b11a32bc84c4dae30d288e0bd953f.png
[98fa1b143ab44398a92704ef09072c73.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/854eb32b23f34af9800bf924f0c12a11.png
[caf47b2d208e423f9718c6b1dc6ccaec.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/105a40f1d17749de83b807dc4962be14.png

轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.23 Hadoop序列化之自定义Mapper类

发表评论取消回复

还没有评论，来说两句吧...

相关阅读

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.26 Hadoop序列化之总结

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.25 Hadoop序列化之自定义Driver类及测试

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.24 Hadoop序列化之自定义Reducer类

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.23 Hadoop序列化之自定义Mapper类

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.22 Hadoop序列化之自定义序列化类

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.21 Hadoop序列化之需求分析

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.20 Hadoop序列化之Writable接口详解

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.19 序列化之Data序列化机制

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.17 序列化概述

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.9 词频统计之自定义Mapper