轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.24 Hadoop序列化之自定义Reducer类

本是古典何须时尚 2024-03-22 19:33 57阅读 0赞

### 轻松入门大数据 ###

#### 文章目录 ####

*   *  轻松入门大数据
     *   *  第4章 入门到进阶：系统玩转分布式计算框架MapReduce
         *   *  4.1 Hadoop之MapReduce
             *   *  4.1.24 Hadoop序列化之自定义Reducer类

![在这里插入图片描述][a470c7ca515d4f83b754ad55ac65d405.png_pic_center]

#### 第4章 入门到进阶：系统玩转分布式计算框架MapReduce ####

##### 4.1 Hadoop之MapReduce #####

> 1.  初识MapReduce
> 2.  MR优缺点
> 3.  MR核心思想
> 4.  官方词频统计案例分析
> 5.  MR编程规范
> 6.  MR数据类型
> 7.  词频统计分析详解
> 8.  模板方法设计模式
> 9.  序列化
> 10. Hadoop序列化之Writable
> 11. 自定义序列化案例实战
> 12. 初识InputFormat&InputSplit
> 13. InputSplit和Block的关系
> 14. InputFormat系列编程
> 15. Partitioner
> 16. Combiner
> 17. 排序
> 18. 初识OutputFormat
> 19. 自定义OutputFormat实战
> 20. 场景题之group by
> 21. 场景题之distinct
> 22. 场景题之join
> 23. Shuffle详解
> 24. MR核心组件总结

###### 4.1.24 Hadoop序列化之自定义Reducer类 ######

Mapper 也写好了

![在这里插入图片描述][581b6a6eb7ea4180a27ee55d3a73a447.png_pic_center]

下面就是Reducer

package com.dingjiaxiong.mr.ser;
    
    import org.apache.hadoop.io.NullWritable;
    import org.apache.hadoop.io.Text;
    import org.apache.hadoop.mapreduce.Reducer;
    
    import java.io.IOException;
    
    /**
     * @Author Ding Jiaxiong
     * @Date 5/7/23 1:33 PM
     */
    public class AccessReducer extends Reducer<Text, Access, NullWritable, Access> {
        
    
        @Override
        protected void reduce(Text phone, Iterable<Access> values, Reducer<Text, Access, NullWritable, Access>.Context context) throws IOException, InterruptedException {
        
            long ups = 0;
            long downs = 0;
    
            for (Access access : values) {
        
                ups += access.getUp();
                downs += access.getDown();
            }
    
            context.write(NullWritable.get(), new Access(phone.toString(), ups, downs));
        }
    }

我们并不关心最后的输出时的key，因为我们需要的信息在Value 里面都有了，所以直接给Null。

![在这里插入图片描述][090657af1588427693c8ff60ce5f976e.png_pic_center]

[a470c7ca515d4f83b754ad55ac65d405.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/a8815f0c5c6f429897cc5048215a6525.png
[581b6a6eb7ea4180a27ee55d3a73a447.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/08119142b00d4d89a7204156f14cc80d.png
[090657af1588427693c8ff60ce5f976e.png_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/18/b8cb222e3b3c46cc89e6bf0dacca7013.png

轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.24 Hadoop序列化之自定义Reducer类

发表评论取消回复

还没有评论，来说两句吧...

相关阅读

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.26 Hadoop序列化之总结

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.25 Hadoop序列化之自定义Driver类及测试

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.24 Hadoop序列化之自定义Reducer类

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.23 Hadoop序列化之自定义Mapper类

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.22 Hadoop序列化之自定义序列化类

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.21 Hadoop序列化之需求分析

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.20 Hadoop序列化之Writable接口详解

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.19 序列化之Data序列化机制

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.17 序列化概述

相关轻松入门大数据第4章入门到进阶：系统玩转分布式计算框架MapReduce 4.1 Hadoop之MapReduce 4.1.10 词频统计之自定义Reducer