Hadoop MapReduce 任务设计的几个常用技术

ゝ一纸荒年。 2021-09-22 05:44 165阅读 0赞

MapReduce 计算模型简单而有效，很多常见的计算问题都可以使用 Input -> Map -> Shuffle & Sort -> Reduce -> Output 这样简单的流程来实现，并在 Hadoop 这样的系统上进行大规模、分布式的数据处理。 尽管目前 Spark 这样较新的大数据处理模型/框架日益流行， 然而新计算模型的出现并不意味着 MapReduce 会被立刻取代， 而是意味着我们解决问题的时候有了更多的思路和方法， 也意味着一个数据工程师有了更多的工具需要学习、掌握和选择。

MapReduce 不擅长或者不能处理的问题需要新的系统来解决，而 MapReduce 长于处理的问题我们则希望充分利用这个框架的特性。 这篇文章里我们就从我们团队日常开发的实际经验出发， 聊一聊 Hadoop 中 MapReduce 任务设计时经常使用到的几个小技术。

### Multiple Inputs ###

多路输入常用于下面两种情况：

1.  一个任务的输入有多个数据源，且多个数据源有不同的格式时；
2.  一个任务的多个输入数据源需要不同的 Mapper 做不同逻辑的处理时。

多路输入的使用非常简单，就是将普通的  *addInputPath()* 方式替换为下面的方式：

MultipleInputs.addInputPath(job, new Path("/path/to/inputX/"),
        XXXInputFormat.class, XXXMapper.class);
    MultipleInputs.addInputPath(job, new Path("/path/to/inputY/"),
        YYYInputFormat.class, YYYMapper.class);

而某一路输入是 HBase Scan 时，也可以使用类似的方式：

conf.set(TableInputFormat.SCAN, TableMapReduceUtil.convertScanToString(yourScan));
    conf.set(TableInputFormat.INPUT_TABLE, tableName);
    
    MultipleInputs.addInputPath(job, new Path(tableName), // or whatever path, doesn't matter
        TableInputFormat.class, XXXTableMapper.class);

当多路数据源有不同的格式时，可以对不同数据源使用不同的 InputFormat 来分别输入； 而当需要对不同输入进行不同逻辑的处理时，可以通过编写不同的 Mapper 来实现。

此外，有一种特殊的多路输入情况。 就是任务有多路输入数据，每一路数据都有相同格式，也需要做相同的处理， 只是处理时需要根据数据的输入路径做一些不同处理， 例如为不同来源的数据打上不同标签，供后续 Reducer 中区分处理。 这种情况如果使用 MultipleInputs 来处理，就需要定义多个功能类似的 Mapper 类， 各个 Mapper 只有细微的不同，代码会比较不好看。 其实如果只是想根据输入路径对数据做不同的处理，可以直接在 Mapper 中获取输入数据的路径：

Path inputPath = ((FileSplit) context.getInputSplit()).getPath();

这个方法通常可以在 Mapper 的 *setup()* 方法中调用一次，获得 Input Path 之后， 就可以在 *map()* 方法中根据 Input Path 区分输入数据的来源了。 对于每一个 Input Split，Mapper 的 *run()* 方法都会先调用 *setup()*， 然后对这个 Split 中的每一个 Record 执行 *map()* 方法，最后 *cleanup()*。

#### Multiple Outputs ####

在我们这边的日常开发中，多路输出的使用比多路输入更常见一点。 有时是需要从一个任务中输出多路数据供后续的多个流程进行处理， 有时则是需要在主要输出之外增加一路副输出，用于 HBase 表更新、异常数据分流、 数据抽样等情况。

多路输出的使用也很容易，和普通的写文件流程 Open, Write 和 Close 有点类似。 通常情况下，我们会先在写 Job Driver 时定义一些 Named Output：

MultipleOutputs.addNamedOutput(job, "outputXName",
        XXXOutputFormat.class, OutputXKey.class, OutputXValue.class);
    MultipleOutputs.addNamedOutput(job, "outputYName",
        YYYOutputFormat.class, OutputYKey.class, OutputYValue.class);

然后在 Mapper 或者 Reducer 的  *setup()* 方法中创建一个 MultipleOutpus：

mos = new MultipleOutputs(context);

在需要输出数据的地方，可以使用定义好的 mos 进行输出：

mos.write("outputName", key, value);
    mos.write("outputName", key, value, "filePrefix");
    mos.write("outputName", key, value, "path/filePrefix");

这里，第一种输出方式将数据写到任务输出目录下的  *outputName/part-m|r-xxxxx*， 第二种输出方式将数据写到任务输出目录下的 *filePrefix-m|r-xxxxx*， 而第三种输出方式则将数据写到任务输出目录下的 *path/filePrefix-m|r-xxxxx*。

最后需要在 *cleanup()* 方法中关闭 MultipleOutputs，否则写入 mos 的输出都将无效：

mos.close();

另外值得一提的是，如果使用了多路输出时，没有在 Reducer 调用过 *context.write()* 进行输出，那么任务的输出目录中还是会生成一堆空的 *part-r-xxxxx* 文件。 如果要避免生成这些空文件，可以使用 LazyOutputFormat。

#### Composite Key & Secondary Sort ####

MapReduce 计算模型中，Shuffle 和 Sort 部分可以自定义的地方相对较少， 框架提供的功能大部分情况下能够满足需要。 这里，我们只提一下 Composite Key 和 Secondary Sort。

首先简单回顾一下 MapReduce 框架的特性。对于 Mapper 输出的 <KEY, VALUE> 对：

1.  Partitioner 根据 KEY 将它们分配给不同的 Reducer， 默认 Partitioner 就是保证相同的 KEY 会分配到同一个 Reducer；
2.  根据 KEY 的 Sort Comparator 实现，输入给 Reducer 的 <KEY, VALUE> 按照 KEY 排序；
3.  根据 Grouping Comparator 的实现，KEY 相等的 VALUES 会被聚合到一起， 由同一个 *reduce()* 方法遍历处理。

因此，通过定义不同的 Partitioner, Sort Comparator 和 Grouping Comparator， 可以实现相对灵活的排序和聚合效果：

job.setSortComparatorClass(SortComparator.class);
    job.setGroupingComparatorClass(GroupingComparator.class);
    job.setPartitionerClass(Partitioner.class);

举个例子，假设我们有一份数据，每个数据条目包含  *Key1: String*, *Key2: String* 和 *Value: Long* 三个部分。 现在需要设计一个 MapReduce 任务，针对 *Key1* 进行聚合计算，要求得到每个 *Key1* 的 *Value* 均值，以及每个 *Key1* 对应独立 *Key2* 个数。

我们可以定义一个 Composite Key 类，包含两个字段：Natural Key 和 Marker。

![Composite Key][]

并且定义 Partitioner 只根据 Natural Key 的 *hashCode()* 分区， Grouping Comparator 也只根据 Natural Key 的 *compare()* 方法做 KEY 比较， 而 Sort Comparator 则先根据 Natural Key 进行 *compare()*，如果 Natural Key 相等，再根据 Marker 进行 *compare()*。

Mapper 输出 KEY 时，Natural Key 设置为 *Key1*，而 Marker 设置为 *Key2*； Mapper 输出的 VALUE 则包含输入数据中的 *Value* 以及 *Key2* 两个部分。 这样就可以实现每个 *Key1* 的数据由单个 *reduce()* 方法处理，并且 VALUES 按照 *Key2* 排序的效果。 如此，计算每个 *Key1* 的独立 *Key2* 个数，以及 *Value* 均值等需求就非常容易了。

当然，这个简单的需求不定义单独的 Composite Key 类也是可能的。 只需要将 *Key1* 和 *Key2* 以独特的分隔符拼接成一个字符串， 定义 Partitioner 和 Grouping Comparator 只对比 *Key1*， Sort Comparator 则对比 *Key1 + Key2* 就可以了。

#### Partitioner ####

上面讨论 Secondary Sort 时，已经提到过 Partitioner 的原理和用法。 通常情况下，默认的 Partitioner 按照 KEY 的 *hashCode()* 进行分区， 这样可以达到均匀分区的效果，理想情况下，每个 Reducer 分配到的数据也是均匀的。

特殊情况下，默认 Partitioner 的均匀分区方法也可能不满足实际应用的需要。 例如数据严重倾斜的情况，或者逻辑、性能等特殊情况下要求每个 Reducer 的输入 KEY 连续的情况等。

Partitioner 中的关键方法是 *getPartition()*，一个哈希的 Partitioner 如下：

public int getPartition(KEY key, VALUE val, int numReduceTasks) { 
        return (hash32(key) & Integer.MAX_VALUE) % numReduceTasks;}

通过自定义 *getPartition()*，就可以实现一些特殊的需求， 上面的 Secondary Sort 其实也算是一种特殊需求了。 此外，Hadoop 发行版中还提供了一些有用的 Partitioner，例如 TotalOrderPartitioner。 这个 Partitioner 会读取一个 *\_partition.lst* 的文件， 这个文件中保存有预先定义的、排序的 KEY 列表，Partitioner 以这些 KEY 作为分区分界点，实现全局有序的分区。

在一个对 HBase 进行连续 Point Query 的任务中，我们通过实现全局有序分区， 使得每个 Reducer 中都按照 Rowkey 自然顺序访问 HBase，提高了 HBase BlockCache 的命中率，使得程序运行时间缩短为优化前的三分之一。

#### Distributed Cache ####

Distributed Cache 在 MapReduce 任务中应用很广， 它可以大大提高一些被频繁读取文件的访问速度。 一个常见的应用是，通过 *hadoop* 命令的 *-files* 参数， 将逗号分隔的一个或多个文件加入 Distributed Cache。 此外，还可以在任务代码中添加文件到 Distributed Cache：

DistributedCache.addCacheFile(new URI("/path/to/filename#linkname"),
            job.getConfiguration());
    DistributedCache.addCacheArchive(new URI("/path/to/archive.tgz",
            job.getConfiguration());

被添加到 Distributed Cache 的文件会被拷贝到 Mapper 和 Reducer 的运行目录中， 压缩归档文件还会被解压。 因此可以通过简单的本地读写 API 访问它们，访问速度通常也比从 HDFS 读写快很多， 非常适合保存经常被读取的小文件。

#### 结语 ####

MapReduce 适用于对大批量、不能全部加载到内存的数据进行批处理， 使用好 Hadoop 框架提供的特性，可以更加高效、优雅的解决问题。 在我们的使用中，大部分常见的数据处理需求都可以用 MapReduce 很好的处理， 关于 MapReduce 适用于解决哪些问题的探讨，这里推荐一本叫做 [ *MapReduce Design Pattern*][_MapReduce Design Pattern] 的书， 这本书用 200 多页的篇幅，介绍了常见的一些 MapReduce 算法设计模式， 是一本不错的设计指南。

#### TheFortyTwo ####

我们数据平台的程序员们做了一个微信公众号，叫做  **TheFortyTwo**， 我们会在工作之余，

每周

为大家推送原创技术文章， 或者优秀的技术文章一手翻译， 目前主要关注于数据处理领域，但也并无严格限制。 上面这篇文章也发表在了这个公众号上面，欢迎大家搜索  **TheFortyTwo**， 或者微信扫描下面二维码，关注我们。

![TheFortyTwo][Composite Key]

[Composite Key]: 
[_MapReduce Design Pattern]: http://shop.oreilly.com/product/0636920025122.do