Rdd算子之aggregate

迷南。 2022-02-05 13:23 316阅读 0赞

aggregate是聚合的意思

private static void arrgue1() {
            SparkConf conf = new SparkConf().setAppName("hzy").setMaster("local");
            JavaSparkContext sparkContext = new JavaSparkContext(conf);
            
            //生成rdd,并且有三个分区
            JavaRDD<Integer> rdd1 = sparkContext.parallelize(Arrays.asList(1, 2, 3, 4, 5, 6, 7), 3);
            
            /**
            *aggregate = 2 + （2 + 分区1）+（2+分区2）+（2+分区3）
            第一个方法为每个分区内部的操作
            第二个方法为每个分区互相操作
            **/
            Integer aggregate = rdd1.aggregate(2, new Function2<Integer, Integer, Integer>() {
                @Override
                public Integer call(Integer integer, Integer integer2) throws Exception {
                    return integer+integer2;
                }
            }, new Function2<Integer, Integer, Integer>() {
                @Override
                public Integer call(Integer integer, Integer integer2) throws Exception {
                    return integer+integer2;
                }
            });
            System.out.println(aggregate);
        }

发表评论取消回复

表情：

评论列表（有 0 条评论，316人围观）

还没有评论，来说两句吧...

相关阅读

相关 Spark RDD-行动算子

2.4 Action **行动算子：触发运算，在 Executor 执行，如果想直接在 Driver 端看到结果可以使用 collect 和 foreach 都可以将...

小鱼儿/ 2024年04月20日 09:10/ 0 赞/ 84 阅读

相关 Spark RDD-转化算子

**2.RDD** **编程** 2.1 **编程模型** 　　在 Spark 中，RDD 被表示为对象，通过对象上的方法调用来对 RDD 进行转换。经过 ...

迷南。/ 2024年04月20日 09:09/ 0 赞/ 95 阅读

相关 Spark RDD 算子

目录 Basics Passing Functions to Spark 闭包 Example Local vs. cluster modes Printing

偏执的太偏执、/ 2023年06月11日 03:12/ 0 赞/ 21 阅读

相关 RDD算子

RDD算子算子分类 1、transformation（转换）根据已经存在的rdd转换生成一个新的rdd, 它是延迟加载，它不会立即执行例如:

系统管理员/ 2022年10月06日 06:58/ 0 赞/ 217 阅读

相关 RDD基本算子操作

1.1. Transformations 1.1.1. 创建RDD 1、数组创建RDD 从普通数组创建RDD，里面包含了1到9这9个数字，它们分别在3个分区中

古城微笑少年丶/ 2022年05月28日 05:57/ 0 赞/ 240 阅读

相关 Rdd算子之reduce

/ 分三个分区：分区1：1、2 分区2：3、4 分区3：5、6、7 每个分区内部进行相加（1+2）+（3+4）

小鱼儿/ 2022年02月05日 13:25/ 0 赞/ 293 阅读

相关 Rdd算子之aggregate

aggregate是聚合的意思 private static void arrgue1() { SparkConf conf = new Sp

迷南。/ 2022年02月05日 13:23/ 0 赞/ 317 阅读

相关 Spark RDD操作之Map系算子

[为什么80%的码农都做不了架构师？>>> ][80_] ![hot3.png][] 本篇博客将介绍Spark RDD的Map系算子的基本用法。 1、ma

落日映苍穹つ/ 2022年01月16日 21:29/ 0 赞/ 292 阅读

相关 Spark、RDD、算子

Spark、RDD、算子 spark特点：速度快(基于内存处理数据，有相无关图)，语言广一、Spark核心-RDD（弹性分布式数据） Rdd是逻辑概念，part

川长思鸟来/ 2021年12月03日 10:21/ 0 赞/ 489 阅读

相关 Spark算子：RDD行动Action操作–aggregate、fold、lookup；reduce/fold/aggregate区别

关键字：Spark算子、Spark函数、Spark RDD行动Action、aggregate、fold、lookup aggregate def aggregate\

清疚/ 2021年09月25日 01:26/ 0 赞/ 326 阅读