Rdd算子之aggregate

迷南。 2022-02-05 13:23 303阅读 0赞

aggregate是聚合的意思

private static void arrgue1() {
            SparkConf conf = new SparkConf().setAppName("hzy").setMaster("local");
            JavaSparkContext sparkContext = new JavaSparkContext(conf);
            
            //生成rdd,并且有三个分区
            JavaRDD<Integer> rdd1 = sparkContext.parallelize(Arrays.asList(1, 2, 3, 4, 5, 6, 7), 3);
            
            /**
            *aggregate = 2 + （2 + 分区1）+（2+分区2）+（2+分区3）
            第一个方法为每个分区内部的操作
            第二个方法为每个分区互相操作
            **/
            Integer aggregate = rdd1.aggregate(2, new Function2<Integer, Integer, Integer>() {
                @Override
                public Integer call(Integer integer, Integer integer2) throws Exception {
                    return integer+integer2;
                }
            }, new Function2<Integer, Integer, Integer>() {
                @Override
                public Integer call(Integer integer, Integer integer2) throws Exception {
                    return integer+integer2;
                }
            });
            System.out.println(aggregate);
        }

发表评论取消回复

表情：

评论列表（有 0 条评论，303人围观）

还没有评论，来说两句吧...

相关阅读

相关 Spark RDD-行动算子

2.4 Action **行动算子：触发运算，在 Executor 执行，如果想直接在 Driver 端看到结果可以使用 collect 和 foreach 都可以将...

小鱼儿/ 2024年04月20日 09:10/ 0 赞/ 70 阅读

相关 Spark RDD-转化算子

**2.RDD** **编程** 2.1 **编程模型** 　　在 Spark 中，RDD 被表示为对象，通过对象上的方法调用来对 RDD 进行转换。经过 ...

迷南。/ 2024年04月20日 09:09/ 0 赞/ 80 阅读

相关 Spark之RDD转换算子（transformation）大全

前面已经给大家讲过RDD原理，今天就给大家说说RDD的转换算子有哪些，以便大家理解。对于转换操作，RDD的所有转换都不会直接计算结果，仅记录作用于RDD上的操作，当遇到动

た入场券/ 2022年11月25日 00:40/ 0 赞/ 304 阅读

相关 RDD算子

RDD算子算子分类 1、transformation（转换）根据已经存在的rdd转换生成一个新的rdd, 它是延迟加载，它不会立即执行例如:

系统管理员/ 2022年10月06日 06:58/ 0 赞/ 201 阅读

相关 RDD基本算子操作

1.1. Transformations 1.1.1. 创建RDD 1、数组创建RDD 从普通数组创建RDD，里面包含了1到9这9个数字，它们分别在3个分区中

古城微笑少年丶/ 2022年05月28日 05:57/ 0 赞/ 229 阅读

相关 Rdd算子之reduce

/ 分三个分区：分区1：1、2 分区2：3、4 分区3：5、6、7 每个分区内部进行相加（1+2）+（3+4）

小鱼儿/ 2022年02月05日 13:25/ 0 赞/ 278 阅读

相关 Rdd算子之aggregate

aggregate是聚合的意思 private static void arrgue1() { SparkConf conf = new Sp

迷南。/ 2022年02月05日 13:23/ 0 赞/ 304 阅读

相关 Spark RDD操作之Map系算子

[为什么80%的码农都做不了架构师？>>> ][80_] ![hot3.png][] 本篇博客将介绍Spark RDD的Map系算子的基本用法。 1、ma

落日映苍穹つ/ 2022年01月16日 21:29/ 0 赞/ 275 阅读

相关 Spark、RDD、算子

Spark、RDD、算子 spark特点：速度快(基于内存处理数据，有相无关图)，语言广一、Spark核心-RDD（弹性分布式数据） Rdd是逻辑概念，part

川长思鸟来/ 2021年12月03日 10:21/ 0 赞/ 469 阅读

相关 Spark算子：RDD行动Action操作–aggregate、fold、lookup；reduce/fold/aggregate区别

关键字：Spark算子、Spark函数、Spark RDD行动Action、aggregate、fold、lookup aggregate def aggregate\

清疚/ 2021年09月25日 01:26/ 0 赞/ 314 阅读