发表评论取消回复
相关阅读
相关 Spark 内核 (一) --------- Spark 内核概述
目录 一、Spark 核心组件回顾 1. Driver 2. Executor 二、Spark 通用运行流程概述 --------
相关 Spark内核Shuffle流程及源码
Spark内核Shuffle流程及源码 目录 Spark内核Shuffle流程及源码 一、Shuffle的原理和执行过程 二、Has
相关 Spark内核之Driver的工作流程(Stage划分、Task划分、Task调度)
目录 一、Spark 里的几个概念 二、上下文对象 SparkContext 的核心属性 三、Spark RDD 的依赖关系 1.什么是依赖关系?什么是血缘关系?有什么
相关 Spark内核(执行原理)之环境准备/Spark作业提交流程
了解Spark任务的提交到运行的流程,其中包含两个阶段: 第一阶段在Yarn集群之外执行,主要是作业的提交,将作业提交到Yarn集群为止。
相关 Spark源码系列之Spark内核——Shuffle
在Hadoop中有一个阶段——Shuffle,Shuffle存在于Map和Reduce之间。同样在Spark中也存在Shuffle,而且Shuffle影响着Job的性能。尽管S
相关 Spark源码系列之Spark内核——Storage模块
1.Storage模块架构 Storage模块分为两部分: 1. 通信层:Storage模块的通信层通过Master/Slave模型实现的。Master和Sla
相关 Spark源码系列之Spark内核——Task运行
在详细介绍前,还是让我们先看看Task运行的流程,先有个整体的感觉: ![Center][] Executor收到序列化的Task后,先反序列化取出正常的Task,然
相关 Spark源码系列之Spark内核——Job提交
在介绍Job提交之前,我们先看下Job提交的过程: ![Center][] 看完上图之后,大家应该会有一个比较直观的了解,同时也便于对整个流程的把握。 D
相关 10.1 spark core — spark内核
spark是开源的分布式计算框架(源码是scala编写的) [http://spark.apache.org/][http_spark.apache.org] 计算速度加快
相关 Spark之Spark内核工作流程
这是一个较为细粒度的Spark运行流程。 我们写的Spark程序叫做Application。 Application会通过spark-submit来提交给Spar
还没有评论,来说两句吧...