大数据处理为何选择Spark，而不是Hadoop

迈不过友情╰ 2022-06-16 03:52 181阅读 0赞

# *一.基础知识*    #

#### *1.Spark* ####

Spark是一个用来实现快速而通用的集群计算的平台。

在速度方面，Spark扩展了广泛使用的MapReduce计算模型，而且高效地支持更多计算模式，包括交互式查询和流处理。

Spark项目包含多个紧密集成的组件。Spark的核心是一个对由很多计算任务组成的、运行在多个工作机器或者是一个计算集群上的应用进行调度、分发以及监控的计算引擎。

![1240][]

Spark的各个组件

#### *2.Hadoop* ####

[Hadoop][]是一个由Apache基金会所开发的[分布式系统][Link 1]基础架构。

用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。

Hadoop的框架最核心的设计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，则MapReduce为海量的数据提供了计算。

# *二.大数据处理选择* #

根据Spark和Hadoop的基础知识，我们了解Spark和Hadoop都 可以进行大数据处理，那我们如何选择处理平台呢？

#### *1.处理速度和性能* ####

Spark扩展了广泛使用的MapReduce计算模型，其中Spark有个Directed Acyclic Graph（DAG有向无环图）执行引擎，支持循环数据流和内存计算。

Hadoop是[磁盘][Link 2]级计算，进行计算时，都需要从磁盘读或者写数据，同时整个计算模型需要网络传输，导致MapReduce具有高延迟的致命弱点。

据统计，基于Spark内存的计算速度比Hadoop MapReduce快100倍以上，基于磁盘的计算速度也要快10倍以上。

#### *2.开发难易度* ####

Spark提供多语言(包括Scala、Java、Python)API，能够快速实现应用，相比MapReduce更简洁的代码，安装部署也无需复杂配置。使用API可以轻松地构建分布式应用，同时也可以使用Scala和Python脚本进行交互式编程。

#### *3.兼容性* ####

Spark提供了一个强大的技术栈，基于”One Stack to rule them all”的理念实现一体化、多元化的大数据处理平台，轻松应对大数据处理的查询语言Spark SQL、机器学习工具MLlib、图计算工具GraphX、实时流处理工具Spark Streaming无缝连接。

Hadoop的技术栈则相对独立复杂，各个框架都是独立的系统，给集成带来了很大的复杂和不确定性。

#### *4.相互集成性* ####

Spark可以运行在Hadoop集群管理Yarn上，这使得Spark可以读取Hadoop的任何数据。同时它也能读取HDFS、HBase、Hive、Cassandra以及任何Hadoop数据源。

参考文献：

王家林《大数据Spark企业级实战》

[1240]: /images/20220616/8ba6d39ab5224a0ea8fc47bae0606b4d.png
[Hadoop]: http://baike.baidu.com/item/Hadoop
[Link 1]: http://baike.baidu.com/item/%E5%88%86%E5%B8%83%E5%BC%8F%E7%B3%BB%E7%BB%9F
[Link 2]: http://cpro.baidu.com/cpro/ui/uijs.php?rs=1&u=http%3A%2F%2Fwww.aboutyun.com%2Fthread-6858-1-1.html&p=baidu&c=news&n=10&t=tpclicked3_hc&q=92051019_cpr&k=%B4%C5%C5%CC&k0=%CA%FD%BE%DD%B2%C9%BC%AF&kdi0=8&k1=%B1%E0%B3%CC&kdi1=8&k2=%B1%E0%B3%CC%D3%EF%D1%D4&kdi2=8&k3=%B4%C5%C5%CC&kdi3=8&k4=%CA%FD%BE%DD%BF%E2&kdi4=8&sid=22206017571c9009&ch=0&tu=u1692056&jk=c729b0949b2bd97a&cf=29&fv=14&stid=9&urlid=0&luki=4&seller_id=1&di=128