Hadoop是什么？（处理大数据存储和分析的基础架构）

忘是亡心i 2022-12-17 15:54 115阅读 0赞

Hadoop是一个由Apache基金会所开发的[分布式系统][Link 1]基础架构。用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个[分布式文件系统][Link 2]（Hadoop Distributed File System），其中一个组件是HDFS。HDFS有高[容错性][Link 3]的特点，并且设计用来部署在低廉的（low-cost）硬件上；而且它提供高吞吐量（high throughput）来访问[应用程序][Link 4]的数据，适合那些有着超大数据集（large data set）的应用程序。HDFS放宽了（relax）POSIX的要求，可以以流的形式访问（streaming access）文件系统中的数据。Hadoop的框架最核心的设计就是：[HDFS][]和[MapReduce][]。HDFS为海量的数据提供了存储，而MapReduce则为海量的数据提供了计算 。

解决的问题：

*  海量数据的存储（HDFS）
 *  海量数据分析（MapReduce）
 *  资源管理调度（YARN）

作者：Doug Cutting（道格 · 卡丁）  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ0NzM5NzA2_size_16_color_FFFFFF_t_70_pic_center]

*  Douglass Read Cutting是一位软件设计师，也是[开源][Link 5]搜索技术的倡导者和创造者。他创建了[Lucene，][Lucene]并与[Mike Cafarella][]和[Nutch][]一起创建了两个开源搜索技术项目，这些项目现在由[Apache Software Foundation管理][Apache Software Foundation]。Cutting和Cafarella也是[Apache Hadoop][]的共同创始人。\[[1\]][1]
 *  learn more [https://en.wikipedia.org/wiki/Doug\_Cutting][https_en.wikipedia.org_wiki_Doug_Cutting]
 *  受google三篇论文的启发（GFS、MapReduce、BigTable（大数据库））
 *  Hadoop不是数据库，而是由许多框架组成的解决大数据问题的生态系统。

### Hadoop具体能做些什么？（海量离线日记分析） ###

*  Hadoop擅长日记分析，Facebook就用hive来进行日记分析，2009年时Facebook就有非编程人员的30%的人使用HiveQL进行数据分析，淘宝搜索中的自定义筛选也是用的Hive；利用Pig还可以做高级的数据处理，包括Twitter、LinkedIn上用于发现您可能认识的人，可以实现类似Amazon.com的协同过滤的推荐效果，淘宝的商品推荐也是！在Yahoo！的40%的Hadoop作业时用Pig运行的，包括垃圾邮件的识别和过滤，还有用户特征建模，（2012年8月25更新，天猫推荐系统时hive，少量尝试mahout！）

[Link 1]: https://baike.baidu.com/item/%E5%88%86%E5%B8%83%E5%BC%8F%E7%B3%BB%E7%BB%9F/4905336
[Link 2]: https://baike.baidu.com/item/%E5%88%86%E5%B8%83%E5%BC%8F%E6%96%87%E4%BB%B6%E7%B3%BB%E7%BB%9F/1250388
[Link 3]: https://baike.baidu.com/item/%E5%AE%B9%E9%94%99%E6%80%A7/9131391
[Link 4]: https://baike.baidu.com/item/%E5%BA%94%E7%94%A8%E7%A8%8B%E5%BA%8F/5985445
[HDFS]: https://baike.baidu.com/item/HDFS/4836121
[MapReduce]: https://baike.baidu.com/item/MapReduce/133425
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ0NzM5NzA2_size_16_color_FFFFFF_t_70_pic_center]: /images/20221122/3a9904d093b744599fd4c7f718d922f1.png
[Link 5]: https://en.wikipedia.org/wiki/Open-source_model
[Lucene]: https://en.wikipedia.org/wiki/Lucene
[Mike Cafarella]: https://en.wikipedia.org/wiki/Mike_Cafarella
[Nutch]: https://en.wikipedia.org/wiki/Nutch
[Apache Software Foundation]: https://en.wikipedia.org/wiki/Apache_Software_Foundation
[Apache Hadoop]: https://en.wikipedia.org/wiki/Apache_Hadoop
[1]: https://en.wikipedia.org/wiki/Doug_Cutting#cite_note-1
[https_en.wikipedia.org_wiki_Doug_Cutting]: https://en.wikipedia.org/wiki/Doug_Cutting