hadoop中Yarn的配置与使用示例

小咪咪 2023-06-30 08:44 1阅读 0赞

[https://mp.weixin.qq.com/s?\_\_biz=MzA3NDc3ODg1MQ==&mid=2653658300&idx=2&sn=eef46f1bb01e1afc8924eb8d5bee29a0&chksm=84a5ad30b3d22426d7148760687cee73047a8a80ec285ae1bb243e15cb2bbc66996f40c36ad7&scene=21\#wechat\_redirect][https_mp.weixin.qq.com_s_biz_MzA3NDc3ODg1MQ_mid_2653658300_idx_2_sn_eef46f1bb01e1afc8924eb8d5bee29a0_chksm_84a5ad30b3d22426d7148760687cee73047a8a80ec285ae1bb243e15cb2bbc66996f40c36ad7_scene_21_wechat_redirect]

前面我们学习了如何在Mac OS上进行hadoop的搭建，参考[MAC OS搭建Hadoop伪分布式集群][MAC OS_Hadoop]。hadoop2.0之后，出现了Yarn框架用于作业的调度和集群资源的管理，因此对yarn的配置也必不可少。yarn的配置相对来讲比较简单，只需要修改`mapred-site.xml`和`yarn-site.xml`两个配置文件即可，这两个文件与前文提到过的三个配置文件都在`$HADOOPHOME/etc/hadoop`文件夹下。

1.`mapred-site.xml`配置

进入相应的文件夹下编辑`mapred-site.xml`文件，添加`mapreduce.framework`属性即可。

![format_png][]

配置文件所在位置

![format_png 1][]

mapred-site.xml的配置

2.yarn-site.xml配置

![format_png 2][]

yarn-site.xml的配置

同样的，在`yarn-site.xml`中添加nodemanager的服务即可。

3.启动yarn相关进程并验证是否启动成功

![format_png 3][]

启动yarn相关进程

./start-yarn.sh #在sbin目录下执行该命令可以启动yarn# 注意在这之前要先启动HDFS，从控制台的输出中可以看出，# 启动了resourcemanager和nodemanager进程，jps验证也输出了相应的进程号。# 启动之后可以通过访问http://localhost:8088来访问yarn的管理界面。
    ./stop-yarn.sh #停止yarn相关进程

4.在yarn上运行hadoop示例程序

![format_png 4][]

任务正在运行：RUNNING

![format_png 5][]

任务运行结束：FINISHED

与前文一样，我们依然运行hadoop自带jar包例子中计算PI的程序。此处有几点需要说明。

1）web页面可以随时跟踪任务的执行状态，刚提交时是running，执行结束后会变成finished。如上图所示。

2）配置了yarn之后，会在计算时链接yarn的服务。从控制台输出中我们可以看到连接了ResourceManger。ResourceManager就是yarn的资源管理器。

![format_png 6][]

配置yarn之后的计算PI日志

3）对比没有配置yarn之前的控制台上输出。可以看出配置yarn之后的日志更简洁。配置之前的(部分)日志见下图，配置之后的(部分)日志见上图。配置之前日志信息告诉我们，执行的是一个MapReduce过程，有map task，reduce task等。而配置之后，只有mapreduce job。可以理解为是运行在yarn之上的一个map reduce作业。配置之后运行时间虽然不一定快，但yarn的统一管理对整个集群来讲是更优化的。

![format_png 7][]

配置yarn之前的计算PI日志

以上就是hadoop中关于yarn的配置和思考，欢迎大家留言交流~

[https_mp.weixin.qq.com_s_biz_MzA3NDc3ODg1MQ_mid_2653658300_idx_2_sn_eef46f1bb01e1afc8924eb8d5bee29a0_chksm_84a5ad30b3d22426d7148760687cee73047a8a80ec285ae1bb243e15cb2bbc66996f40c36ad7_scene_21_wechat_redirect]: https://mp.weixin.qq.com/s?__biz=MzA3NDc3ODg1MQ==&mid=2653658300&idx=2&sn=eef46f1bb01e1afc8924eb8d5bee29a0&chksm=84a5ad30b3d22426d7148760687cee73047a8a80ec285ae1bb243e15cb2bbc66996f40c36ad7&scene=21#wechat_redirect
[MAC OS_Hadoop]: http://mp.weixin.qq.com/s?__biz=MzA3NDc3ODg1MQ==&mid=2653658292&idx=1&sn=afa3a9375db96b65f46822e526246017&chksm=84a5ad38b3d2242eb8ee7a975d1c6e19acea3f4e23960030ac6a117dde83ba22dc9ebf2f3395&scene=21#wechat_redirect
[format_png]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9vVTE1b1VNc2VaYXJwbVJEcGJlY3RLdUZxT2liYU5EMHU2d1pKTTF6emljM3FUMERmeWhUTnhYaWFPVHVDTkpFbzFOd1F1aWFldmdTd1NCZkhXaWNTcUxnbUNRLzY0MA?x-oss-process=image/format,png
[format_png 1]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9vVTE1b1VNc2VaYXJwbVJEcGJlY3RLdUZxT2liYU5EMHVQWkxaOGtRS1o2Rjd2RHhucEF4UU90QXJxYzVjODFiOVNvWFdrSzlJbHlSblZldTRuUURkU3cvNjQw?x-oss-process=image/format,png
[format_png 2]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9vVTE1b1VNc2VaYXJwbVJEcGJlY3RLdUZxT2liYU5EMHVBOVBRSnZwczJlTUdBd3c3MHhMdzJqUHhOZVhYVkJZZ21Ld3h5QUI5dDByb2xTaWJYOGVCdU9nLzY0MA?x-oss-process=image/format,png
[format_png 3]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9vVTE1b1VNc2VaYXJwbVJEcGJlY3RLdUZxT2liYU5EMHU1Q25IZlByTUtjSFJPMDlWSG81ZVNsN09RODBqbDFoZ0hNdkFqS2Y2clI2Rm53ckxlWVVCemcvNjQw?x-oss-process=image/format,png
[format_png 4]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9vVTE1b1VNc2VaYXJwbVJEcGJlY3RLdUZxT2liYU5EMHVaa3g3Q2hxRVFJcXNiUFVQZWNaQXhlYTdSZVp6dXRpYnRqVUxpY1JwV3U2QnBrcE5zaWJzVVJ1WFEvNjQw?x-oss-process=image/format,png
[format_png 5]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9vVTE1b1VNc2VaYXJwbVJEcGJlY3RLdUZxT2liYU5EMHVyS3M2ZWM3TmRFQndCWmFvd1B0RHVDVUVTMFFGRFN0N1dKbmROTzRIZHd6VUQzbUw5NDlYU2cvNjQw?x-oss-process=image/format,png
[format_png 6]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9vVTE1b1VNc2VaYXJwbVJEcGJlY3RLdUZxT2liYU5EMHVnWXNTS2tocnJsUHJhRW9FaE5pY0JHcVdHTzRreUlZQTgxeEYyVHFjdVgyMkRGcFh6N1ZpYVdRdy82NDA?x-oss-process=image/format,png
[format_png 7]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9vVTE1b1VNc2VaYXJwbVJEcGJlY3RLdUZxT2liYU5EMHVGalg5T0o5TWdVRWM4QXZpYXd3dGtCUXNJOFcwWWNrNUxRdXRpYkQ2aFZZS0VpY1N6TEFTbDhvc2cvNjQw?x-oss-process=image/format,png