hadoop 异常 reduce长时间卡住停滞不前的问题

浅浅的花香味﹌ 2022-09-19 01:27 208阅读 0赞

单个节点的命名问题也会导致这个问题，具体解决办法：

[http://blog.csdn.net/lxpbs8851/article/details/11820601][http_blog.csdn.net_lxpbs8851_article_details_11820601]

磁盘损坏的解决办法：

起因：

datanode的磁盘挂掉了2个

昨天的任务跑完了之后，检查了下dfsadmin -report

监测到集群之中有个节点的 Configured Capacity 比其它的节点少了差不多2个磁盘的容量；

然后去检查了下这个节点 发现确实有2个磁盘出了问题。

于是。重启 换磁盘 ，重新启动了节点。

然后在此节点上 执行了balancer

问题出现了：

早上到公司，发现 基本上所有的任务全部都hold了，平时只需要2分钟跑完的任务，一直堵在那边。

后台执行任务，发现了一个奇怪的现象，有些任务能够顺利的进行，而另外大部分的任务执行的时候 出现

map能达到100%  但是reduce基本上执行到30%  或者32% 的时候会卡住   等上半个小时也不会前进。

临时的解决办法：

查询了下 昨天新增的节点，由于最近才接触到这个集群，发现这个节点的数据已经有大半年没有更新了，意思就是死了大半年了、

于是果断的 干掉了这个节点。

重新执行 被堵住的任务，任务终于能够顺利的进行了。

更加详细的原因，还需要时间去查证。

原因找到了：

是因为这个datanode上面的多个磁盘都坏掉了。

处理过程：

[http://blog.csdn.net/lxpbs8851/article/details/17503805][http_blog.csdn.net_lxpbs8851_article_details_17503805]

[http_blog.csdn.net_lxpbs8851_article_details_11820601]: http://blog.csdn.net/lxpbs8851/article/details/11820601
[http_blog.csdn.net_lxpbs8851_article_details_17503805]: http://blog.csdn.net/lxpbs8851/article/details/17503805

发表评论取消回复

表情：

评论列表（有 0 条评论，208人围观）

还没有评论，来说两句吧...

相关阅读

相关 oracle查询过程中卡住,查看Oracle中存储过程长时间被卡住的原因

1：查V$DB\_OBJECT\_CACHE SELECT \ FROM V$DB\_OBJECT\_CACHE WHERE name='CUX\_OE\_ORDER\_RP

刺骨的言语ヽ痛彻心扉/ 2023年01月18日 04:29/ 0 赞/ 303 阅读

相关 Hadoop案例：Reduce join

文章目录输入数据期望结果需求分析自定OrderProductBean Mapper类

朱雀/ 2022年11月22日 00:02/ 0 赞/ 215 阅读

相关 HBase读取数据卡住长时间不返回的原因分析

　　这些天做HBase，但是遇到Hbase连接上之后读取数据的时候，一直卡在那儿，程序既不报错也不结束，让我好生纠结，困扰我一整天。现在问题终于解决，现在写了一段Demo代码，

拼搏现实的明天。/ 2022年09月24日 01:28/ 0 赞/ 284 阅读

相关 hadoop 异常 reduce长时间卡住停滞不前的问题

单个节点的命名问题也会导致这个问题，具体解决办法： [http://blog.csdn.net/lxpbs8851/article/details/11820601][htt

浅浅的花香味﹌/ 2022年09月19日 01:27/ 0 赞/ 209 阅读

相关 Hadoop Map/Reduce教程

Hadoop Map/Reduce教程 [目的][Link 1] [先决条件][Link 2] [概述][Link 3] [输入与输出][Link

超、凢脫俗/ 2022年09月18日 15:52/ 0 赞/ 189 阅读

相关 Reducer类——hadoop

1、Reducer类，由Map过程输出的一组键值对【（k2；v2）】将被进行合并处理，将同样主键下的不同value合并到一个列表【v2】中，因此Reduce的输入为（k2；

本是古典何须时尚/ 2022年08月22日 05:49/ 0 赞/ 193 阅读

相关 Hadoop运行wordcount时job卡住

若排除配置没有问题，并且提示有无法加载本地库的警告，则是版本问题。hadoop自带的native库(版本)位数与本机(版本)位数不同。 hadoop2.4以及之前的版本，自带

我会带着你远行/ 2022年08月07日 08:58/ 0 赞/ 174 阅读

相关虚拟机时间问题引起的hadoop集群时间问题

之前没有关注过虚拟机的时间问题，但是用了hadoop集群后，发现分析的数据与实际数据不符。才发现虚拟机用的是newYork 时区的时间，比正常时间慢了12个小时；所以必须修改虚

约定不等于承诺〃/ 2022年08月04日 09:11/ 0 赞/ 95 阅读

相关 Hadoop中Reduce任务的执行框架

在前面的一系列文章中我主要围绕Hadoop对Map任务执行框架的设计与实现展开了详细的讨论，记得在博文[Hadoop中Map任务的执行框架][Hadoop_Map]中

秒速五厘米/ 2022年06月17日 14:17/ 0 赞/ 182 阅读

相关如何使用Hadoop的Reduce Side Join

\[b\]\[color=green\]\[size=large\]我们都知道在数据库里，多个表之间是可以根据某个链接键进行join的，这也是数据库的范式规范，通过主外键的关联

超、凢脫俗/ 2022年04月22日 14:28/ 0 赞/ 209 阅读