由磁盘空间不足引起的大数据集群服务异常问题处理方法

由于每家公司预算问题,经常会出现服务器磁盘空间不足问题导致大数据集群服务出现异常,下面介绍下解决方法。

一、问题现象

(1) 在项目接口端,提示接口调用超时异常

(2) 在移动机房环境查看CDH环境异常

(3) 重启CDH服务提示重启失败

项目接口调用失败


项目接口调用失败

重启CDH报错


单独重启kudu报错


二、分析问题方法

1、查看日志

查看对应的日志文件:

例如kudu查看对应的日志文件,CDH页面有对应的日志地址为:/var/log/kudu-master.INFO

Tail -100f kudu-master.INFO


初步根据角色日志定位为space 不足导致,磁盘存储空间不足导致

三、问题处理解决方法

(一)清理并释放磁盘空间

针对异常节点服务进行排查,登录对应的异常的节点服务器:

此次出现异常的节点为主节点43

使用df -h查看磁盘使用情况,此时看到磁盘/根目录下一级使用率100%


此时需要查看根目录/下各个文件夹的使用情况


看看根目录下的各个文件所占存储大小。

并根据实际情况进行清理,

重点清理的目录为:

/var/log下

/tmp

/home

/opt

对应目录下的大文件及日志文件需要及时清理。

此次主要内存占用较大的目录为/tmp

主要是由于Service Monitor的内存溢出后不停往/tmp写文件导致,产生5、6个

mgmt_mgmt-SERVICEMONITOR-fwdqdw12121c2579fb48f905dweb0dea_pid17082.hprof文件

mgmt_mgmt-SERVICEMONITOR-23213fdqwd232e1c2579fb48f903d1s1c_pid17231.hprof

mgmt_mgmt-SERVICEMONITOR-e088e1b54b389d2dsq323b48fcds34208dq_pid12182.hprof

清理存储完毕后再次检查磁盘使用情况


发现已经低于50%,正常使用范围。

(二)重启相应的服务

1. CDH对应的元数据库重启MySQL

执行命令:

Service mysql status

Service mysql restart

Service mysql status

2. 重启CDH环境

登录移动机房CM管理平台,选择Cloudera Manager Service操作项进行重启


然后重启CDH集群


重启完成后即可


3. 然后检查对应的服务是否正常即可,至此问题解决。

(三)制定解决策略规避此类问题

1. 调整Service Monitor的java堆栈大小


建议由此前的2G调整为4G,目前测试环境已经在测试,稍后进行正式环境的调整。

2. 定时清理对应tmp目录下产生的hprof文件

重点清理的目录为:

/var/log下

/tmp

对应目录下的大文件及日志文件需要及时清理。


每日进行定时清理,并定时到EasyScheduler任务调度中。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,716评论 4 364
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,558评论 1 294
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,431评论 0 244
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,127评论 0 209
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,511评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,692评论 1 222
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,915评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,664评论 0 202
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,412评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,616评论 2 245
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,105评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,424评论 2 254
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,098评论 3 238
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,096评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,869评论 0 197
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,748评论 2 276
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,641评论 2 271

推荐阅读更多精彩内容