搭建Hadoop所遇过的坑

问题1:

报错信息如下:

  Container exited with a non-zero exit code 143  Killed by external signal
解决方案:

分配的资源不够,加大内存或者调整代码,尽量避免类似JsonObject这样的大对象过度消耗内存,或者Include below properties in yarn-site.xml and restart VM

<property>
   <name>yarn.nodemanager.vmem-check-enabled</name>
   <value>false</value>
   <description>Whether virtual memory limits will be enforced for containers</description>
</property>
<property>
   <name>yarn.nodemanager.vmem-pmem-ratio</name>
   <value>4</value>
   <description>Ratio between virtual memory to physical memory when setting memory limits for containers</description>
</property>

</br>
</br>

问题2:

报错信息如下:

    HDFS进入安全模式: Name node is in safemode mode
解决方案:
    退出安全模式, 执行命令:   hadoop dfsadmin -safemode leave 

</br>
</br>

问题3:

报错信息如下:

INFO util.NativeCodeLoader - Unable to load native-hadoop library for your platform... using builtin-Java classes where applicable -- hadoop的本地库加载失败。
解决方案:

检查native库的版本信息,32bit的版本和64bit的版本在不匹配的机器上会加载失败,检查的命令是file <native-so-file>
native库依赖的glibc的版本问题。如果在高版本gcc(glibc)的机器上编译的native库,放到低版本的机器上使用,会由于glibc版本不一致导致该错误。

Hadoop默认会从$HADOOP_HOME/lib/native/Linux-*目录中加载本地库。
如果加载成功,输出为:

DEBUG util.NativeCodeLoader - Trying to load the custom-built native-hadoop library... 
INFO util.NativeCodeLoader - Loaded the native-hadoop library

如果加载失败,则报错为

Unable to load native-hadoop library for your platform...

相关的配置:

  1. 在Hadoop的配置文件core-site.xml中可以设置是否使用本地库:(Hadoop默认的配置为启用本地库)
<property>  
    <name>hadoop.native.lib</name>  
    <value>true</value>  
    <description>Should native hadoop libraries, if present, be used.</description>  
</property> 
  1. 另外,可以在环境变量中设置使用本地库的位置:
export JAVA_LIBRARY_PATH=/path/to/hadoop-native-libs

</br>
</br>

问题4:

报错信息如下:

    maps to localhost, but this does not map back
解决方案:
原因:  因为DNS服务器把 192.168.x.x 的地址都反向解析成 localhost ,而DNS服务器不是自己的,不能改。 
办法:  编辑ssh 客户端的 /etc/hosts 文件,把出问题的IP 地址和主机名加进去,就不会报这样的错了。

</br>
</br>

问题5:

报错信息如下:

java.io.IOException: Incompatible clusterIDsin /home/wangming/hadoop-data/dfs/data
解决方案:
格式化HDFS前, 先将原来的hadoop目录删除

</br>
</br>

问题6:

报错信息如下:

jps命令正常,但是8088端口的WEB页面无法访问
解决方案:
检查一下防火墙和selinux状态, 将防火墙和selinux关闭
防火墙:
service iptables status

关闭selinux:

  1. 永久修改
修改/etc/selinux/config文件中设置SELINUX=disabled ,然后重启服务器。
  1. 临时修改,执行以下命令:
setenforce 0    

内容扩展:

setenforce 1: 设置SELinux 成为enforcing模式
setenforce 0: 设置SELinux 成为permissive模式

</br>
</br>

问题7:

报错信息如下:

8088端口访问正常,但是看不到datanode节点
解决方案:
可能出现的问题和解决方案:
    1.8080端口没有打开, 手动启动yarn
    2.8080端口被其他进程占用, kill掉占用该端口的进程, 然后重启yarn
    3.8080端口被其他进程占用, 若(2)中占用的程序不能kill调用,则在yarn-site.xml配置文件中配置yarn.resourcemanager.address项, 将8080端口改为其他端口号, 比如: 8085

</br>
</br>

问题8:

报错信息如下:

org.apache.hadoop.ipc.Client: Retrying connect to server: master/192.168.216.131:54310
解决方案:

hostname的问题,同时,namenode与datanode的/etc/hosts内容都必须是ip位址与hostname的对应,不能使用127.0.0.1代替本机的ip地址,否则hadoop使用hostname找IP时,会以127.0.0.1作为IP地址.

1. 检查slave机器到master机器的连通性;
2. 检查master机器上,是否打开了192.168.216.131:54310的监听(netstat -nap | grep 54310)

</br>
</br>

问题9:

报错信息如下:

FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Exception in secureMain:
解决方案:
检查hostname是否在/etc/hosts文件中配置, 若无则将hostname配置到/etc/hosts文件中

</br>
</br>

问题10:

1.报错信息如下:

java.net.NoRouteToHostException: No route to host
解决方案:
zookeeper的IP要配对

</br>
</br>

问题11:

报错信息如下:

  CALL TO LOCALHOST/127.0.0.1:9000 
解决方案:

检查网卡,主机名,主机名与IP的映射是否正确:

  /etc/sysconfig/network-scripts/ifcfg-eth0            网卡:
  /etc/sysconfig/network                               主机名:
  /etc/hosts                                           主机名与IP的映射:  

</br>
</br>

问题12:

报错信息如下:

  打开namenode:50070页面,Datanode Infomation只显示一个节点
解决方案:
检查主机名,主机名与IP的映射,SSH配置是够正确
    主机名:/etc/sysconfig/network   
    主机名与IP的映射:/etc/hosts
    SSH配置:
        ~/.ssh/config
        ~/.ssh/authorized_keys
        ~/.ssh/known_hosts

</br>
</br>

问题13:

报错信息如下:

  hadoop的文件不能下载以及YARN中Tracking UI不能访问历史日志 
解决方案:
  windows系统不能解析域名所致,将/etc/hosts文件中主机名与IP的映射配置到到windows系统下的C:\Windows\System32\drivers\etc\hosts文件中

</br>
</br>

问题14:

5.报错信息如下:

  NativeCrc32.nativeComputeChunkedSumsByteArray
解决方案:
  配置eclipse的hadoop-home,bin和system32文件夹中加入64位的2.6版本的hadoop.dll

</br>
</br>

问题15:

报错信息如下:

  HDFS误删文件如何恢复 
解决方案:

$HADOOP_HOME/etc/hadoop/core-site.xml文件中添加以下配置

<property>
    <name>fs.trash.interval</name>
    <value>2880</value>
    <description>HDFS垃圾箱设置,可以恢复误删除,配置的值为分钟数,0为禁用</description>
</property>

恢复文件执行hdfs dfs -mv /user/root/.Trash/Current/误删文件 /原路径


</br>
</br>
</br>

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,015评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,262评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,727评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,986评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,363评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,610评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,871评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,582评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,297评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,551评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,053评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,385评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,035评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,079评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,841评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,648评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,550评论 2 270

推荐阅读更多精彩内容

  • 经过一系列的前期环境准备,现在可以开始Hadoop的安装了,在这里去apache官网下载2.7.3的版本http:...
    欢醉阅读 1,595评论 8 28
  • Android 自定义View的各种姿势1 Activity的显示之ViewRootImpl详解 Activity...
    passiontim阅读 170,569评论 25 707
  • 一.基本功能: 1.启动hive时报错 解决方案: 2.启动hive时报错: 解决方案: 3.启动hive时报错 ...
    咸鱼翻身记阅读 50,737评论 5 27
  • 静下来,慢下来 今天,在网页上不经意的看到了一位非常传奇的女性。 她在年过半百的时候,迎来了自己事业和爱情的第二次...
    苏薇suvy阅读 595评论 2 2
  • 你追时尚,我躲时尚,我怕时尚跑到我身上。 你嫌我土,我嫌你洋,洋花开在土树上。 张口都是我我我,何时能提你你你?我...
    八里山人程远河阅读 547评论 11 18