Intellij idea本地模拟进行hadoop代码调试

美丽的神话.jpg
Idea是java的IDE,编写了相应的hadoop的代码,那么怎么在上面调试呢?具体可以有两个方法:
  1、把相应的代码打包成jar,通过上传的方式传到服务器上,之后通过hadoop -jar的方式执行相应的代码;
    (PS:个人觉得这种方法是比较高大上,但是对于目前自学的人来说机器资源是限制这个方法的主要原因)
  2、在idea中模拟集群的开发环境,配置相应的参数对其进行处理,这个过程主要是节省了在集群上配置的复杂过程,亲测有效,可以很好的提升对代码的理解
    (PS:本文介绍的就是如何使用这个方法执行hadoop的wordcount的过程)

正所谓有图有真相,废话不多说上图吧!

创建项目

1.先新建一个工程:File->New->Project;
2.选择Maven工程,配置相应的Project SDK,之后选择Next,跳转到下一个页面;


maven工程.png

3.在新的界面中填写相关信息:
这里面的groupid,artifactid和version是代表项目的三维坐标 , 点击Next之后自动跳出创建完成的提示框,选择finish之后,项目创建完毕

GroupId:代表的是你创建项目的包名;
ArtifactId: 代表的是你创建项目的项目名;
Version:代表代码的版本;

填写相关信息.png

创建完成.png

进行环境配置

1.首先在hadoop官网上下载hadoop到本地,不需要下载别的内容,只需要下载hadoop的包即可;
hadoop-2.7.4.tar.gz的包即可;PS:官网的地址这里就不在描述了,不知道的上网google下就可以了;
2.按照目录结构创建相应的类文件,写入相应的代码;


类结构图.png

3.可能这个时候会报错,不着急,我们慢慢来解决;
接下来打开project structure,在左侧找到modules,点击加号后,选择JARs or directories..选项导入相应的hadoop的jar;


导入依赖.png

4.将刚才下载的hadoop目录下的share文件夹中的相应目录添加进来;
hadoop的share目录文件.png

5.点击左侧的artifacts,添加一个空jar;
点击相应的加号,选择module output,然后勾选我们的项目,点击确定;
生成jar.png

以上过程执行完毕之后代码中的错误提示会消除,这样相关依赖的配置就完成

配置执行选项

1.选择项目的run->edit configurations配置启动参数;如果没有application的话则需要添加;


edit编辑.png


2.配置启动参数

Name:application的名字;
Main class:执行主类的名字;
Program arguments:程序启动参数,配置数据的输入目录和输出目录
(ps:其他部分可以保持不变)
正确的edit.png

Question

1.开始执行的时候可能会出现错误提示:


错误提示.png

解决办法:
在导入hadoop的share的目录下的时候注意是全部倒入才可以,重新导入即可;

2.执行时报错缺少jar:


缺少jar.png

以上错误重新导入下common/lib包即可;

3.output的输出目录无法创建:


输出目录无法创建.png

这个错误是配置输出路径的时候,output路径多写了一个“/”导致的。

成功输出

成功.png

PS

本人才疏学浅,如有不合理之处还望指教!谢谢大家!

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 151,688评论 1 330
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 64,559评论 1 273
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 101,749评论 0 226
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 42,581评论 0 191
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 50,741评论 3 271
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 39,684评论 1 192
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,122评论 2 292
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 29,847评论 0 182
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 33,441评论 0 228
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 29,939评论 2 232
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,333评论 1 242
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 27,783评论 2 236
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,275评论 3 220
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 25,830评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,444评论 0 180
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 34,553评论 2 249
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 34,618评论 2 249