MacOS下Hadoop环境搭建

安装

Homebrew是MacOs系统下一款强大的软件包管理工具,通过它可以安装git、wget等工具,同样Hadoop的安装也可以通过它来进行:

brew install hadoop

这样hadoop被安装在系统的 /usr/local/Cellar/hadoop 目录之下。

配置

hadoop安装后,提供三种运行模式:

独立模式
伪分布模式
完全分布式

以下是《Hadoop权威指南》对这三种模式的解释:

Standalone (or local) mode
There are no daemons running and everything runs in a single JVM. Standalone
mode is suitable for running MapReduce programs during development, since it is
easy to test and debug them.

Pseudodistributed mode
The Hadoop daemons run on the local machine, thus simulating a cluster on a small
scale.

Fully distributed mode
The Hadoop daemons run on a cluster of machines.

在用brew安装完成后,Hadoop默认是独立模式,这种模式没有开辟守护进程,运行与JVM虚拟机上,适合MapReduce的测试与调试。而伪分布式模式会开辟守护进程,运行效果和在集群上类似,所以这里,我们将在电脑上进行伪分布模式的配置。

1.配置文件

在目录/usr/local/Cellar/hadoop/xxxxx/libexec/etc/hadoop/下进行配置:

<?xml version="1.0"?>
<!-- core-site.xml -->
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost/</value>
</property>
</configuration>

<?xml version="1.0"?>
<!-- hdfs-site.xml -->
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>

<?xml version="1.0"?>
<!-- mapred-site.xml -->
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>

<?xml version="1.0"?>
<!-- yarn-site.xml -->
<configuration>
<property>
<name>yarn.resourcemanager.hostname</name>
<value>localhost</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</configuration>

需要对core-site.xml、hdfs-site.xml、mapred-site.xml、yarn-site.xml四个文件添加这些键值对。(可以将该文件夹复制多份,开启Hadoop时调用不同的文件下从而可以开启不同的模式)

2.ssh登陆配置

在伪分布模式下,Hadoop是需要通过ssh来登陆的,如果配置了ssh秘钥,登陆就不需要做密码输入。先查看本地目录~/.ssh/下是否存在id_rsa和id_rsa.pub文件,如果没有的话,可以通过:

ssh-keygen -t rsa

进行生成。如果没有~/.ssh/文件夹,需要先手动创立一下,然后在此文件夹下操作。
为了让系统接受登陆,需要将共钥传入authorized_keys文件:

cat id_rsa.pub >> authorized_keys

最后,在MacOs下,需要在设置里面打开远程登录权限,进入系统偏好设置 >> 共享 >> 远程登录。将其设置为开启就可以了。


系统偏好设置

共享

通过命令行运行:

ssh localhost

exit

查看能够登录成功。

3.格式化namenode节点

配置的最后一步是格式化namenode节点,在命令行运行:

hdfs namenode -format

该操作会对系统临时文件夹下的目录进行操作,不会对硬盘产生格式化。

启动与关闭Hadoop

进入 /usr/local/Cellar/hadoop/xxxxxx/sbin/ 目录
启动调用以下脚本:

% start-dfs.sh
% start-yarn.sh
% mr-jobhistory-daemon.sh start historyserver

关闭调用以下脚本:

% mr-jobhistory-daemon.sh stop historyserver
% stop-yarn.sh
% stop-dfs.sh

程序默认的是调用hadoop配置文件夹下的配置文件,当我们做了多个配置文件夹,可以这样启动其他的配置模式。

% start-dfs.sh --config path-to-config-directory
% start-yarn.sh --config path-to-config-directory
% mr-jobhistory-daemon.sh --config path-to-config-directory start historyserver

状态查看

Hadoop的运行状态怎样?光启动和关闭看不出什么状况,甚至都不知道有没有启动成功。这里有两种方式可以验证Hadoop的运行状况。

1.命令行jps

在命令行输入jps,可以查看到java进程的,当没有启动Hadoop时,只看得到jps一个进程。如果启动成功会多出许多进程,同样,关闭后这些进程就没有了。

2.网页

在浏览器打开如下链接可以进入不同的管理界面:

Resource Manager: http://localhost:50070
JobTracker: http://localhost:8088
Specific Node Information: http://localhost:8042

参考文献

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,736评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,167评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,442评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,902评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,302评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,573评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,847评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,562评论 0 197
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,260评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,531评论 2 245
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,021评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,367评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,016评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,068评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,827评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,610评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,514评论 2 269

推荐阅读更多精彩内容