离线部署 CDH 5.15.0及使用CDH(4)——cloudera manager Server & Agent 离线安装

系统环境:
Centos: 7.5.1804
JDK: 1.8.0_191
MySQL: 5.7

Cloudera Manager 下载目录:http://archive.cloudera.com/cm5/cm/5/
CDH 下载目录:http://archive.cloudera.com/cdh5/parcels/5.15.0/
manifest.json:http://archive.cloudera.com/cdh5/parcels/5.15.0/manifest.json

CHD5 相关的 Parcel 包放到主节点的/opt/cloudera/parcel-repo/目录中,
\color{red}{CDH-5.15.0-1.cdh5.15.0.p0.21-el7.parcel.sha1 重命名为 CDH-5.15.0-1.cdh5.15.0.p0.21-el7.parcel.sha}
否则,系统会重新下载 CDH-5.15.0-1.cdh5.15.0.p0.21-el7.parcel 文件。
\color{red}{注意: CDH文件的版本一定要匹配}


准备文件:

各机器信息:

主机名 ip地址 安装服务
master (Master,Agent) 192.168.206.201 jdk、cloudera-manager、MySQL
node1 (Agents) 192.168.206.202 jdk、cloudera-manager
node2 (Agents) 192.168.206.203 jdk、cloudera-manager

1. 安装 CM Server & Agent[1]

  1. 在所有节点,创建/opt/cloudera-manager
    可以直接利用第二节的ops_command.sh和scp_file.sh脚本,master上执行:
    $ /opt/ops_command.sh 'mkdir -p /opt/cloudera-manager'
    
  2. 上传解压安装包
    把下载好的cloudera-manager-centos7-cm5.15.0_x86_64.tar.gz安装包上传至 node1 节点/opt/目录,然后node1上执行:
    $ /opt/scp_file.sh '/opt/cloudera-manager-centos7-cm5.15.0_x86_64.tar.gz'
    $ tar xvzf /opt/cloudera-manager*.tar.gz -C /opt/cloudera-manager
    $ /opt/ops_command.sh 'tar xvzf /opt/cloudera-manager*.tar.gz -C /opt/cloudera-manager'
    
    
    

2. 创建用户 cloudera-scm(所有节点)[2]

Cloudera管理器服务器和托管服务被配置为在默认情况下使用用户帐户Cloudera-scm,创建具有这个名称的用户是最简单的方法。创建用户,在安装完成后自动使用。

 $ useradd --system --home=/opt/cloudera-manager/cm-5.15.0/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
 $ /opt/ops_command.sh 'useradd --system --home=/opt/cloudera-manager/cm-5.15.0/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm'

3. 配置 CM Agent[3]

修改master节点

$ vim /opt/cloudera-manager/cm-5.15.0/etc/cloudera-scm-agent/config.ini
 //修改 server_host的值为master
-------------------------------------------------
 # Hostname of the CM server.
server_host=master
-------------------------------------------------

$ ./scp_file.sh /opt/cloudera-manager/cm-5.15.0/etc/cloudera-scm-agent/config.ini

4. 配置 CM Server 的数据库[4]

在master节点初始化CM5的数据库:

  1. 下载mysql-connector-java 驱动包,我这里直接在阿里云仓库搜索(mysql-connector-java)下载;
    下载完成后上传到 /opt/cloudera-manager/cm-5.15.0/share/cmf/lib
  2. 启动mysql服务
  3. 使用安装包脚本初始化数据库
# 脚本格式: scm_prepare_database.sh mysql  -h [数据库ip地址或者主机名] -uroot -p[root密码] --scm-host [数据库ip地址或者主机名]  [cm数据库名称] [数据库用户名] [数据库密码]
# 指定的[cm数据库名称] 数据库一定不存在
$ /opt/cloudera-manager/cm-5.15.0/share/cmf/schema/scm_prepare_database.sh mysql  -h master -uroot -p123456 --scm-host master scm xuchang 123456

[2019-08-25 00:25:28,279] INFO     0[main] - com.cloudera.enterprise.dbutil.DbCommandExecutor.testDbConnection(DbCommandExecutor.java) - Successfully connected to database.
All done, your SCM database is configured correctly!

5. 离线安装[5]

  1. Manager 也就是master节点创建目录/opt/cloudera/parcel-repo,CDH默认的parcel离线包存放目录,将下载好的离线文件放入该目录:
$ mkdir -p /opt/cloudera/parcel-repo
$ chown -R cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
# CDH-5.15.0-1.cdh5.15.0.p0.21-el7.parcel  
# CDH-5.15.0-1.cdh5.15.0.p0.21-el7.parcel.sha1  
# manifest.json

#重命名
$ mv CDH-5.15.0-1.cdh5.15.0.p0.21-el7.parcel.sha1 CDH-5.15.0-1.cdh5.15.0.p0.21-el7.parcel.sha
  1. Agent (node1、node2)节点创建 /opt/cloudera/parcels目录
$ ./ops_command.sh 'mkdir -p /opt/cloudera/parcels'
$ ./ops_command.sh 'chown -R cloudera-scm:cloudera-scm /opt/cloudera/parcels'
  1. 启动服务
    \color{red}{mysql 服务启动,防火墙关闭}
# master上执行:
$ /opt/cloudera-manager/cm-5.15.0/etc/init.d/cloudera-scm-server start

[root@master opt]# /opt/cloudera-manager/cm-5.15.0/etc/init.d/cloudera-scm-server start
Starting cloudera-scm-server:                              [  确定  ]
--------------------------------------------------------------------------------------------
$ /opt/cloudera-manager/cm-5.15.0/etc/init.d/cloudera-scm-agent start
$ ./ops_command.sh '/opt/cloudera-manager/cm-5.15.0/etc/init.d/cloudera-scm-agent start'

[root@master opt]# ./ops_command.sh '/opt/cloudera-manager/cm-5.15.0/etc/init.d/cloudera-scm-agent start'
exe command /opt/cloudera-manager/cm-5.15.0/etc/init.d/cloudera-scm-agent start
Starting cloudera-scm-agent: [  确定  ]
Starting cloudera-scm-agent: [  确定  ]

Manager 启动成功需要等待一段时间,过程中会在数据库中创建对应的表需要耗费一些时间,稍等即可访问 master:7180,账号/密码: admin/admin
日志文件可以查看,
Manager: /opt/cloudera-manager/cm-5.15.0/log/cloudera-scm-server/
Agent: /opt/cloudera-manager/cm-5.15.0/log/cloudera-scm-agent/

cdh登陆界面.png

恭喜安装成功!!!

6. CDH5群集设置[6]

  1. 欢迎使用 Cloudera Manager
    最终用户许可条款和条件,(同意直接,继续)
  2. 部署哪个版本?(第一个免费版本,继续)
  3. 感谢您选择 Cloudera Manager 和 CDH(继续)
  4. 为 CDH 群集安装指定主机(tab切换当前管理的主机: master,node1,node2; 全选,继续)
  5. 群集安装,选择存储库(按下图选择已经下载好的离线包,继续)


    parcels存储库.png
  6. 正在安装选定 Parcel(等安装完成,继续)


    安装Parcel.png
  7. 群集安装,检查主机正确性(继续)
  8. 群集设置,Select Services(核心 Hadoop或者按自己的需求选择,继续)
  9. 群集设置,数据库设置(需要创建对应的数据库,和用户,继续)
    官方建议:

Databases for Cloudera Software

Service Database User
Cloudera Manager Server scm scm
Activity Monitor amon amon
Reports Manager rman rman
Hue hue hue
Hive Metastore Server metastore hive
Sentry Server sentry sentry
Cloudera Navigator Audit Server nav nav
Cloudera Navigator Metadata Server navms navms
Oozie oozie oozie
  1. 群集设置,审核更改(按需设置或者直接,继续)

  2. 群集设置,首次运行 命令(步骤失败看日志stderr,解决错误后Resume)
    \color{red}{错误:}
    1. Error: JAVA_HOME is not set and Java could not be found
    解决思路: 查看完整日志文件从开始浏览一遍,发现JAVA_HOME是在Shell脚本/opt/cloudera-manager/cm-5.15.0/lib64/cmf/service/common/cloudera-config.sh中读取的,编辑cloudera-config.sh这个文件

    JAVA8_HOME_CANDIDATES=(
             '/usr/java/jdk1.8'
             '/usr/java/jre1.8'
             '/usr/lib/jvm/j2sdk1.8-oracle'
             '/usr/lib/jvm/j2sdk1.8-oracle/jre'
             '/usr/lib/jvm/java-8-oracle'
             '/opt/jdk1.8.0_191'          #这是加进去的
    )
    
    $ ./scp_file.sh /opt/cloudera-manager/cm-5.15.0/lib64/cmf/service/common/cloudera-config.sh
    
    如果后面有此类错误,按照这个思路去解决
    
    1. org.apache.hadoop.hive.metastore.HiveMetaException: Failed to load driver

      mysql数据库驱动没找到,之前下载的mysql-connector-java复制一份(其它组件依赖mysql的,同样方法复制一份到组件的lib目录下)

      $ cp /opt/cloudera-manager/cm-5.15.0/share/cmf/lib/mysql-connector-java-5.1.9.jar /opt/cloudera/parcels/CDH-5.15.0-1.cdh5.15.0.p0.21/lib/hive/lib/
    

    彻底解决(组件安装找不到mysql jdbc驱动,会去/user/share/java目录找),放一份到 复制一份重命名 /usr/share/java/mysql-connector-java.jar

     $ cp /opt/cloudera-manager/cm-5.15.0/share/cmf/lib/mysql-connector-java-5.1.9.jar /usr/share/java/mysql-connector-java.jar
    
首次运行命令.png
安装成功.png

  1. 安装 CM Server & Agent

  2. 创建用户 cloudera-scm(所有节点)

  3. 配置 CM Agent

  4. 配置 CM Server 的数据库

  5. 离线安装

  6. CDH5群集设置

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,736评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,167评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,442评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,902评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,302评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,573评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,847评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,562评论 0 197
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,260评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,531评论 2 245
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,021评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,367评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,016评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,068评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,827评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,610评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,514评论 2 269

推荐阅读更多精彩内容