77范文网 - 专业文章范例文档资料分享平台

CHD-Hadoop数据集群安装手册

来源:网络收集 时间:2020-04-15 下载这篇文档 手机版
说明:文章内容仅供预览,部分内容可能不全,需要完整文档或者需要复制内容,请下载word后使用。下载word有问题请添加微信号:或QQ: 处理(尽可能给您提供完整文档),感谢您的支持与谅解。点击这里给我发消息

目 录

1 环境准备 ...................................................................................................................... 2

1.1 下载安装包 ....................................................................................................... 2 1.2 环境准备 ........................................................................................................... 2 2 CM安装 ....................................................................................................................... 3

2.1 主节点CM安装 ............................................................................................... 3 2.2 Agent配置 ........................................................................................................ 3 3 CDH安装 .................................................................................................................... 3 4 Kylin安装 .................................................................................................................... 8

1 环境准备

1.1 下载安装包

(1)CM:

http://archive.cloudera.com/cm5/cm/5/cloudera-manager-centos7-cm5.13.0_x86_64.tar.gz

(2)CDH:

http://archive.cloudera.com/cdh5/parcels/5.13.0/CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel

http://archive.cloudera.com/cdh5/parcels/5.13.0/CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1

http://archive.cloudera.com/cdh5/parcels/5.13.0/manifest.json

(3)JDBC:https://dev.mysql.com/downloads/connector/j/ 下载mysql-connector-java-5.1.46.tar.gz (4)Kylin:

https://archive.apache.org/dist/kylin/apache-kylin-1.6.0/apache-kylin-1.6.0-cdh5.7-bin.tar.gz

1.2 环境准备

安装过程使用root账号。过程如下:

(1)安装JDK:已经安装,JAVA_HOME为/usr/jdk1.8.0_65 (2)关闭防火墙:已经关闭

(3)时间同步:配置NTP服务,已经同步

(4)配置集群所有集群work用户免密:在所有机器上cd /home/work && ssh-keygen -t rsa,一直确认,直到生成id_rsa.pub,将集群中所有机器的id_rsa.pub,追加到authorized_keys。注意所有机器的authorized_keys的权限应为600

(5)在cm主节点安装配置mysql:

选择一台主机做主节点,安装mariadb # yum -y install mariadb mariadb-server 启动mariadb

# systemctl start mariadb 开机启动

# systemctl enable mariadb 设置root用户密码 mysql -uroot

use mysql;

update user set password=password('123') where user='root' and host='主节点host';

grant all privileges on *.* to 'root'@'master的hostname' identified by '123' with grant option;

flush privileges;

创建以下数据库:

create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

2 CM安装

安装过程使用root账号。在集群所有机器的/etc/hosts中添加本机器的ip和hostname。

2.1 主节点CM安装

选择集群的主节点,并将主节点选为server,在server上安装CM。 tar xvf cloudera-manager-centos7-cm5.13.0_x86_64.tar -C /opt

mv mysql-connector-java-5.1.44-bin.jar /opt/cm-5.13.0/share/cmf/lib/ 初始化数据库:

/opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql cm –h ip地址 -uroot -p123 --scm-host 主机名 scm scm scm

参数:数据库类型 数据库名称 数据库主机名 数据库用户名 密码 --scm-host cmserver主机名 scm scm scm,具体根据1.2安装的数据库配置

2.2 Agent配置

所有主机都作为agent,在其中一台做如下操作: vim /opt/cm-5.13.0/etc/cloudera-scm-agent/config.ini: 修改 server_host为主节点的主机名。 同步Agent到其他所有节点: scp -r /opt/cm-5.13.0 用户@ip:/opt/ 在所有节点创建cloudera-scm用户

useradd --system --home=/opt/cm-5.13.0/run/cloudera-scm-server/

--no-create-home --shell=/bin/false --comment \

3 CDH安装

安装过程使用root账号。 (1)在主节点配置:

mv CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel /opt/cloudera/parcel-repo/

mv CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1 /opt/cloudera/parcel-repo/ mv manifest.json /opt/cloudera/parcel-repo/ (2)修改JAVA_HOME配置

/opt/cloudera/parcels/CDH/lib/bigtop-utils/bigtop-detect-javahome的JAVA8_HOME_CANDIDATES增加$JAVA_HOME。

(3)启动CM

主节点启动server,所有节点启动agent /opt/cm-5.13.0/etc/init.d/cloudera-scm-server start /opt/cm-5.13.0/etc/init.d/cloudera-scm-agent start (4)CDH配置

浏览器进入:主节点ip:7180/cmf 用户名:admin 密码:admin

安装Cloudera Express版本,选中所有主机安装集群。当各Agent节点正常启动后,可以在当前管理的主机列表中看到对应的节点。选择要安装的节点,点继续。下一步,出现parcel自检测包名,如果本地Parcel包配置无误,选本地的版本(CM5.13.0),直接点继续就可以了(若没有出现对应版本,则重启CM server和agent)。

点击继续,如果配置本地Parcel包无误,那么已下载步骤很快就完成,然后就是等待分配过程。

接下来会有检查主机正确性,可能遇到找不到JAVA_HOME的问题,将对应的JAVA8_HOME_CANDIDATES增加$JAVA_HOME。

服务器检查所有条件都正确(各检查项前全部显示绿色对号)后,集群设置选择自定义服务。

点击页面上Cloudera MANAGER,回到主节点页面。

在页面上点击安装cloudera management service,安装后可以查看各服务状态。

在集群上选择添加服务,依次安装并启动zookeeper、hdfs、yarn、hive、sqoop、hbase。

百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,免费范文网,提供经典小说教育文库CHD-Hadoop数据集群安装手册在线全文阅读。

CHD-Hadoop数据集群安装手册.doc 将本文的Word文档下载到电脑,方便复制、编辑、收藏和打印 下载失败或者文档不完整,请联系客服人员解决!
本文链接:https://www.77cn.com.cn/wenku/jiaoyu/965747.html(转载请注明文章来源)
Copyright © 2008-2022 免费范文网 版权所有
声明 :本网站尊重并保护知识产权,根据《信息网络传播权保护条例》,如果我们转载的作品侵犯了您的权利,请在一个月内通知我们,我们会及时删除。
客服QQ: 邮箱:tiandhx2@hotmail.com
苏ICP备16052595号-18
× 注册会员免费下载(下载后可以自由复制和排版)
注册会员下载
全站内容免费自由复制
注册会员下载
全站内容免费自由复制
注:下载文档有可能“只有目录或者内容不全”等情况,请下载之前注意辨别,如果您已付费且无法下载或内容有问题,请联系我们协助你处理。
微信: QQ: