目 录
1 环境准备 ...................................................................................................................... 2
1.1 下载安装包 ....................................................................................................... 2 1.2 环境准备 ........................................................................................................... 2 2 CM安装 ....................................................................................................................... 3
2.1 主节点CM安装 ............................................................................................... 3 2.2 Agent配置 ........................................................................................................ 3 3 CDH安装 .................................................................................................................... 3 4 Kylin安装 .................................................................................................................... 8
1 环境准备
1.1 下载安装包
(1)CM:
http://archive.cloudera.com/cm5/cm/5/cloudera-manager-centos7-cm5.13.0_x86_64.tar.gz
(2)CDH:
http://archive.cloudera.com/cdh5/parcels/5.13.0/CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel
http://archive.cloudera.com/cdh5/parcels/5.13.0/CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1
http://archive.cloudera.com/cdh5/parcels/5.13.0/manifest.json
(3)JDBC:https://dev.mysql.com/downloads/connector/j/ 下载mysql-connector-java-5.1.46.tar.gz (4)Kylin:
https://archive.apache.org/dist/kylin/apache-kylin-1.6.0/apache-kylin-1.6.0-cdh5.7-bin.tar.gz
1.2 环境准备
安装过程使用root账号。过程如下:
(1)安装JDK:已经安装,JAVA_HOME为/usr/jdk1.8.0_65 (2)关闭防火墙:已经关闭
(3)时间同步:配置NTP服务,已经同步
(4)配置集群所有集群work用户免密:在所有机器上cd /home/work && ssh-keygen -t rsa,一直确认,直到生成id_rsa.pub,将集群中所有机器的id_rsa.pub,追加到authorized_keys。注意所有机器的authorized_keys的权限应为600
(5)在cm主节点安装配置mysql:
选择一台主机做主节点,安装mariadb # yum -y install mariadb mariadb-server 启动mariadb
# systemctl start mariadb 开机启动
# systemctl enable mariadb 设置root用户密码 mysql -uroot
use mysql;
update user set password=password('123') where user='root' and host='主节点host';
grant all privileges on *.* to 'root'@'master的hostname' identified by '123' with grant option;
flush privileges;
创建以下数据库:
create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
2 CM安装
安装过程使用root账号。在集群所有机器的/etc/hosts中添加本机器的ip和hostname。
2.1 主节点CM安装
选择集群的主节点,并将主节点选为server,在server上安装CM。 tar xvf cloudera-manager-centos7-cm5.13.0_x86_64.tar -C /opt
mv mysql-connector-java-5.1.44-bin.jar /opt/cm-5.13.0/share/cmf/lib/ 初始化数据库:
/opt/cm-5.13.0/share/cmf/schema/scm_prepare_database.sh mysql cm –h ip地址 -uroot -p123 --scm-host 主机名 scm scm scm
参数:数据库类型 数据库名称 数据库主机名 数据库用户名 密码 --scm-host cmserver主机名 scm scm scm,具体根据1.2安装的数据库配置
2.2 Agent配置
所有主机都作为agent,在其中一台做如下操作: vim /opt/cm-5.13.0/etc/cloudera-scm-agent/config.ini: 修改 server_host为主节点的主机名。 同步Agent到其他所有节点: scp -r /opt/cm-5.13.0 用户@ip:/opt/ 在所有节点创建cloudera-scm用户
useradd --system --home=/opt/cm-5.13.0/run/cloudera-scm-server/
--no-create-home --shell=/bin/false --comment \
3 CDH安装
安装过程使用root账号。 (1)在主节点配置:
mv CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel /opt/cloudera/parcel-repo/
mv CDH-5.13.0-1.cdh5.13.0.p0.29-el7.parcel.sha1 /opt/cloudera/parcel-repo/ mv manifest.json /opt/cloudera/parcel-repo/ (2)修改JAVA_HOME配置
/opt/cloudera/parcels/CDH/lib/bigtop-utils/bigtop-detect-javahome的JAVA8_HOME_CANDIDATES增加$JAVA_HOME。
(3)启动CM
主节点启动server,所有节点启动agent /opt/cm-5.13.0/etc/init.d/cloudera-scm-server start /opt/cm-5.13.0/etc/init.d/cloudera-scm-agent start (4)CDH配置
浏览器进入:主节点ip:7180/cmf 用户名:admin 密码:admin
安装Cloudera Express版本,选中所有主机安装集群。当各Agent节点正常启动后,可以在当前管理的主机列表中看到对应的节点。选择要安装的节点,点继续。下一步,出现parcel自检测包名,如果本地Parcel包配置无误,选本地的版本(CM5.13.0),直接点继续就可以了(若没有出现对应版本,则重启CM server和agent)。
点击继续,如果配置本地Parcel包无误,那么已下载步骤很快就完成,然后就是等待分配过程。
接下来会有检查主机正确性,可能遇到找不到JAVA_HOME的问题,将对应的JAVA8_HOME_CANDIDATES增加$JAVA_HOME。
服务器检查所有条件都正确(各检查项前全部显示绿色对号)后,集群设置选择自定义服务。
点击页面上Cloudera MANAGER,回到主节点页面。
在页面上点击安装cloudera management service,安装后可以查看各服务状态。
在集群上选择添加服务,依次安装并启动zookeeper、hdfs、yarn、hive、sqoop、hbase。
百度搜索“77cn”或“免费范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,免费范文网,提供经典小说教育文库CHD-Hadoop数据集群安装手册在线全文阅读。
相关推荐: