CDH5.10.1集群安装文档

古城微笑少年丶 2022-06-09 10:44 233阅读 0赞

# CDH5.10.1集群安装文档    #

**前置条件**

由于部署集群需要在服务器上面安装较多东西，包含很多工具和mysql、jdk等组件，那么需要在服务器确认的时候需要跟客户确认在服务器上面是否已经安装有此类组件并且已经在使用。如果已经安装并使用，那么需要等确认清楚才可以进行后续的步骤。

CDH集群主机安装软硬件需求，如下：

<table style="font-size:14px; white-space:pre-wrap"> 
 <tbody> 
 <tr> 
 <td> 操作系统 </td> 
 <td> Centos7.3 </td> 
 </tr> 
 <tr> 
 <td> 集群机器数量 </td> 
 <td> 10台 </td> 
 </tr> 
 <tr> 
 <td> 集群网络 </td> 
 <td> 集群主机应在在同一网关内，能互相ping的通 </td> 
 </tr> 
 <tr> 
 <td> 端口 </td> 
 <td> 22 </td> 
 </tr> 
 </tbody> 
</table>

由于CDH集群安装不是直接在集群主机上安装，而是通过远程安装。所以安装时需要一台能够连接到集群主机装有windows操作系统的主机。安装主机情况：

<table style="font-size:14px; white-space:pre-wrap"> 
 <tbody> 
 <tr> 
 <td> 操作系统 </td> 
 <td> Windows 10 </td> 
 </tr> 
 <tr> 
 <td> 网络要求 </td> 
 <td> 能ping的通集群主机 </td> 
 </tr> 
 <tr> 
 <td> 远程连接工具 </td> 
 <td> Xshell </td> 
 </tr> 
 <tr> 
 <td> ftp工具 </td> 
 <td> xftp </td> 
 </tr> 
 </tbody> 
</table>

**部署清单**

所有的部署组件都具有操作系统版本适用性，仅适用于某一些特定版本的特定操作系统上，所以需要根据具体实施现场的情况来获取相应的软件安装版本，官网上有详细的版本说明。

<table style="font-size:14px; white-space:pre-wrap"> 
 <tbody> 
 <tr> 
 <td> 软件名称 </td> 
 <td> 包名称 </td> 
 <td> 版本号 </td> 
 <td> 依赖关系 </td> 
 </tr> 
 <tr> 
 <td> CM Server </td> 
 <td> cloudera-manager-el7-cm5.10.1_x86_64.tar.gz </td> 
 <td> 5.10.1 </td> 
 </tr> 
 <tr> 
 <td> CM Agent </td> 
 <td> cloudera-manager-el7-cm5.10.1_x86_64.tar.gz </td> 
 <td> 5.10.1 </td> 
 </tr> 
 <tr> 
 <td> CM parcel </td> 
 <td> CDH-5.10.1-1.cdh5.10.1.p0.10-el6.parcel CDH-5.10.1-1.cdh5.10.1.p0.10-el6.parcel.sha manifest.json </td> 
 <td> 5.10.1 </td> 
 </tr> 
 <tr> 
 <td> jdk </td> 
 <td> jdk-7u67-linux-x64.rpm </td> 
 <td> 1.7.67 </td> 
 </tr> 
 <tr> 
 <td> Mysql驱动 </td> 
 <td> mysql-connector-java-5.7.17-bin.jar </td> 
 <td> 5.7.17 </td> 
 </tr> 
 </tbody> 
</table>

**准备工作**

准备部署文档，确认集群主机的IP、主机名称，以及网络是否符合前置条件中列出的要求。

检查网络：使用ping命令查看网络是否在同一个网络

Ping命令格式：ping ip地址

确认安装主机和集群主机在同一个网关内。然后再在安装集群的主机上安装xshell软件，以及xftp(xftp主要是用来将我们的安装包上传到cloudera manager上)。

**集群环境**

本次集群使用3台主机，操作系统都采用centos7.3版本，虚拟主机信息列表如下：

<table style="font-size:14px; white-space:pre-wrap"> 
 <tbody> 
 <tr> 
 <td> 序号 </td> 
 <td> 主机名 </td> 
 <td> IP </td> 
 <td> 主要功能 </td> 
 </tr> 
 <tr> 
 <td> 1 </td> 
 <td> h01 </td> 
 <td> - </td> 
 <td> CM-server/CM-agent </td> 
 </tr> 
 <tr> 
 <td> 2 </td> 
 <td> h02 </td> 
 <td> - </td> 
 <td> CM-agent </td> 
 </tr> 
 <tr> 
 <td> 3 </td> 
 <td> h03 </td> 
 <td> - </td> 
 <td> CM-agent </td> 
 </tr> 
 <tr> 
 <td> 4 </td> 
 <td> h04 </td> 
 <td> - </td> 
 <td> CM-agent </td> 
 </tr> 
 <tr> 
 <td> 5 </td> 
 <td> h05 </td> 
 <td> - </td> 
 <td> CM-agent </td> 
 </tr> 
 <tr> 
 <td> 6 </td> 
 <td> h06 </td> 
 <td> - </td> 
 <td> CM-agent </td> 
 </tr> 
 <tr> 
 <td> 7 </td> 
 <td> h07 </td> 
 <td> - </td> 
 <td> CM-agent </td> 
 </tr> 
 <tr> 
 <td> 8 </td> 
 <td> h08 </td> 
 <td> - </td> 
 <td> CM-agent </td> 
 </tr> 
 <tr> 
 <td> 9 </td> 
 <td> h09 </td> 
 <td> - </td> 
 <td> CM-agent </td> 
 </tr> 
 <tr> 
 <td> 10 </td> 
 <td> h10 </td> 
 <td> - </td> 
 <td> CM-agent </td> 
 </tr> 
 </tbody> 
</table>

**创建账户（所有主机）**

首先获得linux操作系统的root的密码，使用xshell4终端软件连接到linux操作系统上。

然后，给app\_use用户添加sudo权限（所有主机）：

cd /etc

首先需要增加写权限：chmodu+w sudoers

\[root@h01 ~\]\#vim /etc/sudoers （只读文件需赋权限）

按箭头向下找到"rootALL=(ALL) ALL"这一行，光标放在下一行的空行开头，按“I”执行插入：" app\_user ALL=(ALL) NOPASSWD: ALL " （无密码sudo）

![Image 1][]

按ESC，再按“：”，输入“wq”，保存文档退出。

将权限去掉：chmod u-wsudoers

**操作使用账户**

接下来操作均使用app\_user账号进行操作。

\[root@h01 ~\]\# su -app\_user

**结果验证（所有主机）**

我们用sudo来检查一下防火墙状态

\[app\_user@h01 ~\]\# sudo service iptables status

如果sudo没有添加成功，会报如下错误

app\_user is not in the sudoers file. This incident will be reported.

没有上面这个信息则说明sudo用户添加成功。

**配置/etc/hosts（所有主机）**

/etc/hosts文件存储着集群中可访问服务器的主机名称和IP的对应映射表。整个集群的主机的/etc/hosts的配置是一样的。

**修改/etc/hosts**

这里每台主机做同样操作

\[app\_user@h01 ~\]\# sudo vim /etc/hosts

此集群的/etc/hosts最终文本内容如下：

![Image 1][]

**修改/etc/sysconfig/network中的hostname**

以h01为例(其他主机同样操作)

![Image 1][]

**关闭SELINUX**

执行命令：sudo vi/etc/selinux/config

找到“SELINUX”行，修改“=”后内容为“disabled”，保存并退出。

![Image 1][]

注意：关闭Selinux需要重新启动生效。

**关闭防火墙**

使用以下命令关闭防火墙：

sudo serviceiptables stop

sudo chkconfigiptables off

**服务器重启**

为了使服务器配置生效，在此步骤需要重启服务器：

sudo init 6

**免密钥（所有主机）**

**生成公钥id\_dsa.pub（所有节点都做）**

ssh-keygen -t dsa -P '' -f ~/.ssh/id\_dsa

**将自己的公钥追加到私钥中（所有节点都做）**

cat ~/.ssh/id\_dsa.pub >> ~/.ssh/authorized\_keys

**cd ~/.ssh/到这个文件夹下，它里边是产生的公钥和私钥**

cd ~/.ssh

**将自己生成的公钥发送给需要做免密钥的节点,比如发送到tmp下（h01发送到h02~h10）**

scp id\_dsa.pub h02:/tmp

**h02~h-cs10中，将h01发送过来的公钥追加到私钥中**

cat /tmp/id\_dsa.pub >>~/.ssh/authorized\_keys

**需修改权限（三个节点都做）**

chmod 600 /home/app\_user/.ssh/authorized\_keys

chmod 700 /home/app\_user/.ssh

**配置jdk环境（所有主机）**

**卸载自带JDK:**

查询是否已经安装了JDK，若安装则卸载

sudo rpm -qa | grep java

显示如下，说明自带安装了JDK

java-1.6.0-openjdk-1.6.0.0-1.66.1.13.0.el6.x86\_64

java-1.7.0-openjdk-1.7.0.45-2.4.3.3.el6.x86\_64

如果存在，卸载它们

**安装JDK并配置路径**

1.  
2.  安装JDK

\[hdfs@Hadoop-NN1 ~\]\#

sudo rpm -ivh jdk\*

成功安装结果如下：

![Image 1][]

2.   配置JAVA\_HOME

执行以下命令：

sudo vi /etc/profile

在文件最后追加：

export JAVA\_HOME=/usr/java/jdkxxx

export PATH=$JAVA\_HOME/bin:$PATH

![Image 1][]

保存并退出：按ESC，再按“：”，输入“wq”，保存文档退出。

使之免启动生效：

source /etc/profile

3.     检查是否安装成功

\[app\_user@h01 ~\]\# java -version

出现以下类似java信息说明安装成功

**MySQL元数据节点安装**

**安装Mysql server**

**1．安装（若无）**

sudo yum install mysql-server

**2．启动mysql：**

service mysqld start

**3．设置开机启动并查看：**

chkconfig mysqld on

chkconfig –list mysqld

**4．修改权限（需使用root用户操作）**

进入：

\[app\_user@h01 ~\]\# mysql

mysql> show databases;

mysql> use mysql;

mysql> show tables;

mysql> select host,user from user;

修改权限：

mysql> GRANT ALL PRIVILEGES ON \*.\* TO 'app\_user'@'%' IDENTIFIED BY'123' WITH GRANT OPTION;

刷新：

mysql> flush privileges

查看：

mysql> select host,user from user;

把多余的其他删掉：

mysql> delete from user where host != ‘%’;

刷新：

mysql> flush privileges;

退出再登陆测试是否生效：

\[app\_user@h01 ~\]\# mysql –u app\_user –p (密码123)

进入mysql说明成功，输入“exit”退出。

**下载第三方依赖包（所有节点）**

所需的依赖：

chkconfig、python、bind-utils、psmisc、libxslt、zlib、sqlite、cyrus-sasl-plain、 • cyrus-sasl-gssapi、fuse、fuse-libs、redhat-lsb

在所有主机上执行以下脚本：

sudo yum install chkconfig python bind-utilspsmisclibxsltzlibsqlitecyrus-sasl-plaincyrus-sasl-gssapi fuse fuse-libs redhat-lsb -y

**安装Cloudera Manager**

给集群安装之前再次确认时间是否同步（用date查看），以及防火墙;NTP和防火墙是集群安装最常见的两个问题；如果集群安装或启动报错请优先检查这两个。

**安装cloudera Manager 所需要的介质：**

cloudera-manager-el7-cm5.10.1\_x86\_64.tar.gz

下载地址：

https://www.cloudera.com/documentation/enterprise/release-notes/topics/cm\_vd.html\#cmvd\_topic\_1

1.所有节点创建cloudera-manager文件存放目录

sudo mkdir /opt/cloudera-manager

2.将cloudera-manager压缩文件解压到/opt/cloudera-manager

sudo tar xvzf cloudera-manager\*.tar.gz -C /opt/cloudera-manager

3. 创建用户 cloudera-scm（所有节点）

cloudera-scm 用户说明，摘自官网： Cloudera Manager Server and managed services are configured to usethe user account cloudera-scm by default, creating a user with this name is thesimplest approach. This created user, is used automatically after installationis complete.

执行:

sudo useradd --system --no-create-home --shell=/bin/false --comment"Cloudera SCM User" cloudera-scm

4.配置CM Agent相关配置文件

修改所有agent节点，目的让agent知道自己归谁管理

sudo vi /opt/cloudera-manager/cm-5.10.1/etc/cloudera-scm-agent/config.ini

![Image 1][]

指定server\_host为server节点。

5.配置cloudera-mananger数据库（server端操作）

①拷贝mysql jar文件到目录 /usr/share/java/ （固定目录，系统会默认来这找文件）

②注意jar包名称固定为：mysql-connector-java.jar。（系统默认找此文件名）

③配置 CM Server 的数据库（命令行或者navicat操作即可）

grant all on \*.\* to 'h'@'%' identified by 'h' with grant option;