zeppelin安装部署配置

墨蓝 2022-07-12 02:41 912阅读 0赞

首先，我们来了解一下这款工具的背景及用途。Zeppelin 目前已托管于 Apache 基金会，但并未列为顶级项目，可以在其公布的 [官网访问][Link 1]。它提供了一个非常友好的 WebUI 界面，操作相关指令。它可以用于做数据分析和可视化。其后面可以接入不同的数据处理引擎。包括 Flink，Spark，Hive 等。支持原生的 Scala，Shell，Markdown 等。

对于 Zeppelin 而言，并不依赖 Hadoop 集群环境，我们可以部署到单独的节点上进行使用。首先我们使用以下地址获取安装包：

[http://zeppelin.apache.org/download.html][http_zeppelin.apache.org_download.html]

这里，有2种选择，

其一，可以下载原文件，自行编译安装。

其二，直接下载二进制文件进行安装。这里，为了方便，笔者直接使用二进制文件进行安装使用。

这里有些参数需要进行配置，为了保证系统正常启动，

**确保的 zeppelin.server.port 属性的端口不被占用，默认是8080**，其他属性大家可按需配置即可。

在完成上述步骤后，启动对应的进程。**定位到 Zeppelin 安装目录的bin文件夹下**，使用以下命令启动进程：

./zeppelin-daemon.sh start

若需要停止，可以使用以下命令停止进程：

./zeppelin-daemon.sh stop

另外，通过阅读 zeppelin-daemon.sh 脚本的内容，可以发现，我们还可以使用相关重启，查看状态等命令。内容如下：

![复制代码][copycode.gif]

case "${1}" in
      start)
        start
        ;;
      stop)
        stop
        ;;
      reload)
        stop
        start
        ;;
      restart)
        stop
        start
        ;;
      status)
        find_zeppelin_process
        ;;  *)    echo ${USAGE}

![复制代码][copycode.gif]

在启动相关进程后，可以使用以下地址在浏览器中访问：

http://<Your_<IP/Host>:Port>

启动之后的界面如下所示：

![666745-20160121163255203-2126315586.png][]

该界面罗列出插件绑定项。如图中的 spark，md，sh 等。那我如何使用这些来完成一些工作。在使用一些数据引擎时，如 Flink，Spark，Hive 等，是需要配置对应的连接信息的。在 Interpreter 栏处进行配置。这里给大家列举一些配置示例：

## 3.1 Flink ##

可以找到 Flink 的配置项，如下图所示：

![666745-20160121164147922-394721911.png][]

然后指定对应的 IP 和地址即可。

## 3.2 Hive ##

这里 Hive 配置需要指向其 Thrift 服务地址，如下图所示：

![666745-20160121164331172-1827342915.png][]

另外，其他的插件，如 Spark，Kylin，phoenix等配置类似，配置完成后，记得点击 “restart” 按钮。

## 3.3 Use md and sh ##

下面，我们可以创建一个 Notebook 来使用，我们拿最简单的 Shell 和 Markdown 来演示，如下图所示：

![666745-20160121165040343-1268100818.png][]

## 3.4 SQL ##

当然，我们的目的并不是仅仅使用 Shell 和 Markdown，我们需要能够使用 SQL 来获取我们想要的结果。

### 3.4.1 Spark SQL ###

下面，我们使用 Spark SQL 去获取想要的结果。如下图所示：

![666745-20160121165545187-1162236929.png][]

这里，可以将结果以不同的形式来可视化，量化，趋势，一目了然。

### 3.4.2 Hive SQL ###

另外，可以使用动态格式来查询分区数据，以"$\{partition\_col=20160101,20160102|20160103|20160104|20160105|20160106\}"的格式进行表示。如下图所示：

![666745-20160121170016718-1861319904.png][]

## 3.5 Video Guide ##

另外，官方也给出了一个快速指导的入门视频，观看地址：\[[入口][Link 2]\]

# 4.总结 #

在使用的过程当中，有些地方需要注意，**必须在编写 Hive SQL 时，%hql 需要替换为 %hive.sql 的格式**；另外，在运行 Scala 代码时，如果出现以下异常，如下图所示：

![666745-20160121170247406-590905647.png][]

解决方案，在 zeppelin-env.sh 文件中添加以下内容：

export ZEPPELIN_MEM=-Xmx4g

该 BUG 在 0.5.6 版本得到修复，参考码：［ZEPPELIN-305］

编译和启动完Zeppelin相关的进程之后，我们就可以来使用Zeppelin了。我们进入到页面，我们可以在页面上直接操作Zeppelin，依次选择Notebook->Create new note，然后会弹出一个对话框，我们在Note Name里面随便输入一个名字，这里我输入blog，然后点击Create Note就可以创建一个新的Notebook了。我们可以在新建的Notebook里面输入相关的代码进行测试：