数据采集篇：大数据技术之Flume

淩亂°似流年 2021-11-26 11:38 454阅读 0赞

# **一、Flume简介** #

1) Flume提供一个分布式的，可靠的，对大数据量的日志进行高效收集、聚集、移动的服务，Flume只能在Unix环境下运行。

2) Flume基于流式架构，容错性强，也很灵活简单。

3) Flume、Kafka用来实时进行数据收集，Spark、Storm用来实时处理数据，impala用来实时查询。

# **二、Flume角色** #

![640?wx\_fmt=png][640_wx_fmt_png]

## **2.1、****Source** ##

用于采集数据，Source是产生数据流的地方，同时Source会将产生的数据流传输到Channel，这个有点类似于Java IO部分的Channel。

## **2.2****、****Channel** ##

用于桥接Sources和Sinks，类似于一个队列。

## **2.3****、****Sink** ##

从Channel收集数据，将数据写到目标源(可以是下一个Source，也可以是HDFS或者HBase)。

## **2.4、****Event** ##

传输单元，Flume数据传输的基本单元，以事件的形式将数据从源头送至目的地。

# **三、Flume传输过程** #

source监控某个文件或数据流，数据源产生新的数据，拿到该数据后，将数据封装在一个Event中，并put到channel后commit提交，channel队列先进先出，sink去channel队列中拉取数据，然后写入到HDFS中。

# **四、Flume部署及使用** #

## **4.1、文件配置** ##

查询JAVA\_HOME:echo $JAVA\_HOME

<table> 
 <tbody> 
 <tr> 
 <td>显示/opt/module/jdk1.8.0_144 &nbsp;/opt/module/jdk1.8.0_144</td> 
 </tr> 
 </tbody> 
</table>

安装Flume

<table> 
 <tbody> 
 <tr> 
 <td>[itstar@hadoop104 software]$&nbsp;tar -zxvf apache-flume-1.7.0-bin.tar.gz -C /opt/module/</td> 
 </tr> 
 </tbody> 
</table>

**改名：**

<table> 
 <tbody> 
 <tr> 
 <td>[itstar@hadoop104&nbsp;conf]$&nbsp;mv flume-env.sh.template flume-env.sh</td> 
 </tr> 
 </tbody> 
</table>

**flume-env.sh****涉及修改项：**

<table> 
 <tbody> 
 <tr> 
 <td style="background:rgb(231,230,230);">export&nbsp;JAVA_HOME=/opt/module/jdk1.8.0_144</td> 
 </tr> 
 </tbody> 
</table>

## **4.2、案例** ##

### **4.2.1、案例一：监控端口数据** ###

**目标：**Flume监控一端Console，另一端Console发送消息，使被监控端实时显示。

**分步实现：**

**1) ****安装telnet工具**

<table> 
 <tbody> 
 <tr> 
 <td style="background:rgb(231,230,230);">【联网】[itstar@hadoop104 module]$&nbsp;sudo yum install telnet xinetd-2.3.14-40.el6.x86_64.rpm(安装完第一个，无需安装剩下的两条&nbsp;/yum自动解决依赖关系)[itstar@hadoop104 module]$&nbsp;sudo yum&nbsp;-y install telnet telnet-0.17-48.el6.x86_64.rpm[itstar@hadoop104 module]$&nbsp;sudo yum -y install telnet telnet-server-0.17-48.el6.x86_64.rpm</td> 
 </tr> 
 </tbody> 
</table>

**2****) 创建Flume Agent配置文件flume-telnet.conf**

<table> 
 <tbody> 
 <tr> 
 <td style="background:rgb(231,230,230);"># Name the components on this agenta1.sources = r1a1.sinks = k1a1.channels = c1&nbsp;# Describe/configure the sourcea1.sources.r1.type = netcata1.sources.r1.bind =&nbsp;hadoop104a1.sources.r1.port = 44445&nbsp;# Describe the sinka1.sinks.k1.type = logger&nbsp;# Use a channel which buffers events in memorya1.channels.c1.type = memorya1.channels.c1.capacity = 1000a1.channels.c1.transactionCapacity = 100# Bind the source and sink to the channela1.sources.r1.channels = c1a1.sinks.k1.channel = c1</td> 
 </tr> 
 </tbody> 
</table>

**3) 判断44444端口是否被占用**

<table> 
 <tbody> 
 <tr> 
 <td style="background:rgb(231,230,230);">$ netstat -tunlp&nbsp;| grep 44445</td> 
 </tr> 
 </tbody> 
</table>

**4) 先开启flume先听端口**

<table> 
 <tbody> 
 <tr> 
 <td style="background:rgb(231,230,230);">在conf下创建job文件夹$ bin/flume-ng agent&nbsp;\--conf conf/ \--name a1 \--conf-file&nbsp;conf/job/flume-telnet.conf -Dflume.root.logger==INFO,console</td> 
 </tr> 
 </tbody> 
</table>

**5) 使用telnet工具向本机的44444端口发送内容**

<table> 
 <tbody> 
 <tr> 
 <td style="background:rgb(231,230,230);">$ telnet localhost 44445</td> 
 </tr> 
 </tbody> 
</table>

[640_wx_fmt_png]: /images/20211126/94e2b0a031dc4750bf9d7e400180b44c.png