jstorm系列-1：入门

我不是女神ヾ 2023-06-04 05:52 3阅读 0赞

# 一、             Storm整体介绍 #

Storm 是一个类似Hadoop MapReduce的系统， 用户按照指定的接口实现一个任务，然后将这个任务递交给JStorm系统，Jstorm将这个任务跑起来，并且按7 \* 24小时运行起来，一旦中间一个Worker 发生意外故障， 调度器立即分配一个新的Worker替换这个失效的Worker。

因此，从应用的角度，JStorm 应用是一种遵守某种编程规范的分布式应用。从系统角度， JStorm一套类似MapReduce的调度系统。 从数据的角度， 是一套基于流水线的消息处理机制。

实时计算现在是大数据领域中最火爆的一个方向，因为人们对数据的要求越来越高，实时性要求也越来越快，传统的Hadoop MapReduce，逐渐满足不了需求，因此在这个领域需求不断。

## 1.1.  Storm组件和Hadoop组件对比 ##

<table style="width:640px;"> 
 <thead> 
 <tr> 
 <td>&nbsp;</td> 
 <td> Storm </td> 
 <td> Hadoop </td> 
 </tr> 
 </thead> 
 <tbody> 
 <tr> 
 <td> 角色 </td> 
 <td> Nimbus </td> 
 <td> JobTracker </td> 
 </tr> 
 <tr> 
 <td>&nbsp;</td> 
 <td> Supervisor </td> 
 <td> TaskTracker </td> 
 </tr> 
 <tr> 
 <td>&nbsp;</td> 
 <td> Worker </td> 
 <td> Child </td> 
 </tr> 
 <tr> 
 <td> 应用名称 </td> 
 <td> Topology </td> 
 <td> Job </td> 
 </tr> 
 <tr> 
 <td> 编程接口 </td> 
 <td> Spout/Bolt </td> 
 <td> Mapper/Reducer </td> 
 </tr> 
 </tbody> 
</table>

## 1.2. 优点 ##

在Storm和JStorm出现以前，市面上出现很多实时计算引擎，但自Storm和JStorm出现后，基本上可以说一统江湖： 究其优点：

*  开发非常迅速：接口简单，容易上手，只要遵守Topology、Spout和Bolt的编程规范即可开发出一个扩展性极好的应用，底层RPC、Worker之间冗余，数据分流之类的动作完全不用考虑
 *  扩展性极好：当一级处理单元速度，直接配置一下并发数，即可线性扩展性能
 *  健壮强：当Worker失效或机器出现故障时， 自动分配新的Worker替换失效Worker
 *  数据准确性：可以采用Ack机制，保证数据不丢失。 如果对精度有更多一步要求，采用事务机制，保证数据准确。

# 二、             安装 #

参考文档：

[https://github.com/alibaba/jstorm/wiki/%E5%A6%82%E4%BD%95%E5%AE%89%E8%A3%85][https_github.com_alibaba_jstorm_wiki_E5_A6_82_E4_BD_95_E5_AE_89_E8_A3_85]

# 三、             storm详细讲解 #

## 3.1. storm的整体架构 ##

![611194-20160128164731551-1826380699.png][]

## 3.2.        基本概念简介 ##

图中  ![611194-20160128164758957-1833693986.png][]   这种颜色标识的是storm中的基本组件，包括：

Topology，bolt，spout，worker，task，slot，stream，tuple

### 3.2.1.              Topology ###

Storm的核心是topology，程序以topology作为一个整体提交到集群上

![611194-20160128164850957-116845557.png][]

### 3.2.2.            Spout ###

数据流入口：spout程序负责从数据源读入数据，然后发射出去，形成一个stream流，可以被多个bolt接受，形成多个流

### 3.2.3.            Bout ###

数据的消费者，从stream流中读取数据，处理数据

可以从不同的流中读取数据

### 3.2.4.            Stream ###

Spout发射的数据形成数据流，

### 3.2.5.            Worker ###

可以理解为一个topology承包给多少个包工头（worker）

### 3.2.6.            Task ###

可以理解为工人，一个worker下面有多个task，每个task运行一个bolt或spout的实例

## 3.3.        Bolt，spout和worker，task的关系 ##

![611194-20160128164925488-712486271.png][]

转载于:https://www.cnblogs.com/qwj-sysu/p/5166859.html

[https_github.com_alibaba_jstorm_wiki_E5_A6_82_E4_BD_95_E5_AE_89_E8_A3_85]: https://github.com/alibaba/jstorm/wiki/%E5%A6%82%E4%BD%95%E5%AE%89%E8%A3%85
[611194-20160128164731551-1826380699.png]: /images/20230601/40e885c78c514dd5a71f421c7a4502ab.png
[611194-20160128164758957-1833693986.png]: /images/20230601/49f61eaf9b644251b5ca86d66443d091.png
[611194-20160128164850957-116845557.png]: /images/20230601/62f60fb3caa14edf9dcc90bc2daccd42.png
[611194-20160128164925488-712486271.png]: /images/20230601/29cb4395a1464c4c8767e2787021700a.png