Storm1.0安装过程及遇到的错误处理方法

刺骨的言语ヽ痛彻心扉 2022-07-16 03:14 173阅读 0赞

**Storm1.0安装**

**下载**  
wget [http://mirrors.gigenet.com/apache/storm/apache-storm-1.0.2/apache-storm-1.0.2.tar.gz][http_mirrors.gigenet.com_apache_storm_apache-storm-1.0.2_apache-storm-1.0.2.tar.gz]

tar -zxvf apache-storm-1.0.2.tar.gz

**修改 conf/storm.yaml 文件**  
增加了对nimbus节点的多节点配置，解决了nimbus单节点的弊端、  
![这里写图片描述][20160930145544093]

**启动服务**  
bin/storm nimbus >/dev/null 2>&1 &  
bin/storm supervisor >/dev/null 2>&1 &  
bin/storm ui >/dev/null 2>&1 &

**相应的nimbus从节点也需要启动 nimbus服务**

**如果报错：**  
org.apache.storm.utils.NimbusLeaderNotFoundException: Could not find leader nimbus from seed hosts \[“127.0.0.1”\]. Did you specify a valid list of nimbus hosts for config nimbus.seeds?

有个解决办法，就是到zoopeeper上把storm节点删掉，重启zookeeper  
![\[图片\]][20160930145553812]

bin/zkCli.sh  
![\[图片\]][20160930145602093]

![\[图片\]][20160930145609796]

注意：delete只能删除不包含子节点的节点，如果要删除的节点包含子节点，使用rmr命令  
![\[图片\]][20160930145625919]

重启zookeeper节点：  
bin/zkServer.sh restart

--------------------

如果出现错误：

Caused by: java.lang.RuntimeException: java.io.IOException: Found multiple defaults.yaml resources. You're probably bundling the Storm jars with your topology jar. [jar:file:/opt/apache-storm-1.0.2/lib/storm-core-1.0.2.jar!/defaults.yaml, jar:file:/opt/storm-test-1.0.2.jar!/defaults.yaml]
        at org.apache.storm.utils.Utils.findAndReadConfigFile(Utils.java:313)
        at org.apache.storm.utils.Utils.readDefaultConfig(Utils.java:357)
        at org.apache.storm.utils.Utils.readStormConfig(Utils.java:393)
        at org.apache.storm.utils.Utils.<clinit>(Utils.java:119)
        ... 39 more
    Caused by: java.io.IOException: Found multiple defaults.yaml resources. You're probably bundling the Storm jars with your topology jar. [jar:file:/opt/apache-storm-1.0.2/lib/storm-core-1.0.2.jar!/defaults.yaml, jar:file:/opt/storm-test-1.0.2.jar!/defaults.yaml]
        at org.apache.storm.utils.Utils.getConfigFileInputStream(Utils.java:339)
        at org.apache.storm.utils.Utils.findAndReadConfigFile(Utils.java:293)
        ... 42 more

解决方案  
搜索了一下依赖包，发现storm-core下面也存在一个defaults.yaml文件。修改Maven配置文件，添加scope属性并设为provided：

<dependency>
                <groupId>org.apache.storm</groupId>
                <artifactId>storm-core</artifactId>
                <version>0.9.6</version>
                <scope>provided</scope>
            </dependency>

重新打包运行，异常消失。

顺便总结一下scope的使用场景和说明：

1.compile  
编译范围，默认scope，在工程环境的classpath（编译环境）和打包（如果是WAR包，会包含在WAR包中）时候都有效。  
2.provided  
容器或JDK已提供范围，表示该依赖包已经由目标容器（如tomcat）和JDK提供，只在编译的classpath中加载和使用，打包的时候不会包含在目标包中。最常见的是j2ee规范相关的servlet-api和jsp-api等jar包，一般由servlet容器提供，无需在打包到war包中，如果不配置为provided，把这些包打包到工程war包中，在tomcat6以上版本会出现冲突无法正常运行程序（版本不符的情况）。  
3.runtime  
一般是运行和测试环境使用，编译时候不用加入classpath，打包时候会打包到目标包中。一般是通过动态加载或接口反射加载的情况比较多。也就是说程序只使用了接口，具体的时候可能有多个，运行时通过配置文件或jar包扫描动态加载的情况。典型的包括：JDBC驱动等。  
4.test  
测试范围，一般是单元测试场景使用，在编译环境加入classpath，但打包时不会加入，如junit等。  
5.system  
系统范围，与provided类似，只是标记为该scope的依赖包需要明确指定基于文件系统的jar包路径。因为需要通过systemPath指定本地jar文件路径，所以该scope是不推荐的。如果是基于组织的，一般会建立本地镜像，会把本地的或组织的基础组件加入本地镜像管理，避过使用该scope的情况。  
实践：  
provided是没有传递性的，也就是说，如果你依赖的某个jar包，它的某个jar的范围是provided，那么该jar不会在你的工程中依靠jar依赖传递加入到你的工程中。  
provided具有继承性，上面的情况，如果需要统一配置一个组织的通用的provided依赖，可以使用parent，然后在所有工程中继承。

[http_mirrors.gigenet.com_apache_storm_apache-storm-1.0.2_apache-storm-1.0.2.tar.gz]: http://mirrors.gigenet.com/apache/storm/apache-storm-1.0.2/apache-storm-1.0.2.tar.gz
[20160930145544093]: /images/20220716/3e4d9ea7d0ec4edea6d114fa0a74f11a.png
[20160930145553812]: /images/20220716/73dbfc67e0e745a5855fa17fc8c0c67d.png
[20160930145602093]: /images/20220716/e06ea66a4279412c8c4d2735a527df39.png
[20160930145609796]: /images/20220716/4144704457fa4e008cd6d238ed614753.png
[20160930145625919]: /images/20220716/69dfb57171934e9b852b6c3f0ff167c6.png