【RPC框架】之 Dubbo
一、分布式基础理论
1、什么是分布式系统
《分布式系统原理与范型》定义:
分布式系统是若干独立计算机的集合,这些计算机对于用户来说就像单个相关系统
分布式系统(distributed system)是建立在网络之上的软件系统。
随着互联网的发展,网站应用的规模不断扩大,常规的垂直应用架构已无法应对,分布式服务架构以及流动计算架构势在必行,亟需一个治理系统确保架构有条不紊的演进。
2、分布式发展演变
单一应用架构
当网站流量很小时,只需一个应用,将所有功能都部署在一起,以减少部署节点和成本。此时,用于简化增删改查工作量的数据访问框架(ORM)是关键。
其优点为:适用于小型网站,小型管理系统,将所有功能都部署到一个功能里,简单易用。
缺点为:
- 1、性能扩展比较难
- 2、协同开发问题
- 3、不利于升级维护
垂直应用架构
当访问量逐渐增大,单一应用增加机器带来的加速度越来越小,将应用拆成互不相干的几个应用,以提升效率。此时,用于加速前端页面开发的Web框架(MVC)是关键。
通过切分业务来实现各个模块独立部署,降低了维护和部署的难度,团队各司其职更易管理,性能扩展也更方便,更有针对性。
缺点: 公用模块无法重复利用,开发性的浪费。
分布式服务架构
当垂直应用越来越多,应用之间交互不可避免,将核心业务抽取出来,作为独立的服务,逐渐形成稳定的服务中心,使前端应用能更快速的响应多变的市场需求。此时,用于提高业务复用及整合的**分布式服务框架(RPC)**是关键。
流动计算架构
当服务越来越多,容量的评估,小服务资源的浪费等问题逐渐显现,此时需增加一个调度中心基于访问压力实时管理集群容量,提高集群利用率。此时,用于**提高机器利用率的资源调度和治理中心(SOA)[ Service Oriented Architecture]**是关键。
3、RPC
什么叫RPC
RPC(Remote Procedure Call)是指远程过程调用,是一种进程间通信方式,他是一种技术的思想,而不是规范。它允许程序调用另一个地址空间(通常是共享网络的另一台机器上)的过程或函数,而不用程序员显式编码这个远程调用的细节。即程序员无论是调用本地的还是远程的函数,本质上编写的调用代码基本相同。
RPC基本原理
调用过程:
RPC两个核心模块:通讯,序列化。
二、Dubbo 核心概念
1、简介
Apache Dubbo 是一款高性能、轻量级的开源 Java RPC 框架,它提供了三大核心能力:面向接口的远程方法调用、智能容错和负载均衡、以及服务自动注册和发现。
官网:http://dubbo.apache.org/
2、基本概念
- 服务提供者(Provider):暴露服务的服务提供方,服务提供者在启动时,向注册中心注册自己提供的服务。
- 服务消费者(Consumer):调用远程服务的服务消费方,服务消费者在启动时,向注册中心订阅自己所需的服务,服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。
- 注册中心(Registry):注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。
- 监控中心(Monitor):服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。
调用关系说明
- 服务容器负责启动,加载,运行服务提供者。
- 服务提供者在启动时,向注册中心注册自己提供的服务。
- 服务消费者在启动时,向注册中心订阅自己所需的服务。
- 注册中心返回服务提供者地址列表给消费者,如果有变更,注册中心将基于长连接推送变更数据给消费者。
- 服务消费者,从提供者地址列表中,基于软负载均衡算法,选一台提供者进行调用,如果调用失败,再选另一台调用。
- 服务消费者和提供者,在内存中累计调用次数和调用时间,定时每分钟发送一次统计数据到监控中心。
3、dubbo环境搭建
【windows】- 安装zookeeper
1)、下载zookeeper
网址 https://archive.apache.org/dist/zookeeper/zookeeper-3.4.13/
2)、解压zookeeper
解压运行 zkServer.cmd ,初次运行会报错,没有 zoo.cfg 配置文件
3)、修改 zoo.cfg 配置文件
将 conf 下的 zoo_sample.cfg
复制一份改名为 zoo.cfg
即可。
注意几个重要位置:
dataDir=./
临时数据存储的目录(可写相对路径)clientPort=2181
zookeeper 的端口号
修改完成后再次启动 zookeeper
4)、使用 zkCli.cmd 测试
ls /
:列出zookeeper根下保存的所有节点create –e /test 123
:创建一个 tesst 节点,值为123get /test
:获取 /test 节点的值
【windows】- 安装 dubbo-admin 管理控制台
dubbo本身并不是一个服务软件。它其实就是一个jar包能够帮你的java程序连接到zookeeper,并利用zookeeper消费、提供服务。所以你不用在Linux上启动什么dubbo服务。
但是为了让用户更好的管理监控众多的dubbo服务,官方提供了一个可视化的监控程序,不过这个监控即使不装也不影响使用。
1)、下载dubbo-admin
https://github.com/apache/incubator-dubbo-ops
2)、进入目录,修改 dubbo-admin 配置
修改 src\main\resources\application.properties
指定 zookeeper
地址:
spring.guest.password=guest
dubbo.registry.address=zookeeper://127.0.0.1:2181
3)、打包dubbo-admin
mvn clean package -Dmaven.test.skip=true
4)、运行dubbo-admin
java -jar dubbo-admin-0.0.1-SNAPSHOT.jar
注意:有可能控制台看着启动了,但是网页打不开,需要在控制台按下 ctrl + c
即可
默认使用 root/root
登陆。
【linux】- 安装 zookeeper
1)、下载 zookeeper
网址 https://archive.apache.org/dist/zookeeper/zookeeper-3.4.11/
wget https://archive.apache.org/dist/zookeeper/zookeeper-3.4.11/zookeeper-3.4.11.tar.gz
2)、解压
tar -zxvf zookeeper-3.4.11.tar.gz
3)、移动指定位置并改名为 zookeeper
mv zookeeper-3.4.11 /usr/local/zookeeper
4)、开机启动 zookeeper
在 /etc/init.d/
目录下创建 zookeeper 文件,并添加如下脚本内容:
#!/bin/bash
#chkconfig:2345 20 90
#description:zookeeper
#processname:zookeeper
ZK_PATH=/usr/local/zookeeper # zookeeper 所在路径
export JAVA_HOME=/usr/local/java/jdk1.8 # Java 所在路径
case $1 in
start) sh $ZK_PATH/bin/zkServer.sh start;;
stop) sh $ZK_PATH/bin/zkServer.sh stop;;
status) sh $ZK_PATH/bin/zkServer.sh status;;
restart) sh $ZK_PATH/bin/zkServer.sh restart;;
*) echo "require start|stop|status|restart" ;;
esac
把脚本注册为 Service
chkconfig --add zookeeper
chkconfig --list
增加权限
chmod +x /etc/init.d/zookeeper
ll /etc/init.d/
5)、配置 zookeeper
初始化 zookeeper 配置文件:拷贝 /usr/local/zookeeper/conf/zoo_sample.cfg
到同一个目录下改个名字叫 zoo.cfg
cp zoo_sample.cfg zoo.cfg
启动 zookeeper
service zookeeper start
【linux】- 安装 dubbo-admin 管理控制台
流程和 window 下安装一致。
三、整合 Dubbo
1、服务提供者
引入 dubbo 依赖:
<!-- 引入dubbo -->
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>dubbo</artifactId>
<version>2.6.2</version>
</dependency>
<!-- 由于我们使用zookeeper作为注册中心,所以需要操作zookeeper dubbo 2.6以前的版本引入zkclient操作zookeeper dubbo 2.6及以后的版本引入curator操作zookeeper 下面两个zk客户端根据dubbo版本2选1即可 -->
<dependency>
<groupId>com.101tec</groupId>
<artifactId>zkclient</artifactId>
<version>0.10</version>
</dependency>
<!-- curator-framework -->
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>2.12.0</version>
</dependency>
配置服务提供者:
<!--当前应用的名字 -->
<dubbo:application name="mall-user"></dubbo:application>
<!--指定注册中心的地址 -->
<dubbo:registry address="zookeeper://118.24.44.169:2181" />
<!--使用dubbo协议,将服务暴露在20880端口 -->
<dubbo:protocol name="dubbo" port="20880" />
<!-- 指定需要暴露的服务 -->
<dubbo:service interface="com.wang.mall.service.UserService" ref="userServiceImpl" />
启动服务:
public static void main(String[] args) throws IOException {
ClassPathXmlApplicationContext context =
new ClassPathXmlApplicationContext("classpath:spring-beans.xml");
System.in.read();
}
2、服务消费者
引入 dubbo 依赖:
<!-- 引入dubbo -->
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>dubbo</artifactId>
<version>2.6.2</version>
</dependency>
<!-- 由于我们使用zookeeper作为注册中心,所以需要引入zkclient和curator操作zookeeper -->
<dependency>
<groupId>com.101tec</groupId>
<artifactId>zkclient</artifactId>
<version>0.10</version>
</dependency>
<!-- curator-framework -->
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>2.12.0</version>
</dependency>
配置消费者信息:
<!-- 应用名 -->
<dubbo:application name="mall-order-web"></dubbo:application>
<!-- 指定注册中心地址 -->
<dubbo:registry address="zookeeper://118.24.44.169:2181" />
<!-- 生成远程服务代理,可以和本地bean一样使用demoService -->
<dubbo:reference id="userService" interface="com.wang.mall.service.UserService"></dubbo:reference>
3、配置监控中心
所有服务配置连接监控中心,进行监控统计:
<!-- 监控中心协议,如果为protocol="registry",表示从注册中心发现监控中心地址,否则直连监控中心 -->
<dubbo:monitor protocol="registry"></dubbo:monitor>
Simple Monitor 挂掉不会影响到 Consumer 和 Provider 之间的调用,所以用于生产环境不会有风险。
Simple Monitor 采用磁盘存储统计信息,请注意安装机器的磁盘限制,如果要集群,建议用mount共享磁盘。
4、整合SpringBoot
引入 spring-boot-starter 以及 dubbo 和 curator 的依赖:
<dependency>
<groupId>com.alibaba.boot</groupId>
<artifactId>dubbo-spring-boot-starter</artifactId>
<version>0.2.0</version>
</dependency>
注意starter版本适配:
Versions | Java | Spring Boot | Dubbo |
---|---|---|---|
0.2.0 | 1.8+ | 2.0.x | 2.6.2 + |
0.1.1 | 1.7+ | 1.5.x | 2.6.2 + |
配置 application.properties
# 提供者配置:
dubbo.application.name=mall-user
dubbo.registry.protocol=zookeeper
dubbo.registry.address=192.168.67.159:2181
dubbo.scan.base-package=com.wang.mall
dubbo.protocol.name=dubbo
# application.name就是服务名,不能跟别的dubbo提供端重复
# registry.protocol 是指定注册中心协议
# registry.address 是注册中心的地址加端口号
# protocol.name 是分布式固定是dubbo,不要改。
# base-package 注解方式要扫描的包
# 消费者配置:
dubbo.application.name=mall-order-web
dubbo.registry.protocol=zookeeper
dubbo.registry.address=192.168.67.159:2181
dubbo.scan.base-package=com.wang.mall
dubbo.protocol.name=dubbo
dubbo 注解
@Service
、@Reference
如果没有在配置中写 dubbo.scan.base-package
,还需要使用 @EnableDubbo
注解
四、Dubbo 配置
1、配置原则
JVM 启动 -D 参数优先,这样可以使用户在部署和启动时进行参数重写,比如在启动时需改变协议的端口。
XML 次之,如果在 XML 中有配置,则 dubbo.properties
中的相应配置项无效。
Properties 最后,相当于缺省值,只有 XML 没有配置时,dubbo.properties
的相应配置项才会生效,通常用于共享公共配置,比如应用名。
2、重试次数
失败自动切换,当出现失败,重试其它服务器,但重试会带来更长延迟。可通过 retries=“2” 来设置重试次数(不含第一次)。
<!-- 重试次数配置如下:-->
<dubbo:service retries="2" />
<!-- 或者:-->
<dubbo:reference retries="2" />
<!-- 或者:-->
<dubbo:reference>
<dubbo:method name="findFoo" retries="2" />
</dubbo:reference>
3、超时时间
由于网络或服务端不可靠,会导致调用出现一种不确定的中间状态(超时)。为了避免超时导致客户端资源(线程)挂起耗尽,必须设置超时时间。
Dubbo消费端
<!-- 全局超时配置 -->
<dubbo:consumer timeout="5000" />
<!-- 指定接口以及特定方法超时配置 -->
<dubbo:reference interface="com.foo.BarService" timeout="2000">
<dubbo:method name="sayHello" timeout="3000" />
</dubbo:reference>
Dubbo服务端
<!-- 全局超时配置 -->
<dubbo:provider timeout="5000" />
<!-- 指定接口以及特定方法超时配置 -->
<dubbo:provider interface="com.foo.BarService" timeout="2000">
<dubbo:method name="sayHello" timeout="3000" />
</dubbo:provider>
配置原则
dubbo推荐在Provider上尽量多配置Consumer端属性:
- 1、作服务的提供者,比服务使用方更清楚服务性能参数,如调用的超时时间,合理的重试次数,等等
- 2、在 Provider 配置后,Consumer 不配置则会使用 Provider 的配置值,即 Provider 配置可以作为 onsumer 的缺省值。否则,Consumer 会使用 Consumer 端的全局设置,这对于 Provider 不可控的,并且往往是不合理的
配置的覆盖规则:
- 方法级配置别优于接口级别,即小 Scope 优先
- Consumer 端配置 优于 Provider 配置优于全局配置,
- 最后是 Dubbo Hard Code 的配置值(见配置文档)
4、版本号
当一个接口实现,出现不兼容升级时,可以用版本号过渡,版本号不同的服务相互间不引用。
可以按照以下的步骤进行版本迁移:
- 在低压力时间段,先升级一半提供者为新版本
- 再将所有消费者升级为新版本
然后将剩下的一半提供者升级为新版本
五、高可用
1、zookeeper 宕机与 dubbo 直连
现象:zookeeper注册中心宕机,还可以消费dubbo暴露的服务。
原因是健壮性:
- 监控中心宕掉不影响使用,只是丢失部分采样数据
- 数据库宕掉后,注册中心仍能通过缓存提供服务列表查询,但不能注册新服务
- 注册中心对等集群,任意一台宕掉后,将自动切换到另一台
- 注册中心全部宕掉后,服务提供者和服务消费者仍能通过本地缓存通讯
- 服务提供者无状态,任意一台宕掉后,不影响使用
- 服务提供者全部宕掉后,服务消费者应用将无法使用,并无限次重连等待服务提供者恢复
高可用:通过设计,减少系统不能提供服务的时间。
2、集群下dubbo负载均衡配置
在集群负载均衡时,Dubbo 提供了多种均衡策略,缺省为 random 随机调用。
负载均衡策略:
Random LoadBalance
随机,按权重设置随机概率。
在一个截面上碰撞的概率高,但调用量越大分布越均匀,而且按概率使用权重后也比较均匀,有利于动态调整提供者权重。
RoundRobin LoadBalance
轮循,按公约后的权重设置轮循比率。
存在慢的提供者累积请求的问题,比如:第二台机器很慢,但没挂,当请求调到第二台时就卡在那,久而久之,所有请求都卡在调到第二台上。
LeastActive LoadBalance
最少活跃调用数,相同活跃数的随机,活跃数指调用前后计数差。
使慢的提供者收到更少请求,因为越慢的提供者的调用前后计数差会越大。
ConsistentHash LoadBalance
一致性 Hash,相同参数的请求总是发到同一提供者。
当某一台提供者挂时,原本发往该提供者的请求,基于虚拟节点,平摊到其它提供者,不会引起剧烈变动。算法参见:http://en.wikipedia.org/wiki/Consistent\_hashing
缺省只对第一个参数 Hash,如果要修改,请配置
缺省用 160 份虚拟节点,如果要修改,请配置
还没有评论,来说两句吧...