微服务架构中的链路超时分析

朱雀 2023-09-25 20:47 8阅读 0赞

#### 1、前言 ####

1.1 现象（问题）

微服务架构项目落地过程中，开发人员一般都遇到过调用超时问题，大部分时候会出现在feign接口调用上，这是微服务与单体服务最大的区别，单体从来不用考虑服务之间调用因为网络、序列化等因素导致的额外时间损耗问题。很多开发人员在微服务开发中通常会随手设置一个较长超时，原则就是别在feign接口调用超时，这个随手的超时时间可能是5分钟、10分钟，甚至1个小时不等，看似解决超时导致的问题，实际如果没有从整体微服务架构来考虑超时背后的因素，这样会导致给整个链路调用埋下隐患，可能会随机或者在高并发等情况下爆发。

超时设置不正确会导致以下现象：

*  应用不稳定，时不时出现小问题，问题复现困难，用户感知差。
 *  前端请求卡住，也不知道是网络问题，还是应用问题或者是数据库问题，排查问题费时费力。
 *  数据库资源浪费，出现空算。
 *  应用空算，引发资源浪费或内存溢出。
 *  高并发下，TPS和QPS同时出现异常下降。

1.2 原则（结论）

微服务架构（基于`Spring Cloud`）中，在行业应用中，超时设置都应满足以下条件：

*  不应超过客户等待最大容忍度时间，这是一个弹性指标，通常在这个指标可以考虑在5s到30s之间；
 *  超时设置应大于API计算最大时间，如果和上一条冲突，API计算应转入异步计算；
 *  微服务链路超时各环节应保持一致性，并且从前端到后端到数据库（定义为从做左往右），越靠右超时设置应越短，链路超时应该是向右收敛。
 *  快速失败，节省核心资源，特别是数据库。

#### 2、链路超时（细节） ####

*  链路超时应满足向右收敛原则
    
    假设网关超时或服务超时，数据库还依然在执行客户端提交的的慢查询，等结果计算出来后，中间链路已经超时，这个时候数据是无法响应的，相当于数据库的计算被浪费。而数据库又是极为珍贵的资源，这种调用一旦过多很快就会导致与数据相关的API出现响应故障。
    
    > 默认情况下，整个微服务的调用链路是不符合这个要求的，所以一旦发生慢调用，很多时候会产生无效的计算，浪费资源或者直接影响服务的使用。
 *  快速失败，满足向右收敛原则后，发生慢调用的时候，靠右侧的核心资源会先超时，通过调用链传递，快速失败响应，这个时候服务无论是进行降级还是熔断都可以快速降低系统的压力，并且还能及时向开发团队或者运维团队反馈问题。
    
    > 通常情况下，资源越靠右侧，说明资源越珍贵，调用的代价也越大。
 *  缺省值，如果使用组件缺省值，一定要显式的设置参数。
    
    > 注意：不同版本，默认值可能是不同的。
 *  通常对链路入口（网关），服务入口（web中间件），服务调用（Feign），数据库调用（sql）等环节调整超时参数，遵守向右收敛原则。

2.1 网关关键配置

*  全局超时配置

spring:
      cloud:
        gateway:     
          httpclient:
            connect-timeout: 45000 #毫秒
            response-timeout: 10000
            pool:
              type: elastic
    复制代码

*  单路由配置

- id: per_route_timeouts
            uri: https://example.org
            predicates:
              - name: Path
                args:
                  pattern: /delay/{timeout}
            metadata:
              response-timeout: 200
              connect-timeout: 200
    复制代码

connect-timeout是指网关到目标路由的连接超时时间（缺省45秒）。

response-timeout是指服务给网关返回响应的时间（默认应该是无限时间，暂时没分析源码）。

网关默认使用弹性连接连接池，默认的连接数是`Integer.MAX_VALUE`。

网关使用netty组件并且采用了响应式设计，大部分时候，网关不是整个链路的瓶颈。

> 官网：[cloud.spring.io/spring-clou…][cloud.spring.io_spring-clou]

*  服务端超时

server:
      netty:
        connection-timeout: 60000
    复制代码

这个参数是外部连接与gateway建立连接的超时时间（应该是指tcp连接三次握手超时时间），目前该参数有争议。

在某些版本应该是固定是10s，配置参数无效。

> [stackoverflow.com/questions/5…][stackoverflow.com_questions_5]
> 
> [github.com/spring-proj…][github.com_spring-proj]
> 
> [github.com/spring-proj…][github.com_spring-proj 1]

2.2 Tomcat关键配置

*  以内嵌Tomcat为例：

server:
      tomcat:   
        accept-count: 100
        threads:
          max: 200
        max-connections: 8192
        connection-timeout: 60000
        keep-alive-timeout: 60000
        max-keep-alive-requests: 100
    复制代码

\*\*threads.max：\*\*表示服务器最大有多少个线程处理请求，默认200，实际上这个参数超过大多数服务器核心数，实际会降低服务器cpu处理速度，所以在业务处理中，应让tomcat应该让业务快速响应。

\*\*max-connections：\*\*表示服务器与客户端可以建立多少个连接数，即持有的连接数。tomcat缺省是8192个连接数，cpu未必有时间给你处理，但是可以保持连接。这个参数是客户感知型参数。

**accept-count:** 与服务器内核相关，是客户端传入给服务器内核，请求的backlog值，该值与服务器内核参数`net.core.somaxconn`取小后的值为最终起效的TCP内核全队列值。它表示在max-connections值达到预设的值后，服务器内核还能建立的连接数，这个连接保存在内核，还未被上层应用（tomcat）取走。该值在tomcat中默认是100，在Centos7.x版本中内核`net.core.somaxconn`是128。如果超过max-connections和accept-count总和，新的连接会被拒绝，即直接拒绝服务（直接返回connection refused）。

**connection-timeout：** 连接超时，URI所请求的内容被呈现出来前的超时时间。在SpringBoot2.x中缺省是60秒，注意：如果是使用标准server.xml的tomcat，缺省是20秒，不同版本的SpringBoot，其内嵌tomcat的连接超时可能不同，所以，建议直接指定该值。

> The number of milliseconds this Connector will wait, after accepting a connection, for the request URI line to be presented. Use a value of -1 to indicate no (i.e. infinite) timeout. The default value is 60000 (i.e. 60 seconds) but note that the standard server.xml that ships with Tomcat sets this to 20000 (i.e. 20 seconds). Unless disableUploadTimeout is set to false, this timeout will also be used when reading the request body (if any).

**keep-alive-timeout：** keepalive的超时时间，缺省与connection-timeout相同。

**max-keep-alive-requests:** 最大的保持keepalive的请求数量。

> 缺省情况下：tomcat可以保持8192个socket连接，系统内核帮忙保持100个连接。直至connection-timeout的时间。
> 
> 同一个连接在保活期间可以多次请求和响应。

2.3 feign接口配置

feign接口配置影响的是链路中服务之间的调用。

*  feign全局服务超时

default配置项影响全局配置（是否只是影响缺省客户端待查）。在使用第三方客户端的时候，应是以第三个客户端为基准，例如httpclient或okhttp。

feign:  
      client:
        config:
          # 全局配置
          default:
            loggerLevel: basic # NONE(默认)、BASIC、HEADERS、FULL
            connectTimeout: 30000 #毫秒
            readTimeout: 30000 #毫秒
      # 开启httpClient客户端作为http连接池
      httpclient:
        enabled: true
        max-connections: 200
        max-connections-per-route: 50 # feign单个路径的最大连接数
        connection-timeout: 30000
        connection-timer-repeat: 3000
    复制代码

*  feign独立服务超时

feign:
      client:
        config:
          # 设置FooClient的超时时间
          FooClient:
            connectTimeout: 5000
            readTimeout: 3000
    复制代码

*  单独给某接口设置超时时间

在feign接口里加入这个参数就可以单独为接口单独设置超时时间了

@FeignClient(name = "wood-system",contextId = "wood-system-holiday-feign")
    public interface HolidayFeign {
        @GetMapping("/api/holiday/{id}")
        Result<SysHoliday> selectOne(Request.Options options,@PathVariable Long id);
    
        @PostMapping("/api/holiday/page/{pageNum}/{pageSize}")
        Result<Object> queryAllByPage(Request.Options options, @RequestBody SysHoliday holiday, @PathVariable int pageNum, @PathVariable int pageSize);
    	
        ... ...	
    }
    复制代码

调用的时候new 一下Options对象

@Resource
        private HolidayFeign holidayFeign;
    
    	@Get

[cloud.spring.io_spring-clou]: https://link.juejin.cn?target=https%3A%2F%2Fcloud.spring.io%2Fspring-cloud-gateway%2Freference%2Fhtml%2F%23http-timeouts-configuration
[stackoverflow.com_questions_5]: https://link.juejin.cn?target=https%3A%2F%2Fstackoverflow.com%2Fquestions%2F53587611%2Fhow-to-configure-netty-connection-timeout-for-spring-webflux
[github.com_spring-proj]: https://link.juejin.cn?target=https%3A%2F%2Fgithub.com%2Fspring-projects%2Fspring-boot%2Fissues%2F15368
[github.com_spring-proj 1]: https://link.juejin.cn?target=https%3A%2F%2Fgithub.com%2Fspring-projects%2Fspring-boot%2Fissues%2F18473