Spring Cloud构建微服务架构：分布式服务跟踪（整合logstash）【Dalston版】

浅浅的花香味﹌ 2021-12-05 03:37 180阅读 0赞

通过之前的入门示例，我们已经为`trace-1`和`trace-2`引入了Spring Cloud Sleuth的基础模块`spring-cloud-starter-sleuth`，实现了为各微服务的日志信息中添加跟踪信息的功能。但是，由于日志文件都离散的存储在各个服务实例的文件系统之上，仅仅通过查看日志文件来分析我们的请求链路依然是一件相当麻烦的差事，所以我们还需要一些工具来帮助我们集中的收集、存储和搜索这些跟踪信息。引入基于日志的分析系统是一个不错的选择，比如：ELK平台，它可以轻松的帮助我们来收集和存储这些跟踪日志，同时在需要的时候我们也可以根据Trace ID来轻松地搜索出对应请求链路相关的明细日志。

ELK平台主要有由ElasticSearch、Logstash和Kiabana三个开源免费工具组成：

*  Elasticsearch是个开源分布式搜索引擎，它的特点有：分布式，零配置，自动发现，索引自动分片，索引副本机制，restful风格接口，多数据源，自动搜索负载等。
 *  Logstash是一个完全开源的工具，他可以对你的日志进行收集、过滤，并将其存储供以后使用。
 *  Kibana 也是一个开源和免费的工具，它Kibana可以为 Logstash 和 ElasticSearch 提供的日志分析

Spring Cloud Sleuth在与ELK平台整合使用时，实际上我们只要实现与负责日志收集的Logstash完成数据对接即可，所以我们需要为Logstash准备json格式的日志输出。由于Spring Boot应用默认使用了logback来记录日志，而Logstash自身也有对logback日志工具的支持工具，所以我们可以直接通过在logback的配置中增加对logstash的appender，就能非常方便的将日志转换成以json的格式存储和输出了。

下面我们来详细介绍一下在快速入门示例的基础上，如何实现面向Logstash的日志输出配置：

*  在`pom.xml`依赖中引入`logstash-logback-encoder`依赖，具体如下：

<dependency>
      <groupId>net.logstash.logback</groupId>
      <artifactId>logstash-logback-encoder</artifactId>
      <version>4.6</version>
    </dependency>

*  在工程`/resource`目录下创建`bootstrap.properties`配置文件，将`spring.application.name=trace-1`配置移动到该文件中去。由于`logback-spring.xml`的加载在`application.properties`之前，所以之前的配置`logback-spring.xml`无法获取到`spring.application.name`属性，因此这里将该属性移动到最先加载的`bootstrap.properties`配置文件中。
 *  在工程`/resource`目录下创建logback配置文件`logback-spring.xml`，具体内容如下：

<?xml version="1.0" encoding="UTF-8"?>
    <configuration>
        <include resource="org/springframework/boot/logging/logback/defaults.xml"/>
          
        <springProperty scope="context" name="springAppName" source="spring.application.name"/>
        
        <property name="LOG_FILE" value="${BUILD_FOLDER:-build}/${springAppName}"/>
        
        <property name="CONSOLE_LOG_PATTERN"
                  value="%clr(%d{yyyy-MM-dd HH:mm:ss.SSS}){faint} %clr(${LOG_LEVEL_PATTERN:-%5p}) %clr([${springAppName:-},%X{X-B3-TraceId:-},%X{X-B3-SpanId:-},%X{X-Span-Export:-}]){yellow} %clr(${PID:- }){magenta} %clr(---){faint} %clr([%15.15t]){faint} %clr(%-40.40logger{39}){cyan} %clr(:){faint} %m%n${LOG_EXCEPTION_CONVERSION_WORD:-%wEx}"/>
    
        
        <appender name="console" class="ch.qos.logback.core.ConsoleAppender">
            <filter class="ch.qos.logback.classic.filter.ThresholdFilter">           
                <level>INFO</level>
            </filter>
             <encoder>
                <pattern>${CONSOLE_LOG_PATTERN}</pattern>
                <charset>utf8</charset>
           </encoder>
        </appender>
    
        
        <appender name="logstash" class="ch.qos.logback.core.rolling.RollingFileAppender">
            <file>${LOG_FILE}.json</file>
            <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
                <fileNamePattern>${LOG_FILE}.json.%d{yyyy-MM-dd}.gz</fileNamePattern>
                <maxHistory>7</maxHistory>
            </rollingPolicy>
            <encoder class="net.logstash.logback.encoder.LoggingEventCompositeJsonEncoder">
                <providers>
                    <timestamp>
                        <timeZone>UTC</timeZone>
                    </timestamp>
                    <pattern>
                        <pattern>
                            {
                              "severity": "%level",
                              "service": "${springAppName:-}",
                              "trace": "%X{X-B3-TraceId:-}",
                              "span": "%X{X-B3-SpanId:-}",
                              "exportable": "%X{X-Span-Export:-}",
                              "pid": "${PID:-}",
                              "thread": "%thread",
                              "class": "%logger{40}",
                              "rest": "%message"
                            }
                        </pattern>
                    </pattern>
                </providers>
            </encoder>
        </appender>
          
        <root level="INFO">
            <appender-ref ref="console"/>
            <appender-ref ref="logstash"/>
        </root>
    </configuration>

对logstash支持主要通过名为`logstash`的appender实现，内容并不复杂，主要是对日志信息的格式化处理，上面为了方便调试查看我们先将json日志输出到文件中。

完成上面的改造之后，我们再将快速入门的示例运行起来，并发起对`trace-1`的接口访问。此时我们可以在`trace-1`和`trace-2`的工程目录下发现有一个`build`目录，下面分别创建了以各自应用名称命名的json文件，该文件就是在`logback-spring.xml`中配置的名为`logstash`的appender输出的日志文件，其中记录了类似下面格式的json日志：

{"@timestamp":"2019-07-17T09:42:30.124+00:00","severity":"INFO","service":"trace-1","trace":"","span":"","exportable":"","pid":"524","thread":"main","class":"o.s.c.a.AnnotationConfigApplicationContext","rest":"Refreshing org.springframework.context.annotation.AnnotationConfigApplicationContext@50b5ac82: startup date [Wed Jul 17 17:42:30 CST 2019]; root of context hierarchy"}
    {"@timestamp":"2019-07-17T09:42:30.590+00:00","severity":"INFO","service":"trace-1","trace":"","span":"","exportable":"","pid":"524","thread":"main","class":"o.s.b.f.a.AutowiredAnnotationBeanPostProcessor","rest":"JSR-330 'javax.inject.Inject' annotation found and supported for autowiring"}

如下图所示  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70]  
我们除了可以通过上面的方式生成json文件之外，也可以使用`LogstashTcpSocketAppender`将日志内容直接通过Tcp Socket输出到logstash服务端，比如：（**暂时未实践**）

本文转载自：  
[http://blog.didispace.com/spring-cloud-starter-dalston-8-3/][http_blog.didispace.com_spring-cloud-starter-dalston-8-3]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQwMjQxOTU3_size_16_color_FFFFFF_t_70]: /images/20211205/c5e9a7bc14224bda8a04ffcbcb11fc19.png
[http_blog.didispace.com_spring-cloud-starter-dalston-8-3]: http://blog.didispace.com/spring-cloud-starter-dalston-8-3/