## 一、背景
开发排查系统问题用得最多的手段就是查看系统日志,在分布式环境中一般使用`ELK`来统一收集日志,但是在并发大时使用日志定位问题还是比较麻烦,由于大量的其他用户/其他线程的日志也一起输出穿行其中导致很难筛选出指定请求的全部相关日志,以及下游线程/服务对应的日志。
## 二、解决思路
* 每个请求都使用一个`唯一标识`来追踪全部的链路显示在日志中,并且不修改原有的打印方式(代码无入侵)
* 使用Logback的`MDC`机制日志模板中加入`traceId`标识,取值方式为`%X{traceId}`
> MDC(Mapped Diagnostic Context,映射调试上下文)是 log4j 和 logback 提供的一种方便在多线程条件下记录日志的功能。MDC 可以看成是一个与当前线程绑定的Map,可以往其中添加键值对。MDC 中包含的内容可以被同一线程中执行的代码所访问。当前线程的子线程会继承其父线程中的 MDC 的内容。当需要记录日志时,只需要从 MDC 中获取所需的信息即可。MDC 的内容则由程序在适当的时候保存进去。对于一个 Web 应用来说,通常是在请求被处理的最开始保存这些数据。
## 三、方案实现
由于`MDC`内部使用的是`ThreadLocal`所以只有本线程才有效,子线程和下游的服务`MDC`里的值会丢失;所以方案主要的难点是解决**值的传递问题**,主要包括以几下部分:
* API网关中的`MDC`数据如何传递给下游服务
* 服务如何接收数据,并且调用其他远程服务时如何继续传递
* 异步的情况下(线程池)如何传给子线程
### 3.1. 修改日志模板
logback配置文件日志格式添加该标识
![](https://img.kancloud.cn/19/72/1972386e46bf6f20c1c275afc60d0db0_2203x165.png)
### 3.2. 网关添加过滤器
生成`traceId`并通过`header`传递给下游服务
![](https://img.kancloud.cn/7a/31/7a31c64ca7bf0c18ed0189397ccf4531_920x950.png)
### 3.3. 下游服务增加spring拦截器
接收并保存`traceId`的值
**拦截器**
![](https://img.kancloud.cn/1e/3f/1e3fd5206478391534c8c94f78a57b9e_1256x566.png)
**注册拦截器**
![](https://img.kancloud.cn/63/e3/63e3a890eb98e3ee24a1d341a9e5e30b_983x805.png)
### 3.4. 下游服务增加feign拦截器
继续把当前服务的`traceId`值传递给下游服务
![](https://img.kancloud.cn/60/f9/60f90149719ffdc0ea27cfcb3289c013_1174x777.png)
### 3.5. 解决父子线程传递问题
主要针对业务会使用线程池(异步、并行处理),并且`spring`自己也有`@Async`注解来使用线程池,要解决这个问题需要以下两个步骤
#### 3.5.1. 重写logback的`LogbackMDCAdapter`
由于logback的`MDC`实现内部使用的是`ThreadLocal`不能传递子线程,所以需要重写替换为阿里的`TransmittableThreadLocal`
> **TransmittableThreadLocal**是Alibaba开源的、用于解决**“在使用线程池等会缓存线程的组件情况下传递ThreadLocal”**问题的 InheritableThreadLocal 扩展。若希望 TransmittableThreadLocal 在线程池与主线程间传递,需配合**TtlRunnable**和**TtlCallable**使用。
**TtlMDCAdapter类**
~~~
package org.slf4j;
import com.alibaba.ttl.TransmittableThreadLocal;
import org.slf4j.spi.MDCAdapter;
public class TtlMDCAdapter implements MDCAdapter {
/**
* 此处是关键
*/
private final ThreadLocal<Map<String, String>> copyOnInheritThreadLocal = new TransmittableThreadLocal<>();
private static TtlMDCAdapter mtcMDCAdapter;
static {
mtcMDCAdapter = new TtlMDCAdapter();
MDC.mdcAdapter = mtcMDCAdapter;
}
public static MDCAdapter getInstance() {
return mtcMDCAdapter;
}
~~~
> 其他代码与**ch.qos.logback.classic.util.LogbackMDCAdapter**一样,只需改为调用`copyOnInheritThreadLocal`变量
**TtlMDCAdapterInitializer类**用于程序启动时加载自己的mdcAdapter实现
~~~
public class TtlMDCAdapterInitializer implements ApplicationContextInitializer<ConfigurableApplicationContext> {
@Override
public void initialize(ConfigurableApplicationContext applicationContext) {
//加载TtlMDCAdapter实例
TtlMDCAdapter.getInstance();
}
}
~~~
#### 3.5.2. 扩展线程池实现
增加`TtlRunnable`和`TtlCallable`扩展
~~~
public class CustomThreadPoolTaskExecutor extends ThreadPoolTaskExecutor {
@Override
public void execute(Runnable runnable) {
Runnable ttlRunnable = TtlRunnable.get(runnable);
super.execute(ttlRunnable);
}
@Override
public <T> Future<T> submit(Callable<T> task) {
Callable ttlCallable = TtlCallable.get(task);
return super.submit(ttlCallable);
}
@Override
public Future<?> submit(Runnable task) {
Runnable ttlRunnable = TtlRunnable.get(task);
return super.submit(ttlRunnable);
}
@Override
public ListenableFuture<?> submitListenable(Runnable task) {
Runnable ttlRunnable = TtlRunnable.get(task);
return super.submitListenable(ttlRunnable);
}
@Override
public <T> ListenableFuture<T> submitListenable(Callable<T> task) {
Callable ttlCallable = TtlCallable.get(task);
return super.submitListenable(ttlCallable);
}
}
~~~
## 四、场景测试
### 4.1. 测试代码如下
![](https://img.kancloud.cn/20/07/2007c9dbd1a3e49d5320918bcfc667d2_1338x640.png)
### 4.2. api网关打印的日志
网关生成`traceId`值为`13d9800c8c7944c78a06ce28c36de670`
![](https://img.kancloud.cn/c3/82/c382d7d1b03a2fabc417205e1265dc03_2492x171.png)
### 4.3. 请求跳转到文件服务时打印的日志
显示的`traceId`与网关相同,这里特意模拟发生异常的场景
![](https://img.kancloud.cn/d2/17/d2172d573c99ff4857cd4b9591578567_2489x413.png)
### 4.4. ELK聚合日志通过`traceId`查询整条链路日志
当系统出现异常时,可直接通过该异常日志的`traceId`的值,在日志中心中询该请求的所有日志信息
![](https://img.kancloud.cn/7a/3e/7a3ef25ffeead83a307b4e043e7d4b0c_2158x823.png)
- springcloud
- springcloud的作用
- springboot服务提供者和消费者
- Eureka
- ribbon
- Feign
- feign在微服务中的使用
- feign充当http请求工具
- Hystrix 熔断器
- Zuul 路由网关
- Spring Cloud Config 分布式配置中心
- config介绍与配置
- Spring Cloud Config 配置实战
- Spring Cloud Bus
- gateway
- 概念讲解
- 实例
- GateWay
- 统一日志追踪
- 分布式锁
- 1.redis
- springcloud Alibaba
- 1. Nacos
- 1.1 安装
- 1.2 特性
- 1.3 实例
- 1. 整合nacos服务发现
- 2. 整合nacos配置功能
- 1.4 生产部署方案
- 环境隔离
- 原理讲解
- 1. 服务发现
- 2. sentinel
- 3. Seata事务
- CAP理论
- 3.1 安装
- 分布式协议
- 4.熔断和降级
- springcloud与alibba
- oauth
- 1. abstract
- 2. oauth2 in micro-service
- 微服务框架付费
- SkyWalking
- 介绍与相关资料
- APM系统简单对比(zipkin,pinpoint和skywalking)
- server安装部署
- agent安装
- 日志清理
- 统一日志中心
- docker安装部署
- 安装部署
- elasticsearch 7.x
- logstash 7.x
- kibana 7.x
- ES索引管理
- 定时清理数据
- index Lifecycle Management
- 没数据排查思路
- ELK自身组件监控
- 多租户方案
- 慢查询sql
- 日志审计
- 开发
- 登录认证
- 链路追踪
- elk
- Filebeat
- Filebeat基础
- Filebeat安装部署
- 多行消息Multiline
- how Filebeat works
- Logstash
- 安装
- rpm安装
- docker安装Logstash
- grok调试
- Grok语法调试
- Grok常用表达式
- 配置中常见判断
- filter提取器
- elasticsearch
- 安装
- rpm安装
- docker安装es
- 使用
- 概念
- 基础
- 中文分词
- 统计
- 排序
- 倒排与正排索引
- 自定义dynamic
- 练习
- nested object
- 父子关系模型
- 高亮
- 搜索提示
- kibana
- 安装
- docker安装
- rpm安装
- 整合
- 收集日志
- 慢sql
- 日志审计s
- 云
- 分布式架构
- 分布式锁
- Redis实现
- redisson
- 熔断和降级