## 一、说明
整个ELK搭建过程中最痛苦的就是调试Grok表达式去结构化日志数据,介绍两个调试工具可以提升效率
## 二、调试工具
### 2.1. grokdebug
[http://grokdebug.herokuapp.com/](http://grokdebug.herokuapp.com/)
优点:在线调试
缺点:需要翻墙否则访问速度非常慢,缺乏具体的报错提示
> 表达式正确
> ![](https://img.kancloud.cn/14/a4/14a41af0fb8ac9e7b754bea6d8819b98_1753x934.png)
> 表达式错误
> ![](https://img.kancloud.cn/9f/fb/9ffb7ff9688f2c3b9ea82d58374b5091_1753x835.png)
### 2.2. kibana
kibana本身的`Dev Tools`菜单里面有个`Grok Debugger`就是用来调试Grok语法的,如下图
> 表达式正确
> ![](https://img.kancloud.cn/a3/d9/a3d9e9acd56da23e05643ff4c256fe85_1635x933.png)
> 表达式错误:找不到pattern
> ![](https://img.kancloud.cn/fa/08/fa08c849f1928982b858289b8b2da05f_2414x1224.png)
> 补充自定义patterns后表达式正确
> ![](https://img.kancloud.cn/d5/9b/d59b73a943f7c2746e3567e5367497e8_1611x1198.png)
### 2.3. logstash
直接用logstash本身来进行配置调试
**(1) 创建测试配置**
在config目录下新建`test.conf`配置文件,内容如下:
~~~
input { stdin { } }
filter {
grok {
match => {
"message" => "%{TIMESTAMP_ISO8601:log_time}\|%{WORD:resouce_id}"
}
}
}
output {
stdout { codec => rubydebug }
}
~~~
> 修改filter里面的内容为自己想要测试的配置
**(2) 运行**
执行一下命令启动logstash
~~~
bin/logstash -f config/test.conf
~~~
当看到打印以下信息则代表启动成功
~~~
Successfully started Logstash API endpoint {:port=>9600}
~~~
**(3) 测试**
在控制台中输入测试的内容
~~~
2021-01-12 10:00:00.000|123
~~~
输出结果
~~~
{
"@version" => "1",
"log_time" => "2021-01-12 10:00:00.000",
"host" => "lf-172-16-21-134",
"message" => "2021-01-12 10:00:00.000|123",
"@timestamp" => 2021-01-13T09:18:28.397Z,
"resouce_id" => "123"
}
~~~
- springcloud
- springcloud的作用
- springboot服务提供者和消费者
- Eureka
- ribbon
- Feign
- feign在微服务中的使用
- feign充当http请求工具
- Hystrix 熔断器
- Zuul 路由网关
- Spring Cloud Config 分布式配置中心
- config介绍与配置
- Spring Cloud Config 配置实战
- Spring Cloud Bus
- gateway
- 概念讲解
- 实例
- GateWay
- 统一日志追踪
- 分布式锁
- 1.redis
- springcloud Alibaba
- 1. Nacos
- 1.1 安装
- 1.2 特性
- 1.3 实例
- 1. 整合nacos服务发现
- 2. 整合nacos配置功能
- 1.4 生产部署方案
- 环境隔离
- 原理讲解
- 1. 服务发现
- 2. sentinel
- 3. Seata事务
- CAP理论
- 3.1 安装
- 分布式协议
- 4.熔断和降级
- springcloud与alibba
- oauth
- 1. abstract
- 2. oauth2 in micro-service
- 微服务框架付费
- SkyWalking
- 介绍与相关资料
- APM系统简单对比(zipkin,pinpoint和skywalking)
- server安装部署
- agent安装
- 日志清理
- 统一日志中心
- docker安装部署
- 安装部署
- elasticsearch 7.x
- logstash 7.x
- kibana 7.x
- ES索引管理
- 定时清理数据
- index Lifecycle Management
- 没数据排查思路
- ELK自身组件监控
- 多租户方案
- 慢查询sql
- 日志审计
- 开发
- 登录认证
- 链路追踪
- elk
- Filebeat
- Filebeat基础
- Filebeat安装部署
- 多行消息Multiline
- how Filebeat works
- Logstash
- 安装
- rpm安装
- docker安装Logstash
- grok调试
- Grok语法调试
- Grok常用表达式
- 配置中常见判断
- filter提取器
- elasticsearch
- 安装
- rpm安装
- docker安装es
- 使用
- 概念
- 基础
- 中文分词
- 统计
- 排序
- 倒排与正排索引
- 自定义dynamic
- 练习
- nested object
- 父子关系模型
- 高亮
- 搜索提示
- kibana
- 安装
- docker安装
- rpm安装
- 整合
- 收集日志
- 慢sql
- 日志审计s
- 云
- 分布式架构
- 分布式锁
- Redis实现
- redisson
- 熔断和降级