欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

程序员因重复记录日志撑爆ELK被辞退!

程序员文章站 2022-06-28 08:01:43
点击上方“JavaEdge”,关注公众号设为“星标”,好文章不错过!由于日志配置繁杂,很多同学喜欢直接cv其他项目或网上博客的配置文件,而不仔细研究每个配置项。最常见的就是重复记录日......

由于日志配置繁杂,很多同学喜欢直接cv其他项目或网上博客的配置文件,而不仔细研究每个配置项。最常见的就是重复记录日志,这不但给查看和统计带来不必要麻烦,还会增加磁盘和日志收集系统负担。

下面看几个常见导致该错误的案例,大家引以为戒,避免被辞退。

程序员因重复记录日志撑爆ELK被辞退!

1 logger配置继承关系错误

程序员因重复记录日志撑爆ELK被辞退!

定义方法记录debug、info、warn、error四种日志:
程序员因重复记录日志撑爆ELK被辞退!

Logback配置
程序员因重复记录日志撑爆ELK被辞退!

配置看没啥问题,但执行方法后明显记录重复了:
程序员因重复记录日志撑爆ELK被辞退!

错因

程序员因重复记录日志撑爆ELK被辞退!

CONSOLE这个Appender同时挂载到俩Logger,定义的<logger><root>,由于定义的<logger>继承自<root>,所以同一日志既会通过logger记录,也会发送到root记录,因此应用包下日志出现重复。

程序员因重复记录日志撑爆ELK被辞退!

如此配置的初衷是啥?

程序员因重复记录日志撑爆ELK被辞退!

本想实现自定义logger配置,让应用内日志暂时开启DEBUG级别。

其实,这无需重复挂载Appender,去掉<logger>下挂载的Appender即可

<logger name="org.javaedge.logging" level="DEBUG"/>

若自定义<logger>需把日志输出到不同Appender,比如

  • 应用日志输出到文件app.log

  • 其他框架日志输出到控制台

可设置<logger>的additivity属性为false,就不会继承<root>  Appender

程序员因重复记录日志撑爆ELK被辞退!

程序员因重复记录日志撑爆ELK被辞退!

2 配置LevelFilter错误

程序员因重复记录日志撑爆ELK被辞退!

记录日志到控制台时,将日志按级别记录到俩文件
程序员因重复记录日志撑爆ELK被辞退!

执行结果

  • info.log 文件包含INFO、WARN和ERROR三级日志,不符预期
    程序员因重复记录日志撑爆ELK被辞退!

  • error.log包含WARN和ERROR俩级别日志,导致日志重复收集程序员因重复记录日志撑爆ELK被辞退!

事故问责

程序员因重复记录日志撑爆ELK被辞退!

一些公司使用自动化ELK方案收集日志,日志会同时输出到控制台和文件,开发人员在本地测试不会关心文件中记录的日志,而在测试和生产环境又因为开发人员没有服务器访问权限,所以原始日志文件中的重复问题难以发现。

到底为何重复?

程序员因重复记录日志撑爆ELK被辞退!

ThresholdFilter源码解析

程序员因重复记录日志撑爆ELK被辞退!

  • 日志级别 ≥ 配置级别 返回NEUTRAL,继续调用过滤器链上的下个过滤器

  • 否则返回DENY,直接拒绝记录日志

程序员因重复记录日志撑爆ELK被辞退!

该案例我们将 ThresholdFilter 置 WARN,因此可记录WARN和ERROR级日志。

程序员因重复记录日志撑爆ELK被辞退!

LevelFilter

程序员因重复记录日志撑爆ELK被辞退!

用于比较日志级别,然后进行相应处理。

  • 若匹配就调用onMatch定义的处理方式:默认交给下一个过滤器处理(AbstractMatcherFilter基类中定义的默认值)

  • 否则调用onMismatch定义的处理方式:默认也是交给下一个过滤器

程序员因重复记录日志撑爆ELK被辞退!
程序员因重复记录日志撑爆ELK被辞退!

和ThresholdFilter不同,LevelFilter仅配置level无法真正起作用

由于未配置onMatch和onMismatch属性,所以该过滤器失效,导致INFO以上级别日志都记录了。

修正

程序员因重复记录日志撑爆ELK被辞退!

配置LevelFilter的onMatch属性为ACCEPT,表示接收INFO级别的日志;配置onMismatch属性为DENY,表示除了INFO级别都不记录:
程序员因重复记录日志撑爆ELK被辞退!

如此,_info.log文件只会有INFO级日志,不会再出现日志重复。

往期推荐

大厂如何解决数值精度/舍入/溢出问题

大厂数据库事务实践-事务生效就能保证正确回滚?

线上问题事迹(一)数据库事务居然都没生效?

硬核干货:HTTP超时、重复请求必见坑点及解决方案

给大忙人们看的Java NIO教程之Channel

本文地址:https://blog.csdn.net/qq_33589510/article/details/110790165