线上问题排查的四类方法
最正统的方法
日志
这是排查问题的最常用的方法,需要预估自己每日日志量和需要存储的日志时间。申请磁盘空间时一般会留35%的冗余以备突发流量。
一般需要打日志的有:每个对外提供方法的入口和出口,调用第三方的调用前和调用后。打印内容主要包括入参和出参。https://github.com/xiexiaojing/concise-logger 我在简明日志规范里定义:几种常用的类里用切面的形式注入日志。
监控
传统的方法如果jvm出现gc等问题需要先打开gc日志,这会牺牲一些效率。但是现在业界已经普遍将这些数据上报到系统中,比如欧美常用的prometheus,国内用小米的falcon比较多。
对于数据库、调用量、响应时长等监控系统也都有统计。美团点评的cat不仅集成了这些,还集成了依赖分析、依赖分析、心跳报表、业务大盘等。挺方便的。
报警
报警不仅可以发现问题,还可以将发生问题时已经执行到的阶段作为报警信息一起发出,便于快速定位。
linux命令
tcpdump
如果收到不明数据,又不知道数据从哪里来的,最简单的方法就是tcpdump进行抓包分析,确定数据来源。
netstat
通常用来监听连接端口的状态。常见的状态主要有:
-
listen状态:正在监听来自远方的tcp端口的链接请求。
-
syn-sent状态:在发送链接请求后等待匹配的连接请求。
-
syn-received状态:在收到和发送一个链接请求后等待对方对链接请求的确认。
-
established状态:代表一个打开的链接。
-
fin-wait-1状态:等待远程tcp连接中断请求,或先前的链接中断请求的确认。
-
fin-wait-2状态:从远程tcp等待链接中断请求。
-
close-wait状态:等待从本地用户发来的链接中断请求。
-
closing状态:等待远程tcp对链接中断的确认。
-
last-ack状态:等待原来的发现远程tcp的链接中断请求的确认。
-
tie-wait状态:等待足够的时间以确保远程tcp接收到连接中断请求的确认。
-
closed状态:没有任何连接状态。
再现
我无数次的假装路过,只是为了与你一次偶然的邂逅……
这句话用到希望复现线上问题时,往往描述到位的想哭。
如果线上运行的程序遇到问题需要排查,建议优先使用最正统的方法,不行的话linux命令也可以接受。内存泄漏、并发问题等的再现成本很高。并且极其不利用快速恢复。
线上调试
如果再现之后还不不能确定问题的原因,还有最后一招不到万不得已不要用:线上调试。
工具:线上机器是linux系统,本地intelij
复制下面的信息
在线上启动参数中加上上面信息,重启。
sudo svc -du /service/xxxx/
看看监听端口有没有起来
lsof -i :8083
起来后,本地inteij开启远程debug即可。记得之前有次线上事故就是有个小哥在线上开启远程debug,请求打到断点卡在那里了。
总结
事实、数据、推论、猜测
推荐阅读
项目改进的四个抓手
技术境界的二三四
工作中常见的五种技术leader
上一篇: ajax篇