一次 OOM 排查(dump文件分析)

2025-12-12 0 293

image.png

一、发现问题

近期 OOM 故障频发,一周内发生了 3 次。

但每次pod重启后,应用又一切正常;上个版本有代码发布的同学,排查了一遍新增代码,没找到可疑之处。

主要现象如下

  1. 群里告警:Grafana 告警,Full GC 次数5分钟内超2次
  2. 群里告警:nacos、grpc 等中间件心跳连接超时
  3. 集群中对应服务:重启次数新增

image.png

Grafana 告警
Alertname: HK-5分钟内GC次数大于2次
状态: 告警
内容:  HK最近10分钟内的FullGC过多,当前值: 75.5,环境:prod,实例:10.20.56.36
应用:  xxxx
时间: 2025-10-13 19:48:51
详情: 告警详情
来源: Grafana 地址

查看 Grafana 中 JVM 问题:
image.png

可为什么会导致重启?

看看得:JVM 内部 OOM → 应用假死(线程卡死或频繁 Full GC)→ 健康检查失败 → K8s 重启 Pod

排查此问题困难之处

既然知道是 OOM,那就找对应 OOM 生成 dump 文件,分析即可。

运维侧反馈来不及 dump 文件,就重启了,导致dump文件丢失。

最后,那我又是如何得到这个 dump 文件的?

既然运维侧不给力,那就只能靠平时多观察下这个应用的情况,一有怀疑情况就找对应运维同学。

恰好,被我抓到一次,直接坐到运维同学旁边,让其帮我上容器帮我 dump 一份数据。

二、定位问题

2.1 定位问题:dump 文件分析

生成 dump 文件:找运维同学操作,进入对应 pod 容器中,执行如下命令:

# 1、找到对应 PID:
jps -l

# 2、执行,只想 dump 活跃的对象:
jcmd 12345 GC.heap_dump -all=false /tmp/heap_20240602.hprof

分析工具:使用的是 IDEA 自带的 Profiler

直接打开对应的 dump 文件,展示如下:
image.png

可以看到 byte[]byte[][] 数据是 MySQL 里的结果数据:

image.png

选择 byte[]

image.png

图中的 GC Root: Java Frame 表示

  • 在 Java 的垃圾回收(GC)机制中,GC Root 是一组特殊的对象引用,它们作为起点,GC 会从这些对象开始遍历引用链,找出所有可达对象。可达的对象不会被回收。
  • Java Frame 指的是某个线程的栈帧(方法调用栈)中的局部变量或参数引用了这个对象。
GC Root: Java Frame: com.mysql.cj.protocol.a.NativeProtocol.sendQueryPacket(NativeProtocol.java:951)

这段话意思是:

  • 这个 byte[] 对象是被某个线程的栈上的局部变量引用着。
  • 具体是在 com.mysql.cj.protocol.a.NativeProtocol 类的 sendQueryPacket 方法(第 951 行)中。
  • 因为它在栈上被引用,所以 GC 无法回收它,直到这个方法执行结束并且栈帧被销毁。

找到一个具体的进入看下:

image.png

可以定位到某一个 SQL,并将这个 SQL 展示出来。

SELECT amount, currency FROM risk_message

image.png

所有的线索都指向这个 SQL 查询带出来大量的数据。

2.2 定位问题:具体代码

通过 SQL 可以缩小范围,所有涉及这个表的代码,主要是 2 个接口:

  1. 入账审核列表:getInboundList
  2. 汇总-入账成功金额:querySummary —— BUG 点

代码如下:

List list = riskMessageRepo.lambdaQuery().select(RiskMessage::getAmount, RiskMessage::getCurrency)
    .eq(StringUtils.isNotBlank(clientId), RiskMessage::getClientId, clientId)
    .in(CollectionUtils.isNotEmpty(currencyList), RiskMessage::getCurrency, currencyList)
    .ge(Objects.nonNull(orderStartTime), RiskMessage::getValueDate, orderStartTime)
    .le(Objects.nonNull(orderEndTime), RiskMessage::getValueDate, orderEndTime)
    .list();

这个功能主要汇总金额,但币种不同,得按照汇率换算出来,他这块实现步骤:

  1. 查询出所有符合条件的 —— 问题点
  2. 在内存本地聚合
  3. 根据汇率进行换算,得出 USD 币种的金额

问题就在查询这块,没兜住,直接查询出 百万条 记录,导致内存在接下来的 30分钟 逐渐被占满。

  1. 时间范围没生效:没有强制时间范围
  2. 按币种先汇总:币种只有百来个,返回也只有百来行

直接让 AI 帮我排查这 2 个接口是否有问题

claude-4-sonnet 回答道:

image.png

AI 的回答,居然是没有问题;当再次指出问题时,AI 又站起来了。

三、小结

排查过程中发现的一些事

  1. HTTP 请求调用时间长,不一定造成 OOM,但一定是有问题的。
  2. MySQL IN 数量能调节,可以 1w+
  3. 现阶段的AI编程,不能完全相信,会绕进一些BUG中,需要人工处理。

最后解决这个问题也比较简单

  1. 强制选定范围
  2. 按照币种 SUM,返回行数最多百来行

常见 Full GC 触发原因

触发原因 说明 典型特征 排查方法
老年代空间不足 大对象直接进入老年代,或晋升失败 GC 日志显示 Allocation Failure,老年代使用率接近 100% 查看 GC 日志中 Old Gen 使用率,分析对象生命周期
元空间(Metaspace)不足 类加载过多,动态生成类(如反射、CGLIB) GC 日志显示 Metadata GC Threshold -XX:MaxMetaspaceSize 设置过小,或类加载泄漏
显式调用 System.gc() 代码或第三方库调用 GC 日志显示 System.gc() GC 日志会显示 System.gc() 触发
直接内存不足 DirectByteBuffer / Netty 堆外内存耗尽 堆外内存不足时 JVM 会频繁 Full GC 尝试释放 Cleaner -XX:MaxDirectMemorySize,用 jcmd VM.native_memory summary 查看
大对象分配失败 超过 PretenureSizeThreshold 直接进老年代 GC 日志显示 Promotion failed 调整阈值或优化对象分配
CMS/G1 的 remark 阶段失败 并发回收失败,退化为 Full GC GC 日志显示 concurrent mode failure 或 to-space exhausted 查看 GC 日志的 concurrent mode failure 或 to-space exhausted

收藏 (0) 打赏

感谢您的支持,我会继续努力的!

打开微信/支付宝扫一扫,即可进行扫码打赏哦,分享从这里开始,精彩与您同在
点赞 (0)

申明:本文由第三方发布,内容仅代表作者观点,与本网站无关。对本文以及其中全部或者部分内容的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。本网发布或转载文章出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,也不代表本网对其真实性负责。

左子网 编程相关 一次 OOM 排查(dump文件分析) https://www.zuozi.net/35823.html

常见问题
  • 1、自动:拍下后,点击(下载)链接即可下载;2、手动:拍下后,联系卖家发放即可或者联系官方找开发者发货。
查看详情
  • 1、源码默认交易周期:手动发货商品为1-3天,并且用户付款金额将会进入平台担保直到交易完成或者3-7天即可发放,如遇纠纷无限期延长收款金额直至纠纷解决或者退款!;
查看详情
  • 1、描述:源码描述(含标题)与实际源码不一致的(例:货不对板); 2、演示:有演示站时,与实际源码小于95%一致的(但描述中有”不保证完全一样、有变化的可能性”类似显著声明的除外); 3、发货:不发货可无理由退款; 4、安装:免费提供安装服务的源码但卖家不履行的; 5、收费:价格虚标,额外收取其他费用的(但描述中有显著声明或双方交易前有商定的除外); 6、其他:如质量方面的硬性常规问题BUG等。 注:经核实符合上述任一,均支持退款,但卖家予以积极解决问题则除外。
查看详情
  • 1、左子会对双方交易的过程及交易商品的快照进行永久存档,以确保交易的真实、有效、安全! 2、左子无法对如“永久包更新”、“永久技术支持”等类似交易之后的商家承诺做担保,请买家自行鉴别; 3、在源码同时有网站演示与图片演示,且站演与图演不一致时,默认按图演作为纠纷评判依据(特别声明或有商定除外); 4、在没有”无任何正当退款依据”的前提下,商品写有”一旦售出,概不支持退款”等类似的声明,视为无效声明; 5、在未拍下前,双方在QQ上所商定的交易内容,亦可成为纠纷评判依据(商定与描述冲突时,商定为准); 6、因聊天记录可作为纠纷评判依据,故双方联系时,只与对方在左子上所留的QQ、手机号沟通,以防对方不承认自我承诺。 7、虽然交易产生纠纷的几率很小,但一定要保留如聊天记录、手机短信等这样的重要信息,以防产生纠纷时便于左子介入快速处理。
查看详情

相关文章

猜你喜欢
发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务