disgare 的博客
首页
博客
分类
标签
首页
博客
分类
标签
  • 网络

    • 计算机网络学习笔记
    • 网络安全相关
    • 域名和子网掩码
    • CORS 跨域资源共享
    • DNS、HTTP 与 HTTPS
    • Server-Sent Events (SSE)
    • WebSocket 长连接
  • 计算机基础

    • 操作系统 IO 相关知识
    • 操作系统学习笔记
    • 程序的机器级表示
    • 音频文件基础
    • 正则表达式相关概念
    • ffmpeg 的安装以及实现音频切分功能
    • Hex 和 Base64 编码
    • XML 的使用
  • 数据结构与算法

    • 动态规划算法学习笔记
    • 基于比较的排序算法的最坏情况下的最优下界为什么是O(nlogn)
    • 集合与数据结构学习笔记
    • 面试常见算法总结
    • 算法导论第二部分排序学习笔记
    • 算法导论第一部分学习笔记
  • Java

    • 对象之间的映射与转换
    • 反射学习笔记
    • 泛型相关概念
    • 关于 boolean 类型的坑
    • 如何使用 lambda 表达式实现排序
    • CompletableFuture 相关用法
    • CompletableFuture 源码浅要阅读
    • FutureTask 源码阅读
    • Guava 常用 API
    • Guava 源码阅读:Multimap 相关
    • Jackson 的各种使用
    • Java 的 Excel 相关操作
    • java 的常见性能问题分析以及出现场景
    • java 基础知识
    • JAVA 枚举的基础和原理
    • Java 图片文件上传下载处理
    • Java 序列化
    • Java 异常
    • Java 语法糖
    • Java 中关于字符串处理的常用方法
    • Java 中强、软、弱、虚引用
    • JAVA 注解小结
    • Java Http 访问框架
    • Java Stream 的使用
    • Java8 新特性
    • netty 学习笔记
    • Scanner 的各种用法
    • Servlet 学习笔记
    • String、StringBuffer、StringBuilder 学习笔记
  • JVM

    • 虚拟机执行子系统
    • JVM 自动内存管理
    • Linux 中 JVM 常用工具以及常见问题解决思路
  • Linux

    • crontab 表达式
    • Linux 常见命令
    • Linux 文件系统
  • 中间件

    • 关于定时任务原理
    • 详解 kafka
    • ES 搜索引擎
    • flink 提交流程
    • Grape-RAG
    • Hadoop 基础原理
  • 多线程

    • 多线程基础学习笔记
    • 简单了解并发集合
    • 如何手写单例
    • 深入理解 java 多线程安全
    • 生产者消费者问题
    • 线程池作用、用法以及原理
    • AQS 组件
    • ThreadLocal 原理以及使用
  • 非关系型数据库

    • Redis 集群
    • Redis 数据结构、对象与数据库
    • Redis 学习笔记
  • 关系型数据库

    • B+ 树的插入、删除和数据页分裂机制
    • MySQL 的 binglog、redolog、undolog
    • MySQL 的记录存储结构、存储引擎与 Buffer Pool
    • MySQL 基本的特性
    • MySQL 开发规范
    • MySQL 事务与锁与 MVCC
    • MySQL 数据类型、字符集相关内容
    • MySQL 索引与索引优化
    • PostgreSQL 更新数据时 HOT优化
    • PostgreSQL 相关用法
  • Python

    • Python 基础语法
    • Python 学习
  • Spring 项目

    • Lombok 的常用注解
    • maven 小结
    • MyBatis 框架的使用
    • MyBatis 重要知识点总结
    • MybatisPlus 的使用
    • Spring 框架基础使用
    • Spring 事务相关
    • Spring IOC 的原理及源码
    • Spring AOP 的使用和原理
    • SpringBoot 的原理
    • SpringBoot 基础使用
    • SpringWeb 重要知识点
  • 分布式

    • 初步了解 docker
    • 从 ACID 到 BASE 事务处理的实现
    • 访问远程服务
    • 分布式 id
    • 分布式缓存相关问题
    • 分布式集群理论和分布式事务协议
    • 分布式架构的观测
    • 分布式一致性算法
    • 负载均衡 Load Balancing
    • 关于分布式系统 RPC 中高可用功能的实现
    • 集群间数据同步的目的
    • 三高问题下的系统优化
    • 数据库分库分表
    • 详解 Spring Cloud
    • Dubbo 基础概念
    • Gossip 协议
    • nginx 学习笔记
    • Protobuf 通信协议
    • Zookeeper 基础学习
  • 架构设计

    • 参数校验与异常处理
    • 抽象方法与设计模式
    • 代码整洁之道
    • 权限系统设计
    • 用低内存处理大量数据
    • 设计模式——策略模式
    • 设计模式——过滤器模式在 Spring 中的实践
    • 状态模式
    • 统一结果返回
    • 为什么要打日志?怎么打日志?打什么日志?
    • 运维监控常见指标含义
    • 资深研发进阶
    • DDD 架构学习笔记
    • Java 常用的规则引擎
    • MVC 架构学习笔记
  • AI

    • 如何编写 Prompt
    • Agent 工程架构
    • LLM 相关内容
    • NLP 相关知识
    • vibe coding 最佳实践
    • windows 下 ollama 迁移到 D 盘
  • 开发工具

    • 如何画时序图、流程图、状态流转图
    • excel 关于 =vlookup 的用法
    • git 的学习以及使用
    • IDEA 插件推荐
    • IDEA 常用快捷键以及调试
    • Shell 脚本
    • swagger 的使用
  • 前端

    • 简单了解前端页面开发
    • 伪静态是什么
    • GitHub Pages 部署教程
    • Vercel 部署教程
    • vue-admin-template 简单使用
    • VuePress 博客搭建指南
  • 项目

    • 面试刷题网——技术方案
    • 影视资源聚合站——技术方案
  • 问题记录

    • 定时任务单线程消费 redis 中数据导致消费能力不足
      • 问题描述
      • 处理流程
      • 总结
    • 提供可传递的易受攻击的依赖项
    • Liteflow 在 SpringBoot 启动时无法注入组件问题 couldn‘t find chain with the id[THEN(NodeComponent)]
  • 金融

    • 股票分析——关于电力
    • 股票技术面——量价关系
    • 股票技术面——盘口
    • 股票技术面——基础
    • 基础的金融知识
    • 基金与股票
    • 韭菜的自我总结
    • 聊聊价值投资
  • 其他

    • 程序员职场工作需要注意什么
    • 创业全链路SOP:从灵光一现到系统化增长的实战指南
    • 观罗翔讲刑法随笔
    • 价格和价值
    • 立直麻将牌效益理论
    • 梅花易数学习笔记
    • 压力管理
2025-02-27
问题记录
目录

定时任务单线程消费 redis 中数据导致消费能力不足

# 问题描述

大年初一,收到报警通知,Redis 机器内存使用率已经超过 90%,达到了危险值。Redis 管理同学反馈这一情况,希望尽快处理以避免系统崩溃或性能严重下降

# 处理流程

  1. 反馈直接上级 拉群并简要说明问题:第一时间在工作群里通知直接上级和其他相关同事,简要说明 Redis 内存使用率过高,已经达到危险值,需要紧急处理 初步沟通解决方案:询问是否有紧急处理方案,以便快速响应
  2. 排查问题 排除新需求导致的问题:春节期间没有新需求上线,排除新需求导致的问题 定位问题原因:需要确定是哪个 key 占用了大量内存,或者哪个业务流程导致了内存使用率过高
  3. 获取 Redis 占用信息 询问 Redis 同学:由于不熟悉公司提供的 Redis 客户端,直接联系 Redis 管理同学,请求提供内存占用较大的 key 信息 获取反馈:Redis 同学很快提供了内存占用表:
  • 最大的字符串 key 'xxxxxx1' 占用了 1055839 字节
  • 最大的列表 key 'xxxxxx2' 包含 13518155 个元素
  1. 分析业务流程 定位关键业务:'xxxxxx2' 列表过大,需要分析其相关的业务流程 业务流程:接收上游 Kafka 消息,将收到的数据转换成 POJO 存入 Redis,然后通过定时任务消费 Redis 中的数据。定时任务是单点执行的 问题原因:上游消息太多,消费速度跟不上,导致 Redis 内存占用过高
  2. 解决方案 减少接收上游消息:会丢弃消息,需要变更代码并上线,风险较大,暂时不考虑 增加 Kafka 消费速度:需要变更代码并上线,审批流程复杂,风险较高,暂时不考虑 临时手段:修改代码,使定时任务多线程消费 Redis 中的数据,加快消费速度 实施步骤:
  • 修改代码,使定时任务多线程消费 Redis 数据
  • 在灰度环境上线修改后的代码
  • 停止线上定时任务,确保灰度环境中的代码能够正常运行
  • 观察数据消费情况,确保问题得到解决
  1. 观察效果 监控数据:观察 Redis 内存使用率和数据消费情况,确保问题得到有效解决 恢复线上任务:确认灰度环境中的代码运行稳定后,逐步恢复线上定时任务

# 总结

1,本次问题是由于 Redis 内存使用率过高导致的,主要原因是上游消息量大,消费速度跟不上 2,虽然问题本身并不复杂,但由于发生在非窗口期(春节期间),需要紧急变更代码,增加了处理难度。还有需要及时向上级反馈问题,并与 Redis 管理同学紧密合作,快速获取关键信息,制定并实施了有效的临时解决方案 3,未来应加强对 Redis 内存使用情况的监控,提前发现潜在问题

#问题记录#Redis#定时任务
最后更新: 1/17/2026, 2:51:21 AM
影视资源聚合站——技术方案
提供可传递的易受攻击的依赖项

← 影视资源聚合站——技术方案 提供可传递的易受攻击的依赖项→

最近更新
01
vibe coding 最佳实践
02-24
02
立直麻将牌效益理论
02-23
03
伪静态是什么
02-08
更多文章>
Theme by Vdoing
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式