百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

redis 生产环境如何有效查找哪些无过期时间的 key

wptr33 2024-12-25 16:02 24 浏览

在项目中,Redis 不应该被当作传统数据库来使用;储存大量没有过期时间的数据。如果储存大量无过期时间,而且无效的key的话;再加上 Redis 本身的过期策略没有被正确设置,就会大量占用内存。这样就会导致再多的内存资源也不够用。最近在项目中,就遇到这样的情况。

情况大致是这样,项目中采用 Redis 二级存储(自己造的一个概念)。大概的意思就是先使用 UUID 生成一个 uuid 作为 value;这个 uuid 作为一个版本 id;存到缓存 key 为 ACL_CACHE_VERSION_KEY 中,即

SET ACL_CACHE_VERSION_KEY uuid

然后在不 uuid 作为另外一个key的一部分。即 ACL_USER_ + uuid,比如 uuid 的值为 26a26b84-578d-40bf-ab15-aeb188a56393,则key 为ACL_USER_26a26b84-578d-40bf-ab15-aeb188a56393,缓存到 key 的数据为

HMSET ACL_USER_26a26b84-578d-40bf-ab15-aeb1 id1 12345 id2 45678

因为 ACL_USER_26a26b84-578d-40bf-ab15-aeb188a56393 的是否过期是通过程序中生成新版本的 uuid,存储新的用户权限数据后;在程序中删除。因为程序的不健壮,导致有大量过期的版本没有及时删除。经过长年的积累导致 Redis 存在大量这些无效版本的 key。

在测试环境中,可以使用 keys 命令,模糊查询到需要的 key,但这个操作只适合在测试环境中使用,不适合在生产环境中使用,原因是 Redis 是单线程运行的,当 Redis 中的数据量很大时,由于此操作会遍历所有数据,并将结果一次性全部返回,执行时间会比较长,从而导致后续操作等待,直接影响系统的正常运行。解决的办法是使用scan命令:

scan cursor [MATCH pattern] [COUNT count]
  • cursor:表示游标,从 0 开始,此命令执行完后会返回一个新的 cursor值。如果cursor!="0",则表示还有 key 未返回,需要再调用 scan,并使用此新的 cursor 值,来获取下一批 key;如果cursor=="0",则表示遍历结束。
  • pattern:表示模糊匹配的样式
  • count:表示一批最多返回多少条记录,默认为10

集群环境下使用 jedis 的代码实现

import java.util.HashSet;
import java.util.Set;
import redis.clients.jedis.HostAndPort;
import redis.clients.jedis.JedisCluster;
import redis.clients.jedis.JedisPoolConfig;
import redis.clients.jedis.ScanParams;
import redis.clients.jedis.ScanResult;
public class RedisTester {
    public static JedisCluster getJedisCluster() {
        JedisPoolConfig config = new JedisPoolConfig();
        config = new JedisPoolConfig();
        config.setMaxTotal(60000);// 设置最大连接数
        config.setMaxIdle(1000); // 设置最大空闲数
        config.setMaxWaitMillis(3000);// 设置超时时间
        config.setTestOnBorrow(true);
        // 集群结点
        Set<HostAndPort> jedisClusterNode = new HashSet<HostAndPort>();
        jedisClusterNode.add(new HostAndPort("yun-1.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-2.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-3.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-4.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-5.cacheyum.com", 6379));
        jedisClusterNode.add(new HostAndPort("yun-6.cacheyum.com", 6379));
        JedisCluster jc = new JedisCluster(jedisClusterNode, 1000, 1000, 1000, "admin321", config);
        return jc;
    }
    public static void scanCluster() {
        JedisCluster redis = getJedisCluster();
        redis.getClusterNodes().values().stream().forEach(pool -> {
            boolean done = false;
            String cur = "0";
            try (Jedis jedisNode = pool.getResource()) {
                while (!done) {
                    ScanParams scanParams = new ScanParams();
                    scanParams.match(" ACL_USER_*");
                    scanParams.count(10);
                    ScanResult<String> resp = jedisNode.scan(cur, scanParams);
                    for (String result : resp.getResult()) {
                        System.out.println("key: " + result);
                    }
                    cur = resp.getStringCursor();
                    System.out.println("cursor: " + cur);
                    if (cur.equals("0")) {
                        done = true;
                    }
                }
            }
        });
    }
    public static void main(String[] args) {
        scanCluster();
    }
}

单机情况下 jedis 代码实现

import java.util.HashSet;
import java.util.Set;
import redis.clients.jedis.HostAndPort;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPoolConfig;
import redis.clients.jedis.ScanParams;
import redis.clients.jedis.ScanResult;
public class RedisTester {
    public static Jedis getAloneRedis() {
        Jedis jedis = new Jedis("127.0.0.1", 6379);
        System.out.println("connect successfully");
        jedis.auth("admin321");
        return jedis;
    }
    public void scanAlone() {
        Jedis jedis = getAloneRedis();
        String cursor = "0";
        do {
            ScanParams scanParams = new ScanParams();
            scanParams.match("ACL_USER_*");
            scanParams.count(10);
            ScanResult<String> sr = jedis.scan(cursor, scanParams);
            List<String> resultList = sr.getResult();
            for (String result : resultList) {
                System.out.println("key: " + result);
            }
            cursor = sr.getStringCursor();
            System.out.println("cursor: " + cursor);
        } while (!cursor.equals("0"));
    }
    public static void main(String[] args) {
        getAloneRedis();
    }
}

使用以下代码就可以找到那些版本的 uuid 是无效的。找到后,再调用 del 指令删除;或者为了更加保险,调用 expire 加个过期时间。让 key 在某个时间内失效也可以。

相关推荐

redis的八种使用场景

前言:redis是我们工作开发中,经常要打交道的,下面对redis的使用场景做总结介绍也是对redis举报的功能做梳理。缓存Redis最常见的用途是作为缓存,用于加速应用程序的响应速度。...

基于Redis的3种分布式ID生成策略

在分布式系统设计中,全局唯一ID是一个基础而关键的组件。随着业务规模扩大和系统架构向微服务演进,传统的单机自增ID已无法满足需求。高并发、高可用的分布式ID生成方案成为构建可靠分布式系统的必要条件。R...

基于OpenWrt系统路由器的模式切换与网页设计

摘要:目前商用WiFi路由器已应用到多个领域,商家通过给用户提供一个稳定免费WiFi热点达到吸引客户、提升服务的目标。传统路由器自带的Luci界面提供了工厂模式的Web界面,用户可通过该界面配置路...

这篇文章教你看明白 nginx-ingress 控制器

主机nginx一般nginx做主机反向代理(网关)有以下配置...

如何用redis实现注册中心

一句话总结使用Redis实现注册中心:服务注册...

爱可可老师24小时热门分享(2020.5.10)

No1.看自己以前写的代码是种什么体验?No2.DooM-chip!国外网友SylvainLefebvre自制的无CPU、无操作码、无指令计数器...No3.我认为CS学位可以更好,如...

Apportable:拯救程序员,IOS一秒变安卓

摘要:还在为了跨平台使用cocos2d-x吗,拯救objc程序员的奇葩来了,ApportableSDK:FreeAndroidsupportforcocos2d-iPhone。App...

JAVA实现超买超卖方案汇总,那个最适合你,一篇文章彻底讲透

以下是几种Java实现超买超卖问题的核心解决方案及代码示例,针对高并发场景下的库存扣减问题:方案一:Redis原子操作+Lua脚本(推荐)//使用Redis+Lua保证原子性publicbo...

3月26日更新 快速施法自动施法可独立设置

2016年3月26日DOTA2有一个79.6MB的更新主要是针对自动施法和快速施法的调整本来内容不多不少朋友都有自动施法和快速施法的困扰英文更新日志一些视觉BUG修复就不翻译了主要翻译自动施...

Redis 是如何提供服务的

在刚刚接触Redis的时候,最想要知道的是一个’setnameJhon’命令到达Redis服务器的时候,它是如何返回’OK’的?里面命令处理的流程如何,具体细节怎么样?你一定有问过自己...

lua _G、_VERSION使用

到这里我们已经把lua基础库中的函数介绍完了,除了函数外基础库中还有两个常量,一个是_G,另一个是_VERSION。_G是基础库本身,指向自己,这个变量很有意思,可以无限引用自己,最后得到的还是自己,...

China&#39;s top diplomat to chair third China-Pacific Island countries foreign ministers&#39; meeting

BEIJING,May21(Xinhua)--ChineseForeignMinisterWangYi,alsoamemberofthePoliticalBureau...

移动工作交流工具Lua推出Insights数据分析产品

Lua是一个适用于各种职业人士的移动交流平台,它在今天推出了一项叫做Insights的全新功能。Insights是一个数据平台,客户可以在上面实时看到员工之间的交流情况,并分析这些情况对公司发展的影响...

Redis 7新武器:用Redis Stack实现向量搜索的极限压测

当传统关系型数据库还在为向量相似度搜索的性能挣扎时,Redis7的RedisStack...

Nginx/OpenResty详解,Nginx Lua编程,重定向与内部子请求

重定向与内部子请求Nginx的rewrite指令不仅可以在Nginx内部的server、location之间进行跳转,还可以进行外部链接的重定向。通过ngx_lua模块的Lua函数除了能实现Nginx...