Redis命令之hscan

Redis命令之hscan1 业务背景 在互联网的项目中为了提高性能和吞吐量 通常需要做一些优化和数据异构 比如查询 DB 我们可以优化索引 通过命中索引来提高查询速度 也可以把数据异构到 Redis 虽然 Redis 的性能非常好也支持 5 种数据结构 如果想性能更好的话 可以考虑异构到 JVM 缓存

大家好,我是讯享网,很高兴认识大家。

1、业务背景

      在互联网的项目中为了提高性能和吞吐量,通常需要做一些优化和数据异构,比如查询DB,我们可以优化索引,通过命中索引来提高查询速度,也可以把数据异构到Redis,虽然Redis的性能非常好也支持5种数据结构,如果想性能更好的话,可以考虑异构到JVM缓存,也就是DB的数据异构到Redis,Redis的数据定期异构到JVM缓存

2、带来问题

    在Redis中通过用一个hashmap来存储业务数据,当这些业务数据比较小,我们可以通过hGetAll来获取redis的整个map然后设置到JVM缓存中,伴随这业务的增长Redis中的key会非常多,这是我们调用hGetAll获取数据时就会把Redis给hang住,造成整个redis阻塞,进而影响整个redis集群的使用,导致其它业务调用redis时性能抖动

3、解决方案

       我们采取方案1,通过HSCAN来迭代获取对应的值,通过指定游标和获取的数量,比如一次获取10个,命令如下HSCAN key cursor [MATCH pattern] [COUNT count]  它是一个增量式命令,每次查询都是返回一部分数据,还可以通过它处理模糊查询,所以不会像hGetAll类命令hang住Redis导致服务短暂停滞,最开始cursor我们都设置为0就好,count来控制每次遍历的数量,由于这个命令执行的时间复杂度是O(N),所以count越大,每次执行时间理论上会越长,可以根据实际场景进行调整,在遍历时候判断返回的游标cursor是否为0,如果为0代表整个遍历结束。

类似的命令如下:原理都一样,都是避免把redis的进场hang住,


讯享网

  • SCAN 命令用于迭代当前数据库中的数据库键。
  • SSCAN 命令用于迭代集合键中的元素。
  • HSCAN 命令用于迭代哈希键中的键值对。
  • ZSCAN 命令用于迭代有序集合中的元素(包括元素成员和元素分值)。

4、参考文档

 http://doc.redisfans.com/key/scan.html#scan  

http://redisdoc.com/database/scan.html#scan

5、测试用例 

测试过程发现如果map集合的数据比较少,比如100个,虽然设置count只查10个,也会都返回过来 注意点:所有jimdb scan类操作,都要确保在一个副本

 public Map<String,String> hScan(String key) { Map<String,String> allResult =new HashMap<>(1024); CallerInfo callerInfo = Profiler.registerInfo("CacheServicneire_hScan", O2nConstants.APP_NAME,false, true); try { ScanOptions scanOptions = ScanOptions.scanOptions().match("*").count(50).concurrent(1).build(); ScanResult<Map.Entry<String, String>> scanResult = cluster.hScan(key,0,scanOptions); if(scanResult !=null && CollectionUtils.isNotEmpty(scanResult.getResult())){ allResult.putAll(scanResult.getResult().stream().collect(Collectors.toMap(Entry::getKey,Entry::getValue))); while (scanResult.getCursor()>0){ scanResult = cluster.hScan(key,scanResult.getCursor(), scanOptions); if(scanResult !=null && CollectionUtils.isNotEmpty(scanResult.getResult())){ allResult.putAll(scanResult.getResult().stream().collect(Collectors.toMap(Entry::getKey,Entry::getValue))); } } } }catch (Exception e) { Profiler.functionError(callerInfo); log.error("执行hScan操作失败, key:{}", key, e); throw e; } finally { Profiler.registerInfoEnd(callerInfo); } return allResult; }

讯享网

 

小讯
上一篇 2025-01-20 09:14
下一篇 2025-02-28 07:37

相关推荐

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/28480.html