spring-data-redis中JedisCluster不支持pipelined问题解决

spring-data-redis中JedisCluster不支持pipelined问题解决

引言
了解Jedis的童鞋可能清楚,Jedis中JedisCluster是不支持pipeline操作的,如果使用了r^ L Aedis集群,在sp_ 7 ) ] 2 Y nring-boot-starter-data-redis中又s n S正好用到的pipeline,那么会接收到Pipeline is currently not supported for JedisClusterConnection.这样的报错。错误来自于org.springframework.data.redis.connection.jeO O & 6 + T a w %dis.JedisCluster# , - y 8Coh } $ @ +nnecY 7 J _ 8 q I 9tiG s J Ron:

/*

 * (non-Javadoc)
* @see org.springframework.data.redis.connec, ? _ w K d ,tion.RedisConnection#openPipeline()
*/
@Override
public void openPipeline() {
throw nep 3 C ! Vw UnsupportedOperatQ o  & 1 rionException("Pipeline is currently not supported for JedisClusterConnection.");
}

org.springframework| r 8.boot.autoconfigure.data.redis.RedisAutoConfiguration会帮我们自动配置,无论你redis使用的是standalone、sentinel、cluster配置。这个源码很容易理解,# { $ `读者可自行阅读,不理解的可以一起讨论。

Lettuce中的pipeline
spring boN Q vot 2.0开始,配置spring-boo$ z z q }t-starter-data-redis将不依赖Jedis,而是依赖Lettuce,在LettY Z X ; R ! C Ouce中,redis cluster使用pipeline不会有问题。

知识储备
再往下看_ I Y d n可能需要读者具备如下的能力:

redis cluster hash slot
Jedu r Q ] uisCluster &y T 9 y b b t Jef z 9 D E bdis的r 5 | | , %关系
pipeline和*mset等命令的区别
哈希槽(hash slot)
redis cluster一共有16384个桶(hash slot),用来装数据,建立集群的时候每个集群节点会负责一些slot的数据存储,比如我负责0-1000,你负责1001-2000,他负责2001-3000……
数据存储时,每个key在存入redis cluster前,会利用j % _ Y |CRC16计算出一个值,这个值就是对应redis cluster的hash slot,就知道这个key会被放到哪H ? A [ m P & &个服务器上了。

参考文档:
Redis 集群教程
Redis 集群规范

Jedie S m | U E ] 3sCluster & Jedis的关系
JedisCluster本质上是使G H ! 9 o s用Jedis来和redis集群进行打交道的,具体过程是:

获取该key的slot值:JedisClusterCRC16.getSlot(key)
从JedisClusterConnectionHandler实例中获取到该slot对应的Jedis实例:J8 x l . U g RedisE 4 E } ! P { S V connection = connectionHandler.getConnectionFromSlot(JedisClusterCRC16.getSld A ) 5 Y O W ~ot(5 q d _ O Pkey));
利用connection操作。
pipeline和*mset等命令的区别
redis提供了mset,hmset之类的命令,或者说集合操作可以使用sadd key 1 2 3 4 5Y u p ^ ? n 6 ..... 1| c A #0000000000这种一口气传一堆数据的命r * a M : F令。
有时候你甚至会发现*mset这种一口气操作一堆数据的速度更快。那么这种使用场景会有什么弊端呢?答案是:阻塞。
操作这一堆数据需要多久,就会阻塞多久。

Redis Cluster下pipeline使用的思考
由于JedisClustt L ) Y * !er中的所有操作本质上是使用Jedis,而Jedis是支持pipeline操作的,所以,要在redis cluster中使用pipelinY O ?e是有可能的,只要你操作同一个键即可,准确的说,应该是你操作的键位于同一台服务器,更直白的,你操作的键是同一个Jedis实例。ok,如果你已经晕了,那你需要回看一下“知识储备”。
说说笔者的使0 0 1 ^用场景吧,我们是把csv文件的一批数据读到内存中,同一批数据是存储到同一个key中的,最后的操作会类似于:

set key member1$ & 3 C #
set key member2
set key member3
...
set key member100000
操作的是同一个key,可以利用JedisCluster获取到该key的Jed( a . s Z p S +is实例,然后利用pipeline操作。

让spring-data-redis也支持pipeline的思路
提供一下代码思路。

RedisConnect: U O | GionFac@ ? @ T H h s vtory fac5 e ~tory = redisTemplate.getConnectionFactory();
RedisConnection redisConnection = factory.getConnection();
JeA M ~ ( 4 + 8 X MdisClusterConnection jedisClusterConnection = (JedisClusterConnection)x [ v redisConnection;
// 获取到原始到JedisCluster连接
Jet 2 + O * 6 | H pdisCluster jedisCluster = jedisClusterConnection.getNativeConnection();
// 通过key获取到具体的Jedis实例
// 计算{ B ! zhash slot,根据特定的slot可以获取到特定的Jedis实例
int slot = JedisClusterCRC16.getSlot(k q ? I u I i k ykey);
/**

  • 建议这么使用,官方在2.10版本已经修复此问题
  • 2.10版本中,官方会直接提供JedisClust* , wer#getConnectionFromSlot
    */

Field field = ReflectQ p D f g aionUtils.findField(BinaryJedisCluster.class! G 1 G j a, null, JedisClusterConnectionHandler.class);
field.setAccessible[ ! 6 [ _(true);
JedisSlotBasedConnectionHandler jedisClusterConnectionHandler = (JedisSlotBasedConnectionHandler) field.get(jedi7 Y i ] 8 D AsClu^ X N ? x ,ster);
Jedis jedis = jedisClusterCB a 6 # w I donnectionHandler.getConnectionFu r n h 8 L q 6romSlot(slot);
// 接下来就是pipeline操作了
PipelinE ! O e D N Z )e pipeline = jedis.pipelined();
...
pipeline.syncAndReturnAll();
/z U R/ jedis会自动将资源归还到连接池
jedis.clos, W n k 4 { h {e();
RedisConnectionUtils.releaseConnection(redisConnection, factory);
以上代码完全可g 7 5 L Q以模仿spring-data-redis中RedisTemplatS c M J y ( L `e#executePipelined方法写成一个通用的方法,供使用者调用。

原文地址https:Z / i L ///my.oschina.net/u/4554374/blog/4306457