使用jedis如何写入redis集群中的特定槽/节点

Question

我正在尝试提高将数据写入redis集群的性能。我们计划从 redi-sentinel 迁移到集群模式以实现可扩展性。

但是，与redis-sentinel相比，写操作的性能要差很多。我们在redis-sentinel中利用了管道，但集群模式不支持管道。

因此，我正在考虑将前往同一节点的所有密钥分组，并使用管道将批次发送到该特定节点。

所以，我想知道如何知道/计算（在写入集群之前）特定密钥将写入哪个节点/插槽？

Answer 1

解决方案 1：
找到一个解决方案来识别钥匙将进入的插槽。JedisCluster 有一些 API 可以获取它。

int slotNum = JedisClusterCRC16.getSlot(key); - 提供钥匙的插槽号。

Set<HostAndPort> redisClusterNode = new HashSet<HostAndPort>();
redisClusterNode.add(new HostAndPort(hostItem, port));

JedisSlotBasedConnectionHandler connHandler = new 
              JedisSlotBasedConnectionHandler(redisClusterNode, poolConfig, 60);

Jedis jedis = connHandler.getConnectionFromSlot(slotNum);

这为集群中的特定节点提供了jedis对象（来自内部的Jedispool）。
现在有了上面的 jedis 对象，所有命令都可以轻松地针对特定节点（在集群中）进行管道传输

Pipeline pipeline = jedis.pipelined();
pipeline.multi();
for(Entry<String, Map<String, String>> kvf : kvfs.entrySet()) {
   pipeline.hmset(kvf.getKey(), kvf.getValue());
}
pipeline.exec();

尽管这种方法（使用 JedisCluster）提供了密钥所指向的适当节点，但这并没有为我提供预期的性能，我认为这是由于了解插槽编号和节点（插槽的）所涉及的过程所致。
每次我们尝试获取包含槽号的实际节点（jedis）时，上述过程似乎都会建立到节点（集群中）的物理连接。因此，如果我们有数百万个密钥，这会影响性能。
因此，使用 Lettuce 包的另一种方法（如下）帮助我克服了这个问题。

解决方案2：
使用Lettuce包，支持在集群模式下批量发送命令。

     <groupId>biz.paluch.redis</groupId>
     <artifactId>lettuce</artifactId>
     <version>4.4.3.Final</version>

代码片段：

RedisClusterClient client = RedisClusterClient.create(RedisURI.create("hostname", "port"));
StatefulRedisClusterConnection<String, String> connection = client.connect();

RedisAdvancedClusterAsyncCommands<String, String> commands = connection.async();
// Disabling auto-flushing
commands.setAutoFlushCommands(false);

List<RedisFuture<?>> futures = new ArrayList<>();
// kvf is of type Map<String, Map<String, String>>
for (Entry<> e : kvf.entrySet())
{
   futures.add(commands.hmset( (String) e.getKey(), (Map<String, String>) e.getValue()));
}
// write all commands to the transport layer
commands.flushCommands();
// synchronization example: Wait until all futures complete
LettuceFutures.awaitAll(10, TimeUnit.SECONDS,
futures.toArray(new RedisFuture[futures.size()]));

参考：https://github.com/lettuce-io/lettuce-core/wiki/Pipelined-and-command-flushing