批量重命名密钥

Exc*_*bur 9 redis

我有一个相当大的数据库(5 个数据库,每个数据库大约有一百万个键),每个键都有环境命名空间。例如:"datamine::production::crosswalk==foobar"

我需要将我的开发环境与从生产 RDB 快照复制的数据同步。

所以我想做的是批量重命名每个键,将命名空间从 更改datamine::productiondatamine::development. 有没有好的方法来实现这一目标?

到目前为止我尝试过的

  • redis-cli 命令keys "datamine::production*",通过管道传输到 sed,然后返回到redis-cli. 这需要很长时间,并且由于某种原因在许多键上爆炸(偶尔将几个键组合在同一行中)。我更喜欢更好的选择。

  • Perl 在 .rdb 文件上搜索/替换。我的本地 redis-server 平面拒绝加载修改后的 RDB。

Exc*_*bur 5

解决方案:

好的,这是我为解决这个问题而编写的脚本。它需要“Redis”宝石。希望其他人发现这有用......

#!/usr/bin/env ruby

# A script to translate the current redis database into a namespace for another environment
# GWI's Redis keys are namespaced as "datamine::production", "datamine::development", etc.
# This script connects to redis and translates these key names in-place.
#
# This script does not use Rails, but needs the "redis" gem available
require 'Benchmark'
require 'Redis'

FROM_NAMESPACE = "production"
TO_NAMESPACE = "development"
NAMESPACE_PREFIX = "datamine::"
REDIS_SERVER = "localhost"
REDIS_PORT   = "6379"
REDIS_DBS = [0,1,2,3,4,5]

redis = Redis.new(host: REDIS_SERVER, port: REDIS_PORT, timeout: 30)

REDIS_DBS.each do |redis_db|
  redis.select(redis_db)
  puts "Translating db ##{redis_db}..."
  seconds = Benchmark.realtime do
    dbsize = redis.dbsize.to_f
    inc_threshold = (dbsize/100.0).round
    i = 0
    old_keys = redis.keys("#{NAMESPACE_PREFIX}#{FROM_NAMESPACE}*")
    old_keys.each do |old_key|
      new_key = old_key.gsub(FROM_NAMESPACE, TO_NAMESPACE)
      redis.rename(old_key, new_key)
      print "#{((i/dbsize)*100.0).round}% complete\r" if (i % inc_threshold == 0) # on whole # % only
      i += 1
    end
  end
  puts "\nDone. It took #{seconds} seconds"
end
Run Code Online (Sandbox Code Playgroud)

  • 对于这样的批处理操作,我建议使用管道。如果您每 500 次迭代左右刷新/执行一次,您很可能会毫不费力地将性能提高 40 到 50 倍。 (2认同)

Sym*_*mon 5

我有一个可行的解决方案:

EVAL "local old_prefix_len = string.len(ARGV[1])
local keys = redis.call('keys', ARGV[1] .. '*')
for i = 1, #keys do
    local old_key = keys[i]
    local new_key = ARGV[2] .. string.sub(old_key, old_prefix_len + 1)
    redis.call('rename', old_key, new_key)
end" 0 "datamine::production::" "datamine::development::"
Run Code Online (Sandbox Code Playgroud)

最后两个参数分别是旧前缀和新前缀。