Redis-cluster之在线搭建详解

一、在线集群安装：

将以下shell保存至脚本文件redis-install.sh

#!/bin/bash

for ((i=83;i<132;i++)) do

        ssh root@192.168.212.$i yum -y install epel-release

        ssh root@192.168.212.$i yum -y install redis

done

执行脚本： $ ./redis-install.sh   （执行完毕将在从192.168.212.83~192.168.212.131的所有机器上都安装了redis）

启动： $ /usr/sbin/redis-server /etc/redis.conf

-------------------------------------华丽的分割线---------------------------------------------

二、在线安装：

首先安装依赖：

yum -y install tcl ruby rubygems

gem install redis

下面我们简单的使用一下，操作系统是一台ubuntu14.04系统(启动6个实例，

3 Master/3 Slave)：

1. 下载最新版redis

wget 'http://download.redis.io/releases/redis-3.0.4.tar.gz'

2.  编译安装

#安装到/opt/apps/redis-cluster目录

tar zxvf redis-3.0.4.tar.gz

cd redis-3.0.4/

make PREFIX=/opt/apps/redis-cluster install

#创建配置目录，拷贝相关文件

mkdir -p /opt/apps/redis-cluster/{bin,log,conf,rdb,run,nodes}

cp src/redis-trib.rb /opt/apps/redis-cluster/bin/

3.  安装其他依赖包

yum install ruby1.9.1

gem install redis    # 也可离线安装，后面会介绍（在只有内网的机器上非常有用）

4.  创建配置文件

看看6379的具体信息：grep -v -E '(^#|^$)' redis-6379.conf

-------------------------------------华丽的分割线---------------------------------------------

daemonize yes

pidfile /opt/apps/redis-cluster/run/redis-6379.pid

port 6379

tcp-backlog 511

timeout 0

tcp-keepalive 0

loglevel notice

logfile "/opt/apps/redis-cluster/log/redis-6379.log"

databases 16

save 900 1

save 300 10

save 60 10000

stop-writes-on-bgsave-error yes

rdbcompression yes

rdbchecksum yes

dbfilename dump-6379.rdb

dir /opt/redis-cluster/rdb

slave-serve-stale-data yes

slave-read-only yes

repl-diskless-sync no

repl-diskless-sync-delay 5

repl-disable-tcp-nodelay no

slave-priority 100

appendonly yes

appendfilename "redis-6379.aof"

appendfsync everysec

no-appendfsync-on-rewrite no

auto-aof-rewrite-percentage 100

auto-aof-rewrite-min-size 64mb

aof-load-truncated yes

lua-time-limit 5000

cluster-enabled yes

cluster-config-file nodes-6379.conf

cluster-node-timeout 15000

slowlog-log-slower-than 10000

slowlog-max-len 128

latency-monitor-threshold 0

notify-keyspace-events ""

hash-max-ziplist-entries 512

hash-max-ziplist-value 64

list-max-ziplist-entries 512

list-max-ziplist-value 64

set-max-intset-entries 512

zset-max-ziplist-entries 128

zset-max-ziplist-value 64

hll-sparse-max-bytes 3000

activerehashing yes

client-output-buffer-limit normal 0 0 0

client-output-buffer-limit slave 256mb 64mb 60

client-output-buffer-limit pubsub 32mb 8mb 60

hz 10

aof-rewrite-incremental-fsync yes

# 其实大部分都是原有的配置信息，不需要做大的改动，与端口相关的都需要调整，与集群相关的配置如下：

cluster-enabled yes

cluster-config-file nodes-6379.conf

cluster-node-timeout 15000

# 这里得注意，如果在配置文件里指定了密码，那么在创建集群的时候将会出现认证错误，解决办法下面“FAQ1”会提到。

masterauth yourpassword

requirepass yourpassword

-------------------------------------华丽的分割线---------------------------------------------

注意其中的nodes-6379.conf这个文件不需要创建，在初始化集群的时候会自动创建的。

5.  在启动redis实例前先修改一些系统级别的配置

echo never > /sys/kernel/mm/transparent_hugepage/enabled

# 打开/etc/sysctl.conf，追加如下内容

vm.overcommit_memory = 1

#使配置生效

sysctl -p

6.  启动所有redis实例

cd /opt/redis-cluster/bin

./redis-server /opt/apps/redis-cluster/conf/redis-6379.conf

./redis-server /opt/apps/redis-cluster/conf/redis-6380.conf

./redis-server /opt/apps/redis-cluster/conf/redis-6381.conf

./redis-server /opt/apps/redis-cluster/conf/redis-7379.conf

./redis-server /opt/apps/redis-cluster/conf/redis-7380.conf

./redis-server /opt/apps/redis-cluster/conf/redis-7381.conf

7.  redis-trib.rb

        redis-trib.rb是一个官方提供的用来操作cluster的ruby脚本，我们后面管理cluster会经常使用到这个脚本

Usage: redis-trib   

  create          host1:port1 ... hostN:portN

                  --replicas

  check           host:port

  fix             host:port

  reshard         host:port

                  --from

                  --to 

                  --slots 

                  --yes

  add-node        new_host:new_port existing_host:existing_port

                  --slave

                  --master-id

  del-node        host:port node_id

  set-timeout     host:port milliseconds

  call            host:port command arg arg .. arg

  import          host:port

                  --from

  help            (show this help)

For check, fix, reshard, del-node, set-timeout you can specify the host and port of any working node in the cluster.

8    初始化启动cluster（一定要记得--replicas后面有个 1）

./redis-trib.rb create --replicas1 127.0.0.1:6379 127.0.0.1:6380 127.0.0.1:6381 127.0.0.1:7379 127.0.0.1:7380 127.0.0.1:7381

      结果如下：

>>> Creating cluster

Connecting to node 172.16.1.100:6379: OK

Connecting to node 172.16.1.100:6380: OK

Connecting to node 172.16.1.100:6381: OK

Connecting to node 172.16.1.100:7379: OK

Connecting to node 172.16.1.100:7380: OK

Connecting to node 172.16.1.100:7381: OK

>>> Performing hash slots allocation on 6 nodes...

Using 3 masters:    ###注意三个6xxx的都被定义为master的了

172.16.1.100:6379

172.16.1.100:6380

172.16.1.100:6381

Adding replica 172.16.1.100:7379 to 172.16.1.100:6379   ###注意三个7xxx的都被定义为相关的slave了

Adding replica 172.16.1.100:7380 to 172.16.1.100:6380

Adding replica 172.16.1.100:7381 to 172.16.1.100:6381

M: cdb8b1fe29feb9a564fbfed6599aa61dda250eb1 172.16.1.100:6379

   slots:0-5460 (5461 slots) master    ###6379被分配了0-5460个slots

M: a188b59b30056f61c1cf55ff5072d60b6f8ce5d7 172.16.1.100:6380

   slots:5461-10922 (5462 slots) master   ###6380被分配了5461-10922个slots

M: fada90b0520d5aa3305bc89651cc7bb5de9b2a16 172.16.1.100:6381

   slots:10923-16383 (5461 slots) master     ###6381被分配了10923-16383个slots

S: 818fb192631cf8c34bc58f24d2538444abe7d995 172.16.1.100:7379    ###剩余的三个slave

   replicates cdb8b1fe29feb9a564fbfed6599aa61dda250eb1

S: 1cf6ed9f8a5049513fb631e78207c7f0b1ba6674 172.16.1.100:7380

   replicates a188b59b30056f61c1cf55ff5072d60b6f8ce5d7

S: bc09734e243b9b2e9fe2f64c55aaf72073c6918b 172.16.1.100:7381

   replicates fada90b0520d5aa3305bc89651cc7bb5de9b2a16

Can I set the above configuration? (type 'yes' to accept): yes     ###是否在nodes配置文件中保存更新配置

>>> Nodes configuration updated

>>> Assign a different config epoch to each node

>>> Sending CLUSTER MEET messages to join the cluster

Waiting for the cluster to join.....

>>> Performing Cluster Check (using node 172.16.1.100:6379)

M: cdb8b1fe29feb9a564fbfed6599aa61dda250eb1 172.16.1.100:6379

   slots:0-5460 (5461 slots) master

M: a188b59b30056f61c1cf55ff5072d60b6f8ce5d7 172.16.1.100:6380

   slots:5461-10922 (5462 slots) master

M: fada90b0520d5aa3305bc89651cc7bb5de9b2a16 172.16.1.100:6381

   slots:10923-16383 (5461 slots) master

M: 818fb192631cf8c34bc58f24d2538444abe7d995 172.16.1.100:7379

   slots: (0 slots) master

   replicates cdb8b1fe29feb9a564fbfed6599aa61dda250eb1

M: 1cf6ed9f8a5049513fb631e78207c7f0b1ba6674 172.16.1.100:7380

   slots: (0 slots) master

   replicates a188b59b30056f61c1cf55ff5072d60b6f8ce5d7

M: bc09734e243b9b2e9fe2f64c55aaf72073c6918b 172.16.1.100:7381

   slots: (0 slots) master

   replicates fada90b0520d5aa3305bc89651cc7bb5de9b2a16

[OK] All nodes agree about slots configuration.

>>> Check for open slots...

>>> Check slots coverage...

[OK] All 16384 slots covered.

    检查一下cluster的状态：redis-trib.rb check 127.0.0.1:6379

9  接入cluster，并存入一个key/value (name/guo)

redis-cli -c -h 127.0.0.1 -p 6379

    注意：redis-cli在接入集群模式时，要使用-c参数  

        可以看到我在6379接入cluster中，并存入可一个name/guodalu键值对，但是cluster却把我保存的值定位到7380去了，而我使用6381接入cluster中后，再次获取name值时，会被自动的定位到7380上。我们来看看是我是怎么被定位到7380的。

        1 先计算guodalu的CRC16值是0xA36B，转化成10进制是41835

        2 41835对16384取模是9067，9067 slot是落在6380上的，而7380是6380的slave。

    下面我们把7380停止，可以看到再次检查cluster的时候，并不会报错。

    我们在6381上接入cluster，获取name

10  恢复7380，停止6380

      可以看到这时候check cluster的时候，会提示一个节点已经故障，我们这时候再尝试获取key

        可以看到还是可以获取到的。如果把6380和7380同时停止呢？

        如果cluster中的master和slave全部故障的话，则这部分数据还是不可用的。

11    在cluster中新增一个redis master节点

        启动redis 8379实例

./redis-server /opt/redis-cluster/conf/redis-8379.conf

        然后把该实例加入cluster中：第一个参数是新加入的redis节点，第二个参数是cluster中的任何一个已有的节点

./redis-trib.rb add-node 127.0.0.1:8379 127.0.0.1:6379

    这时候检查一下cluster状态

./redis-trib.rb check 127.0.0.1:6379

        可以看到8379已经加入cluster中了，默认是以master加入cluster的，而且副本为1，但是这个新的master却没有被cluster分配slots，所以它里面是没有数据的，当有slave服务器要升级为master服务器时，它不能参与选举。这时候我们可以使用重新划分slots的特性给新加入的8379迁移其他节点上的slots，这个后面操作。

12    给8379添加一个slave节点

./redis-server /opt/redis-cluster/conf/redis-8380.conf

./redis-trib.rb add-node --slave --master-id 63ec1e7d57b3e19c6e1fa07768673001cfa0d30f 127.0.0.1:8380 127.0.0.1:6379

#或者

./redis-trib.rb add-node --slave 127.0.0.1:8380 127.0.0.1:6379

        第一个添加slvae的命令是直接指定把该节点作为哪个master的slave加入cluster，而第二个命令redis-trib 会添加该新节点作为一个具有较少副本的随机的主服务器的副本(在本环境中显然是8379的副本了)。

    再次检查cluster状态

./redis-trib.rb check 127.0.0.1:6379

        可以看到8379已经有一个slave了，但是它的slots还是0，因为我们一直没有给它迁移slots。

13  删除一个redis slave节点

我们先删除8380 slave节点，第一个参数是cluster中的任意一个节点，第二个参数要删除的slave的ID

./redis-trib.rb del-node 172.16.1.100:6379 12decfd0d975ef0dcd151d0ff232da7a2269a1c2

        这时候再次检查cluster的状态

./redis-trib.rb check 127.0.0.1:6379

        注意，红框中的8379的副本又变为0了。

14  删除一个redis master节点

        删除master节点和删除slave节点操作一样，不过为了移除一个master节点，它必须是空的。如果master不是空的，你需要先将其数据重分片到其他的master节点。另一种移除master节点的方式，就是在其从服务器上执行一次手工故障转移，当它变为了新的master的slave以后将其移除。

        因为我们还没操作slots重新分配，就先不删除8379了。

15    cluster重新分片

        经过测试发现cluster的重新分片并不是在新的cluster内再次均匀的分配slots，而是需要是手动指定把哪个节点的多少slots迁移到另一个节点去.......

./redis-trib.rb reshard 127.0.0.1:6379

看看最终结果

        在经过我一番瞎迁移后，最终成为这样了。当然你也可以使用如下命令进行严格的迁移：

./redis-trib.rb reshard : --from  --to  --slots --yes

16  删除8379 master节点

        因为8379的slots都被我迁移到其他节点去了，而删除一个master节点需要该节点的数据为空

./redis-trib.rb del-node 127.0.0.1:6379 63ec1e7d57b3e19c6e1fa07768673001cfa0d30f

以上redis-trib的这些操作，在redis-cli中也是可以进行操作的：

CLUSTER INFO 打印集群的信息  

CLUSTER NODES 列出集群当前已知的所有节点（node），以及这些节点的相关信息。  

CLUSTER RESET  reset

CLUSTER SAVECONFIG  强制节点保存集群当前状态到磁盘上。

CLUSTER SLOTS 获得slot在节点上的映射关系

CLUSTER MEET   将 ip 和 port 所指定的节点添加到集群当中，让它成为集群的一份子。  

CLUSTER FORGET  从集群中移除 node_id 指定的节点。  

CLUSTER REPLICATE  将当前节点设置为 node_id 指定的节点的从节点。    

CLUSTER SLAVES   列出该slave节点的master节点

CLUSTER ADDSLOTS  [slot ...] 将一个或多个槽（slot）指派（assign）给当前节点。  

CLUSTER DELSLOTS  [slot ...] 移除一个或多个槽对当前节点的指派。  

CLUSTER FLUSHSLOTS 移除指派给当前节点的所有槽，让当前节点变成一个没有指派任何槽的节点。  

CLUSTER SETSLOT NODE  将槽 slot 指派给 node_id 指定的节点，如果槽已经指派给另一个节点，那么先让另一个节点删除该槽>，然后再进行指派。  

CLUSTER SETSLOT MIGRATING  将本节点的槽 slot 迁移到 node_id 指定的节点中。  

CLUSTER SETSLOT IMPORTING  从 node_id 指定的节点中导入槽 slot 到本节点。  

CLUSTER SETSLOT STABLE 取消对槽 slot 的导入（import）或者迁移（migrate）。   

CLUSTER KEYSLOT  计算键 key 应该被放置在哪个槽上。  

CLUSTER COUNTKEYSINSLOT  返回槽 slot 目前包含的键值对数量。  

CLUSTER GETKEYSINSLOT   返回 count 个 slot 槽中的键

READONLY  在集群中的salve节点开启只读模式

READWRITE  禁止读取请求跳转到集群中的salve节点上。

今天先看到这里.....

FAQ1：当在redis-xx.conf中设置了密码，使用redis-trib.rb创建集群时直接报报错： 

Sorry, can't connect to node 10.111.178.58:6379     这个错误提示很不准确，很容易误导人的。

1.  首先执行搜索 find / -name client.rb 找到前面 gem install redis 安装的模块（默认路径为/usr/lib/ruby/gems/1.8/gems/redis-3.3.3/lib/redis/client.rb），

2.  然后再编辑client.rb，找到如下部分：

class Redis

  class Client

    DEFAULTS = {

      :url => lambda { ENV["REDIS_URL"] },

      :scheme => "redis",

      :host => "127.0.0.1",

      :port => 6379,

      :path => nil,

      :timeout => 5.0,

 :password => nil,

      :db => 0,

      :driver => nil,

      :id => nil,

      :tcp_keepalive => 0,

      :reconnect_attempts => 1,

      :inherit_socket => false

    }

只需将文中 :password => nill 改为 :password => "yourpassword" 即可，再执行一遍 redis-trib.rb 创建一次集群有不会报错了

参考文献1

亲测可用配置下载

Windows集群redis搭建

安装可能出错（大天朝局域网）

最后编辑于 ：
©著作权归作者所有,转载或内容合作请联系作者
  • 人面猴
    序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
    沈念sama阅读 157,012评论 4赞 359
  • 死咒
    序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
    沈念sama阅读 66,589评论 1赞 290
  • 救了他两次的神仙让他今天三更去死
    文/潘晓璐 我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
    开封第一讲书人阅读 106,819评论 0赞 237
  • 道士缉凶录：失踪的卖姜人
    文/不坏的土叔 我叫张陵，是天一观的道长。 经常有香客问我，道长，这世上最难降的妖魔是什么？ 我笑而不...
    开封第一讲书人阅读 43,652评论 0赞 202
  • 港岛之恋（遗憾婚礼）
    正文 为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
    茶点故事阅读 51,954评论 3赞 285
  • 恶毒庶女顶嫁案：这布局不是一般人想出来的
    文/花漫 我一把揭开白布。 她就那样静静地躺着，像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上，一...
    开封第一讲书人阅读 40,381评论 1赞 210
  • 城市分裂传说
    那天，我揣着相机与录音，去河边找鬼。 笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。 我是一名探鬼主播，决...
    沈念sama阅读 31,687评论 2赞 310
  • 双鸳鸯连环套：你想象不到人心有多黑
    文/苍兰香墨 我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
    开封第一讲书人阅读 30,404评论 0赞 194
  • 万荣杀人案实录
    序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
    沈念sama阅读 34,082评论 1赞 238
  • 护林员之死
    正文 独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,355评论 2赞 241
  • 白月光启示录
    正文 我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,880评论 1赞 255
  • 活死人
    序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
    沈念sama阅读 28,249评论 2赞 250
  • 日本核电站爆炸内幕
    正文 年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
    茶点故事阅读 32,864评论 3赞 232
  • 男人毒药：我在死后第九天来索命
    文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,007评论 0赞 8
  • 一桩弑父案，背后竟有这般阴谋
    文/苍兰香墨 我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,760评论 0赞 192
  • 情欲美人皮
    我被黑心中介骗来泰国打工， 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。 一个月前我还...
    沈念sama阅读 35,394评论 2赞 269
  • 代替公主和亲
    正文 我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
    茶点故事阅读 35,281评论 2赞 259