06-Redis 集群搭建

image-20200815230439632

官网教程：https://www.redis.net.cn/tutorial/3515.html

1. Redis 集群搭建

1.1 redis-cluster架构图

1.2 redis-cluster投票:容错

1.3 架构细节

(1) 所有的 redis 节点彼此互联(PING-PONG 机制)， 内部使用二进制协议优化传输速度和带宽
(2) 节点的 fail 是通过集群中超过半数的节点检测失效时才生效
(3) 客户端与 redis 节点直连， 不需要中间 proxy 层，客户端不需要连接集群所有节点， 连接集群中任何一个可用节点即可
(4) redis-cluster 把所有的物理节点映射到 [0-16383]slot 上， cluster 负责维护 node <-> slot <-> value。

Redis 集群中内置了 16384 个哈希槽，当需要在 Redis 集群中放置一个 key-value 时，redis 先对 key 使用 crc16 算法算出一个结果，然后把结果对 16384 求余数，这样每个 key 都会对应一个编号在 0-16383 之间的哈希槽，redis 会根据节点数量大致均等的将哈希槽映射到不同的节点。

1.4 Redis集群的搭建-1

Redis集群中至少应该有三个节点，要保证集群的高可用，需要每个节点有一个备份机。
Redis集群至少需要 6 台服务器。

搭建伪分布式：可以使用一台虚拟机运行6个 redis-server 进程，然后修改 redis 的端口号 7001-7006 (自定义端口， 只要不和其他程序重复)

  • 搭建准备
  1. 使用 ruby 脚本搭建集群。需要ruby的运行环境。

[root@localhost ~]# yum install ruby
[root@localhost ~]# yum install rubygems

  1. 上传并安装ruby脚本运行使用的包。

[root@localhost ~]# gem install redis-3.0.0.gem
Successfully installed redis-3.0.0
1 gem installed
Installing ri documentation for redis-3.0.0…
Installing RDoc documentation for redis-3.0.0…
[root@localhost ~]# cd redis-3.0.7/src
[root@localhost src]# ll *.rb
-rwxrwxr-x. 1 root root 48141 Apr 1 2015 redis-trib.rb

  • 搭建步骤

需要6台redis服务器，搭建伪分布式，需要6个redis实例，需要运行在不同的端口7001-7006。

  1. 创建6个 redis 实例
    每个实例运行在不同的端口。需要修改 redis.conf 配置文件。配置文件中还需要把 cluster-enabled yes 前的注释去掉。

  2. 启动每个 redis 实例

  3. 使用 ruby 脚本搭建集群
    [root@localhost src]# ./redis-trib.rb create --replicas 1 10.0.135.131:7001 10.0.135.131:7002 10.0.135.131:7003 10.0.135.131:7004 10.0.135.131:7005 10.0.135.131:7006

  4. 创建关闭集群的脚本
    注意下面创建集群使用的 ip 地址不能使用 127.0.0.1 ， 要使用当前机器的ip。
    比如 如果是公网机器就使用公网ip，内网机器就使用内网ip， 如果你使用127.0.0.1 会出现使用java代码连接集群的时候，即便你在代码中填写的是外网或者是 内网ip，但是创建了集群对象后，它内部使用的 ip 都是127.0.0.1，导致连接集群失败，因为java代码所在的电脑上面没有 redis。
    [root@localhost redis-cluster]# vim shutdow-all.sh

    1
    2
    3
    4
    5
    6
    redis01/redis-cli -p 7001 shutdown
    redis01/redis-cli -p 7002 shutdown
    redis01/redis-cli -p 7003 shutdown
    redis01/redis-cli -p 7004 shutdown
    redis01/redis-cli -p 7005 shutdown
    redis01/redis-cli -p 7006 shutdown

    [root@localhost redis-cluster]# chmod u+x shutdow-all.sh
    [root@localhost redis-cluster]# ./redis-trib.rb create --replicas 1 10.0.135.131:7001 10.0.135.131:7002 10.0.135.131:7003 10.0.135.131:7004 10.0.135.131:7005 10.0.135.131:7006

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    36
    37
    38
    39
    40
    41
    42
    43
    44
    45
    46
    47
    48
    49
    50
    51
    52
    >>> Creating cluster
    Connecting to node 10.0.135.131:7001: OK
    Connecting to node 10.0.135.131:7002: OK
    Connecting to node 10.0.135.131:7003: OK
    Connecting to node 10.0.135.131:7004: OK
    Connecting to node 10.0.135.131:7005: OK
    Connecting to node 10.0.135.131:7006: OK
    >>> Performing hash slots allocation on 6 nodes...
    Using 3 masters:
    10.0.135.131:7001
    10.0.135.131:7002
    10.0.135.131:7003
    Adding replica 10.0.135.131:7004 to 10.0.135.131:7001
    Adding replica 10.0.135.131:7005 to 10.0.135.131:7002
    Adding replica 10.0.135.131:7006 to 10.0.135.131:7003
    M: 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3 10.0.135.131:7001
       slots:0-5460 (5461 slots) master
    M: 8cd93a9a943b4ef851af6a03edd699a6061ace01 10.0.135.131:7002
       slots:5461-10922 (5462 slots) master
    M: 2935007902d83f20b1253d7f43dae32aab9744e6 10.0.135.131:7003
       slots:10923-16383 (5461 slots) master
    S: 74f9d9706f848471583929fc8bbde3c8e99e211b 10.0.135.131:7004
       replicates 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3
    S: 42cc9e25ebb19dda92591364c1df4b3a518b795b 10.0.135.131:7005
       replicates 8cd93a9a943b4ef851af6a03edd699a6061ace01
    S: 8b1b11d509d29659c2831e7a9f6469c060dfcd39 10.0.135.131:7006
       replicates 2935007902d83f20b1253d7f43dae32aab9744e6
    Can I set the above configuration? (type 'yes' to accept): yes
    >>> Nodes configuration updated
    >>> Assign a different config epoch to each node
    >>> Sending CLUSTER MEET messages to join the cluster
    Waiting for the cluster to join.....
    >>> Performing Cluster Check (using node 10.0.135.131:7001)
    M: 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3 10.0.135.131:7001
       slots:0-5460 (5461 slots) master
    M: 8cd93a9a943b4ef851af6a03edd699a6061ace01 10.0.135.131:7002
       slots:5461-10922 (5462 slots) master
    M: 2935007902d83f20b1253d7f43dae32aab9744e6 10.0.135.131:7003
       slots:10923-16383 (5461 slots) master
    M: 74f9d9706f848471583929fc8bbde3c8e99e211b 10.0.135.131:7004
       slots: (0 slots) master
       replicates 2e48ae301e9c32b04a7d4d92e15e98e78de8c1f3
    M: 42cc9e25ebb19dda92591364c1df4b3a518b795b 10.0.135.131:7005
       slots: (0 slots) master
       replicates 8cd93a9a943b4ef851af6a03edd699a6061ace01
    M: 8b1b11d509d29659c2831e7a9f6469c060dfcd39 10.0.135.131:7006
       slots: (0 slots) master
       replicates 2935007902d83f20b1253d7f43dae32aab9744e6
    [OK] All nodes agree about slots configuration.
    >>> Check for open slots...
    >>> Check slots coverage...
    [OK] All 16384 slots covered.

  5. 集群的使用方法
    Redis-cli 连接集群。
    [root@localhost redis-cluster]# redis01/redis-cli -p 7002 -c
    -c：代表连接的是redis集群

1.4 Redis集群的搭建-2

需要6台redis服务器。搭建伪分布式。

需要6个redis实例。

需要运行在不同的端口7001-7006

  1. 新建一个连接
    切换到/usr/local：[root@redis ~]# cd /usr/local
    创建一个目录：[root@redis local]# mkdir redis-cluster
    拷贝redis的bin目录：[root@redis local]# cp redis/bin redis-cluster/redis01 -r
    进入到redis01目录下删除持久化文件：[root@redis redis01]# rm -f dump.rdb
    需要修改redis.conf配置文件：[root@redis redis01]# vim redis.conf

修改端口号：

img

打开注释：

img

切换到redis-cluster目录下，再复制5个redis实例：

[root@redis redis-cluster]# cp -r redis01/ redis02

[root@redis redis-cluster]# cp -r redis01/ redis03

[root@redis redis-cluster]# cp -r redis01/ redis04

[root@redis redis-cluster]# cp -r redis01/ redis05

[root@redis redis-cluster]# cp -r redis01/ redis06

修改每个redis实例的端口号：

[root@redis redis-cluster]# vim redis02/redis.conf 修改端口号：port —>>7002

[root@redis redis-cluster]# vim redis03/redis.conf 修改端口号：port —>>7003

[root@redis redis-cluster]# vim redis04/redis.conf 修改端口号：port —>>7004

[root@redis redis-cluster]# vim redis05/redis.conf 修改端口号：port —>>7005

[root@redis redis-cluster]# vim redis06/redis.conf 修改端口号：port —>>7006

  1. 启动每个redis实例
    创建批处理文件：[root@redis redis-cluster]# vim start-all.sh

设置内容：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
cd redis01
./redis-server redis.conf
cd ..
cd redis02
./redis-server redis.conf
cd ..
cd redis03
./redis-server redis.conf
cd ..
cd redis04
./redis-server redis.conf
cd ..
cd redis05
./redis-server redis.conf
cd ..
cd redis06
./redis-server redis.conf
cd ..

img

对start-all.sh文件授权：[root@redis redis-cluster]# chmod u+x start-all.sh

img

启动：[root@redis redis-cluster]# ./start-all.sh

查看：[root@redis redis-cluster]# ps aux|grep redis

img

切换目录：[root@redis redis-cluster]# cd ~/redis-3.0.0/src

拷贝文件：[root@redis src]# cp redis-trib.rb /usr/local/redis-cluster/

img

切换回redis-cluster目录：[root@redis src]# cd /usr/local/redis-cluster/

img

使用ruby脚本搭建集群。需要ruby的运行环境，安装ruby

[root@redis redis-cluster]# yum install ruby

[root@redis redis-cluster]# yum install rubygems

安装ruby的第三方库，找到集群配置文件 redis-3.0.0.gem 文件

上传到虚拟机root目录下，切换目录然后安装：

[root@redis redis-cluster]# cd ~

[root@redis ~]# gem install redis-3.0.0

img

  1. 使用ruby脚本搭建集群

切换回redis-cluster目录：[root@redis src]# cd /usr/local/redis-cluster/

执行以下命令：（注意：IP修改成当前虚拟机的IP地址）

[root@redis src]# ./redis-trib.rb create --replicas 1 192.168.25.130:7001 192.168.25.130:7002 192.168.25.130:7003 192.168.25.130:7004 192.168.25.130:7005 192.168.25.130:7006

img

输入：yes

img

集群搭建完毕。

（如果是六台虚拟机（或是六台电脑）上搭建，需要先关闭防火墙，搭建集群的命令只需要在任意有一台电脑上执行一遍即可）

测试：（任意指定一个端口号进行测试）

[root@redis redis-cluster]# redis01/redis-cli -p 7004 -c

img

发现存储数据时会不断跳到不同的槽点，实现均匀分布存储。

创建关闭集群的脚本：

[root@localhost redis-cluster]# vim shutdow-all.sh

1
2
3
4
5
6
redis01/redis-cli -p 7001 shutdown
redis01/redis-cli -p 7002 shutdown
redis01/redis-cli -p 7003 shutdown
redis01/redis-cli -p 7004 shutdown
redis01/redis-cli -p 7005 shutdown
redis01/redis-cli -p 7006 shutdown

[root@localhost redis-cluster]# chmod u+x shutdow-all.sh

2. Jedis

2.1 连接单机版

第一步：创建一个 Jedis 对象。需要指定服务端的ip及端口

第二步：使用 Jedis 对象操作数据库，每个 redis 命令对应一个方法

第三步：打印结果

第四步：关闭 Jedis

1
2
3
4
5
6
7
8
9
10
11
@Test
public void testJedis() throws Exception {
	// 第一步：创建一个Jedis对象。需要指定服务端的ip及端口。
	Jedis jedis = new Jedis("10.0.135.131"， 6379);
	// 第二步：使用Jedis对象操作数据库，每个redis命令对应一个方法。
	String result = jedis.get("hello");
	// 第三步：打印结果。
	System.out.println(result);
	// 第四步：关闭Jedis
	jedis.close();
}

2.2 连接池连接单机版

第一步：创建一个 JedisPool 对象。需要指定服务端的 ip 及端口。

第二步：从 JedisPool 中获得 Jedis 对象。

第三步：使用 Jedis 操作 redis 服务器。

第四步：操作完毕后关闭 jedis 对象，连接池回收资源。

第五步：关闭 JedisPool 对象。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
@Test
public void testJedisPool() throws Exception {
	// 第一步：创建一个JedisPool对象。需要指定服务端的ip及端口。
	JedisPool jedisPool = new JedisPool("10.0.135.131"， 6379);
	// 第二步：从JedisPool中获得Jedis对象。
	Jedis jedis = jedisPool.getResource();
	// 第三步：使用Jedis操作redis服务器。
	jedis.set("jedis"， "test");
	String result = jedis.get("jedis");
	System.out.println(result);
	// 第四步：操作完毕后关闭jedis对象，连接池回收资源。
	jedis.close();
	// 第五步：关闭JedisPool对象。
	jedisPool.close();
}

2.3 连接集群版

第一步：使用 JedisCluster 对象，需要一个 Set<HostAndPort> 参数，即 Redis 节点的列表。

第二步：直接使用 JedisCluster 对象操作 redis，在系统中单例存在。

第三步：打印结果

第四步：系统关闭前，关闭 JedisCluster 对象。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
@Test
public void testJedisCluster() throws Exception {
	// 第一步：使用JedisCluster对象。需要一个Set<HostAndPort>参数。Redis节点的列表。
	Set<HostAndPort> nodes = new HashSet<>();
	nodes.add(new HostAndPort("10.0.135.131"， 7001));
	nodes.add(new HostAndPort("10.0.135.131"， 7002));
	nodes.add(new HostAndPort("10.0.135.131"， 7003));
	nodes.add(new HostAndPort("10.0.135.131"， 7004));
	nodes.add(new HostAndPort("10.0.135.131"， 7005));
	nodes.add(new HostAndPort("10.0.135.131"， 7006));
	JedisCluster jedisCluster = new JedisCluster(nodes);
	// 第二步：直接使用JedisCluster对象操作redis。在系统中单例存在。
	jedisCluster.set("hello"， "100");
	String result = jedisCluster.get("hello");
	// 第三步：打印结果
	System.out.println(result);
	// 第四步：系统关闭前，关闭JedisCluster对象。
	jedisCluster.close();
}

3. 封装和整合spring

常用的操作 redis 的方法提取出一个接口，分别对应单机版和集群版创建两个实现类。

3.1 接口定义

1
2
3
4
5
6
7
8
9
10
11
public interface JedisClient {
	String set(String key， String value);
	String get(String key);
	Boolean exists(String key);
	Long expire(String key， int seconds);
	Long ttl(String key);
	Long incr(String key);
	Long hset(String key， String field， String value);
	String hget(String key， String field);
	Long hdel(String key， String... field);
}

3.2 单机版实现类

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
public class JedisClientPool implements JedisClient {
	@Autowired
	private JedisPool jedisPool;

	@Override
	public String set(String key， String value) {
		Jedis jedis = jedisPool.getResource();
		String result = jedis.set(key， value);
		jedis.close();
		return result;
	}

	@Override
	public String get(String key) {
		Jedis jedis = jedisPool.getResource();
		String result = jedis.get(key);
		jedis.close();
		return result;
	}

	@Override
	public Boolean exists(String key) {
		Jedis jedis = jedisPool.getResource();
		Boolean result = jedis.exists(key);
		jedis.close();
		return result;
	}

	@Override
	public Long expire(String key， int seconds) {
		Jedis jedis = jedisPool.getResource();
		Long result = jedis.expire(key， seconds);
		jedis.close();
		return result;
	}

	@Override
	public Long ttl(String key) {
		Jedis jedis = jedisPool.getResource();
		Long result = jedis.ttl(key);
		jedis.close();
		return result;
	}

	@Override
	public Long incr(String key) {
		Jedis jedis = jedisPool.getResource();
		Long result = jedis.incr(key);
		jedis.close();
		return result;
	}

	@Override
	public Long hset(String key， String field， String value) {
		Jedis jedis = jedisPool.getResource();
		Long result = jedis.hset(key， field， value);
		jedis.close();
		return result;
	}

	@Override
	public String hget(String key， String field) {
		Jedis jedis = jedisPool.getResource();
		String result = jedis.hget(key， field);
		jedis.close();
		return result;
	}

	@Override
	public Long hdel(String key， String... field) {
		Jedis jedis = jedisPool.getResource();
		Long result = jedis.hdel(key， field);
		jedis.close();
		return result;
	}
}

3.3 单机版 Spring 配置

applicationContext-redis.xml

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
	xmlns:context="http://www.springframework.org/schema/context" xmlns:p="http://www.springframework.org/schema/p"
	xmlns:aop="http://www.springframework.org/schema/aop" xmlns:tx="http://www.springframework.org/schema/tx"
	xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
	xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-4.3.xsd
	http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-4.3.xsd
	http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop-4.3.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-4.3.xsd
	http://www.springframework.org/schema/util http://www.springframework.org/schema/util/spring-util-4.3.xsd">

	<!-- 配置单机版的连接 -->
	<bean id="jedisPool" class="redis.clients.jedis.JedisPool">
		<constructor-arg name="host" value="10.0.135.131"></constructor-arg>
		<constructor-arg name="port" value="6379"></constructor-arg>
	</bean>
	<bean id="jedisClientPool" class="com.qianfeng.jedis.JedisClientPool"/>
	
</beans>

3.4 集群版实现类

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
public class JedisClientCluster implements JedisClient {
	@Autowired
	private JedisCluster jedisCluster;

	@Override
	public String set(String key， String value) {
		return jedisCluster.set(key， value);
	}

	@Override
	public String get(String key) {
		return jedisCluster.get(key);
	}

	@Override
	public Boolean exists(String key) {
		return jedisCluster.exists(key);
	}

	@Override
	public Long expire(String key， int seconds) {
		return jedisCluster.expire(key， seconds);
	}

	@Override
	public Long ttl(String key) {
		return jedisCluster.ttl(key);
	}

	@Override
	public Long incr(String key) {
		return jedisCluster.incr(key);
	}

	@Override
	public Long hset(String key， String field， String value) {
		return jedisCluster.hset(key， field， value);
	}

	@Override
	public String hget(String key， String field) {
		return jedisCluster.hget(key， field);
	}

	@Override
	public Long hdel(String key， String... field) {
		return jedisCluster.hdel(key， field);
	}

}

3.5 集群版 Spring 配置

applicationContext-redis.xml

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
<!-- 集群版的配置 -->
	<bean id="jedisCluster" class="redis.clients.jedis.JedisCluster">
		<constructor-arg>
			<set>
				<bean class="redis.clients.jedis.HostAndPort">
					<constructor-arg name="host" value="10.0.135.131"></constructor-arg>
					<constructor-arg name="port" value="7001"></constructor-arg>
				</bean>
				<bean class="redis.clients.jedis.HostAndPort">
					<constructor-arg name="host" value="10.0.135.131"></constructor-arg>
					<constructor-arg name="port" value="7002"></constructor-arg>
				</bean>
				<bean class="redis.clients.jedis.HostAndPort">
					<constructor-arg name="host" value="10.0.135.131"></constructor-arg>
					<constructor-arg name="port" value="7003"></constructor-arg>
				</bean>
				<bean class="redis.clients.jedis.HostAndPort">
					<constructor-arg name="host" value="10.0.135.131"></constructor-arg>
					<constructor-arg name="port" value="7004"></constructor-arg>
				</bean>
				<bean class="redis.clients.jedis.HostAndPort">
					<constructor-arg name="host" value="10.0.135.131"></constructor-arg>
					<constructor-arg name="port" value="7005"></constructor-arg>
				</bean>
				<bean class="redis.clients.jedis.HostAndPort">
					<constructor-arg name="host" value="10.0.135.131"></constructor-arg>
					<constructor-arg name="port" value="7006"></constructor-arg>
				</bean>
			</set>
		</constructor-arg>
	</bean>
	<bean id="jedisClientCluster" class="cn.e3mall.jedis.JedisClientCluster"/>

注意：

单机版 和 集群版不能共存，只能各自使用。

05_数据库 > 03_Redis
#配置 #Redis #集群
06-Redis 集群搭建
https://janycode.github.io/2017/06/20/05_数据库/04_Redis/06-Redis 集群搭建/
作者
Jerry(姜源)
发布于
2017年6月20日
许可协议