• 欢迎来到小爱博客,一个分享互联网IT技术的网站,喜欢就收藏吧!

云服务器Redis Sentinel部署及客户端公网IP连接

redis 小爱 4周前 (10-03) 48次浏览 已收录 0个评论 扫描二维码

1、配置文件

Redis版本为6.0.4,准备了6个配置文件,3个Redis服务配置文件,3个哨兵配置文件,部署方式为一主二从三哨兵

(1) Redis主节点配置文件

redis-6380.conf

# 配置文件进行了精简,完整配置可自行和官方提供的完整conf文件进行对照。端口号自行对应修改
#后台启动的意思
daemonize yes
#端口号(如果同一台服务器上启动,注意要修改为不同的端口)
port 6380
# IP绑定,redis不建议对公网开放,直接绑定0.0.0.0没毛病
bind 172.17.0.13 127.0.0.1
# 日志文件
logfile "/redis/logs/redis-6380.log"
# 工作目录,用来存储持久化文件
dir "/redis/workingDir"

(2) Redis从节点配置文件

redis-6381.conf、redis-6382.conf

# 配置文件进行了精简,完整配置可自行和官方提供的完整conf文件进行对照。端口号自行对应修改
#后台启动的意思
daemonize yes
#端口号(如果同一台服务器上启动,注意要修改为不同的端口)
port 6381
# IP绑定,redis不建议对公网开放,直接绑定0.0.0.0没毛病
bind 172.17.0.13 127.0.0.1
# 日志文件
logfile "/redis/logs/redis-6381.log"
# 工作目录,用来存储持久化文件
dir "/redis/workingDir"
# 复制选项
replicaof 122.51.151.130 6380

注意:

 

  1. 如果客户端是通过公网ip连接,replicaof 122.51.151.130 6380从节点复制配置要特别注意,改成公网ip而不是私网ip,由于从节点是通过公网ip和主节点通信,因此相关端口在安全组中一定要放开。
  2. 下面哨兵配置监控的也是公网ip,复制项如果配的私网ip会导致哨兵切主时失败。这里比较奇怪,哨兵选出了晋升的从节点,但从节点角色还是role。如果复制项的主节点ip和哨兵监控的主节点ip都为公网或私网ip,则不会出现这种情况。

(3) Sentinel(哨兵)配置文件

#配置文件:Sentinel.conf,在sentinel运行期间是会被动态修改的
# sentinel如果重启时,根据这个配置来恢复其之前所监控的redis集群的状态
# 绑定IP
bind 172.17.0.13 127.0.0.1
# 后台运行
daemonize yes
# 默认yes,没指定密码或者指定IP的情况下,外网无法访问
protected-mode no
# 哨兵的端口,客户端通过这个端口来发现redis
port 26381
# 哨兵自己的IP,手动设定也可自动发现,用于与其他哨兵通信
# sentinel announce-ip
# 工作目录
dir "/redis/workingDir"
# 日志
logfile "/redis/logs/sentinel-26381.log"
# sentinel监控的master的名字叫做mymaster,初始地址为 127.0.0.1 6380,2代表两个及以上哨兵认定为死亡,才认为是真的死亡
sentinel monitor mymaster 122.51.151.130 6380 2
# 发送心跳PING来确认master是否存活
# 如果master在“一定时间范围”内不回应PONG 或者是回复了一个错误消息,那么这个sentinel会主观地(单方面地)认为这个master已经不可用了
sentinel down-after-milliseconds mymaster 1000
# 如果在该时间(ms)内未能完成failover操作,则认为该failover失败
sentinel failover-timeout mymaster 3000
# 指定了在执行故障转移时,最多可以有多少个从Redis实例在同步新的主实例,在从Redis实例较多的情况下这个数字越小,同步的时间越长,完成故障转移所需的时间就越长
sentinel parallel-syncs mymaster 1

注意:如果客户端要通过公网连接,那么sentinel monitor mymaster 122.51.151.130 6380 2这项配置中监控的master地址必须为公网ip。如果指定的是私网ip,那么哨兵暴露给客户端的master节点地址也是私网ip,导致客户端连接不上。

2、启动Redis服务和哨兵

(1) 启动3个Redis服务

redis-server redis-6380.conf
redis-server redis-6381.conf
redis-server redis-6382.conf

启动完成后,查看主从复制信息:

[universe@VM_0_13_centos sentinel]$ redis-cli -p 6380
127.0.0.1:6380> info replication
# Replication
role:master
connected_slaves:2
slave0:ip=122.51.151.130,port=6381,state=online,offset=14821,lag=1
slave1:ip=122.51.151.130,port=6382,state=online,offset=14821,lag=1
master_replid:ced7289a3295ce73e9b538b0d69a7ce1e7bfdb54
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:15241
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:15241

现在主从复制是okay的,当前6380为主节点,6381和6382为从节点

(2) 启动3个哨兵

redis-sentinel sentinel-26380.conf
redis-sentinel sentinel-26381.conf
redis-sentinel sentinel-26382.conf

查看哨兵部署信息:

[universe@VM_0_13_centos sentinel]$ redis-cli -p 26381
127.0.0.1:26381> info sentinel
# Sentinel
sentinel_masters:1
sentinel_tilt:0
sentinel_running_scripts:0
sentinel_scripts_queue_length:0
sentinel_simulate_failure_flags:0
master0:name=mymaster,status=ok,address=122.51.151.130:6380,slaves=2,sentinels=3

最后一行有当前的主节点的名称,状态,ip,端口以及从节点哨兵的数量,status为ok说明当前哨兵部署是正常的。

3、客户端连接

(1) 客户端哨兵读写分离配置

@Configuration
public class RedisSentinelConfig {

	@Bean
	public RedisConnectionFactory redisConnectionFactory() {
		LettuceClientConfiguration clientConfig = LettuceClientConfiguration.builder()
			.readFrom(ReadFrom.REPLICA_PREFERRED)
			.build();
		// 指定监控的master以及哨兵地址、端口
		RedisSentinelConfiguration sentinelConfig = new RedisSentinelConfiguration()
						.master("mymaster")
						.sentinel("122.51.151.130", 26380)
						.sentinel("122.51.151.130", 26381)
						.sentinel("122.51.151.130", 26382);
		return new LettuceConnectionFactory(sentinelConfig, clientConfig);
	}
}

(2) 故障转移测试用例

@RunWith(SpringRunner.class)
@SpringBootTest(classes = Application.class)
public class RedisSentinelTest {

	@Autowired
	private StringRedisTemplate stringRedisTemplate;

	/**
	 * 期间关掉master,哨兵会进行自动故障切换,客户端重连到新的master
	 * @throws InterruptedException
	 */
	@Test
	public void automaticFailoverTest() throws InterruptedException {
		int count = 0;
		while (true) {
			try {
				stringRedisTemplate.opsForValue().set("count", String.valueOf(++count));
			} catch (RedisSystemException e) {
				System.out.println("可能发生切主,命令被取消,重连.....");
				stringRedisTemplate.opsForValue().set("count", String.valueOf(++count));
			}

			System.out.println("修改count的值,当前值为:" + count);
			Thread.sleep(2000);
			System.out.println("获取count的值,当前值为:" + stringRedisTemplate.opsForValue().get("count"));
		}
	}
}

(3) 停掉master节点模拟宕机

把当前主节点6380干掉后,哨兵会进行切主,我们可以再次查看哨兵状态信息:

[universe@VM_0_13_centos sentinel]$ redis-cli -p 26380
127.0.0.1:26380> info sentinel
# Sentinel
sentinel_masters:1
sentinel_tilt:0
sentinel_running_scripts:0
sentinel_scripts_queue_length:0
sentinel_simulate_failure_flags:0
master0:name=mymaster,status=ok,address=122.51.151.130:6382,slaves=2,sentinels=3

节点6380挂掉后程序还是是正常运行的,程序运行结果如下:

修改count的值,当前值为:1
获取count的值,当前值为:1
修改count的值,当前值为:2
获取count的值,当前值为:2
修改count的值,当前值为:3
获取count的值,当前值为:3
修改count的值,当前值为:4
获取count的值,当前值为:4
修改count的值,当前值为:5
获取count的值,当前值为:5
修改count的值,当前值为:6
获取count的值,当前值为:6
修改count的值,当前值为:7
获取count的值,当前值为:7
修改count的值,当前值为:8
2020-09-02 16:14:07.785  INFO 13140 --- [xecutorLoop-1-2] i.l.core.protocol.ConnectionWatchdog     : Reconnecting, last destination was /122.51.151.130:6380
获取count的值,当前值为:8
2020-09-02 16:14:08.885  WARN 13140 --- [ioEventLoop-6-3] i.l.core.protocol.ConnectionWatchdog     : Cannot reconnect to [122.51.151.130:6380]: Connection refused: no further information: /122.51.151.130:6380
2020-09-02 16:14:09.084  INFO 13140 --- [xecutorLoop-1-3] i.l.core.protocol.ConnectionWatchdog     : Reconnecting, last destination was /122.51.151.130:6382
2020-09-02 16:14:09.118  INFO 13140 --- [ioEventLoop-6-1] i.l.core.protocol.ReconnectionHandler    : Reconnected to 122.51.151.130:6382
2020-09-02 16:14:09.985  INFO 13140 --- [xecutorLoop-1-4] i.l.core.protocol.ConnectionWatchdog     : Reconnecting, last destination was /122.51.151.130:6381
2020-09-02 16:14:10.016  INFO 13140 --- [ioEventLoop-6-2] i.l.core.protocol.ReconnectionHandler    : Reconnected to 122.51.151.130:6381
2020-09-02 16:14:13.684  INFO 13140 --- [xecutorLoop-1-4] i.l.core.protocol.ConnectionWatchdog     : Reconnecting, last destination was 122.51.151.130:6380
2020-09-02 16:14:14.086  WARN 13140 --- [ioEventLoop-6-4] i.l.core.protocol.ConnectionWatchdog     : Cannot reconnect to [122.51.151.130:6380]: java.util.concurrent.CancellationException
可能发生切主,命令被取消,重连.....
修改count的值,当前值为:10
获取count的值,当前值为:10
修改count的值,当前值为:11
获取count的值,当前值为:11
修改count的值,当前值为:12

小爱博客 , 版权所有
转载请注明原文链接:云服务器Redis Sentinel部署及客户端公网IP连接
喜欢 (1)
【你的支持, 我的动力】
分享 (0)
发表我的评论
取消评论
表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址