Redis持久化、主从复制、哨兵、高可用集群方案

一、Redis简介

Redis 是完全开源免费的,高性能的key-value数据库。Redis有以下三个特点:

  • 支持数据的持久化,可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。
  • 不仅仅支持简单的key-value类型的数据,同时还提供list,set,zset,hash等数据结构的存储。
  • 支持数据的备份,即master-slave模式的数据备份。

二、Redis的持久化

1、RDB:snapshot

RDB持久化是将当前进程中的数据生成快照保存到硬盘(因此也称作快照持久化),保存的文件后缀是rdb;当Redis重新启动时,可以读取快照文件恢复数据。

二进制格式;按事先定制的策略,周期性地将数据从内存同步至磁盘;数据文件默认为dump.rdb;
客户端显式使用SAVE或BGSAVE命令来手动启动快照保存机制;

  • SAVE:同步,即在主线程中保存快照,此时会阻塞所有客户端请求;
  • BGSAVE:异步,后台启动快照线程,服务不受影响

相关配置:

1
2
3
4
5
6
7
8
9
10
#save <seconds> <changes>  触发快照的策略

save 900 1 #第一级匹配,达不到就匹配第二级
save 300 10
save 60 10000

#三个策略满足其中任意一个均会触发快照操作;
900s内至少有一个key有变化,
300s内至少有10个key有变化,
60s内至少有10000个key发生变化;

2、AOF:Append Only File, fsync

记录每次写操作至指定的文件尾部实现的持久化,当redis重启时,可通过重新执行文件中的命令在内存中重建出数据库

相关配置:

  • appendonly no :默认禁用

  • appendfilename “appendonly.aof” :

  • appendfsync :将aof文件的缓冲区数据同步到磁盘,防止故障导致数据丢失,同步频繁会导致I/O负载过大,可以同步方式如下:

  • no:不执行主动同步操作,而是OS进行;

  • everysec:每秒一次;

  • always:每语句一次;

  • no-appendfsync-on-rewrite no :是否在后台执行aof重写期间不调用fsync,默认为no,表示调用;

  • auto-aof-rewrite-percentage 100 :对aof文件变化量的控制

  • auto-aof-rewrite-min-size 64mb :对aof规定大小最小达到64MB才重写

上述两个条件同时满足时,方会触发重写AOF;与上次aof文件大小相比,其增长量超过100%,且大小不少于64MB;

  • aof-load-truncated yes :装载aof文件时如果有残缺部分则自动修剪(清理掉)
  • 注意:持久机制本身不能取代备份;应该制订备份策略,对redis库定期备份;

两种存储方式最好不要同时启用,RDB与AOF同时启用特点如下

  • (1) BGSAVE和BGREWRITEAOF不会同时进行;
  • (2) Redis服务器启动时用持久化的数据文件恢复数据,会优先使用AOF;

三、Redis主从复制

Redis 支持简单且易用的主从复制(master-slave replication)功能, 该功能可以让从服务器(slave server)成为主服务器(master server)的精确复制品。

如果你为master配置了一个slave,不管这个slave是否是第一次连接上Master,它都会发送一个PSYNC命令给master请求复制数据。master收到PSYNC命令后,会在后台进行数据持久化通过bgsave生成最新的rdb快照文件,持久化期间,master会继续接收客户端的请求,它会把这些可能修改数据集的请求缓存在内存中。当持久化进行完毕以后,master会把这份rdb文件数据集发送给slave,slave会把接收到的数据进行持久化生成rdb,然后再加载到内存中。然后,master再将之前缓存在内存中的命令发送给slave。

当master与slave之间的连接由于某些原因而断开时,slave能够自动重连Master,如果master收到了多个slave并发连接请求,它只会进行一次持久化,而不是一个连接一次,然后再把这一份持久化的数据发送给多个并发连接的slave。

四、Redis Sentinel哨兵高可用架构

Redis-Sentinel是Redis官方推荐的高可用性(HA)解决方案,当用Redis做Master-slave的高可用方案时,如果master宕机,Redis自身并不能实现自动进行主备切换,sentinel可以监控复制节点的状态,当主节点宕机后,它能根据选举方式选出后端的一个从节点作为新的master,sentinel还能监控多个master-slave集群,发现master宕机后能进行自动切换。

同时,sentinel本身也存在单点问题,通常sentinel也是一个集群,因此,redis的复制集群通常是下面的结构:

sentinel哨兵是特殊的redis服务,不提供读写服务,主要用来监控redis实例节点。

哨兵架构下client端第一次从哨兵找出redis的主节点,后续就直接访问redis的主节点,不会每次都通过sentinel代理访问redis的主节点,当redis的主节点发生变化,哨兵会第一时间感知到,并且将新的redis主节点通知给client端(这里面redis的client端一般都实现了订阅功能,订阅sentinel发布的节点变动消息)。

五、Redis高可用集群

Redis 集群是一个可以在多个 Redis 节点之间进行数据共享的设施。

Redis 集群通过分区(partition)来提供一定程度的可用性(availability): 即使集群中有一部分节点失效或者无法进行通讯, 集群也可以继续处理命令请求。

Redis 集群使用数据分片(sharding)而非一致性哈希(consistency hashing)来实现: 一个 Redis 集群包含 16384 个哈希槽(hash slot), 数据库中的每个键都属于这 16384 个哈希槽的其中一个, 集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽, 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。

为了使得集群在一部分节点下线或者无法与集群的大多数(majority)节点进行通讯的情况下, 仍然可以正常运作, Redis 集群对节点使用了主从复制功能: 集群中的每个节点都有 1 个至 N 个复制品(replica), 其中一个复制品为主节点(master), 而其余的 N-1 个复制品为从节点(slave)。

参考文档: Redis命令参考


Redis持久化、主从复制、哨兵、高可用集群方案
https://river106.cn/posts/ce98018.html
作者
river106
发布于
2020年11月4日
许可协议