赞
踩
目录
在web服务器中,高可用是指服务器可以正常访问的时间,衡量的标准是在多长时间内可以提供正常服务(99.9%、99.99%、99.999%等等)。
但是在Redis语境中,高可用的含义似乎要宽泛一些,除了保证提供正常服务( 如主从分离、快速容灾技术),还需要考虑数据容量的扩展、数据安全不会丢失等。
在Redis中,实现高可用的技术主要包括持久化、主从复制、哨兵和cluster集群,下面分别说明它们的作用,以及解决了什么样的问题
缺陷:故障恢复无法自动化;写操作无法负载均衡;存储能力受到单机的限制
- 哨兵: 在主从复制的基础上,哨兵实现了自动化的故障恢复。(主挂了,找一个从成为新的主,哨兵节点进行监控)
缺陷:写操作无法负载均衡;存储能力受到单机的限制
- Cluster集群: 通过集群,Redis解决了写操作无法负载均衡,以及存储能力受到单机限制的问题,实现了较为完善的高可用方案。(6台起步,成双成对,3主3从)
持久化的功能: Redis是内存数据库,数据都是存储在内存中,为了避免服务器断电等原因导致Redis进程异常退出后数据的永久丢失,需要定期将Redis中的数据以某种形式(数据或命令)从内存保存到硬盘;当下次Redis重启时,利用持久化文件实现数据恢复。除此之外,为了进行灾难备份,可以将持久化文件拷贝到一个远程位置。
灾难备份:一般做异地备份,发生灾难后切换节点。
由于AOF持久化的实时性更好,即当进程意外退出时丢失的数据更少,因此AOF是目前主流的持久化方式,不过RDB持 久化仍然有其用武之地。(RDB体积小,恢复速度更快。对性能影响较小。)
RDB持久化是指在指定的时间间隔内将内存中当前进程中的数据生成快照保存到硬盘(因此也称作快照持久化),用二进制压缩存储,保存的文件后缀是rdb;当Redis重新启动时,可以读取快照文件恢复数据。
save命令和bgsave命令都可以生成RDB文件。
save命令会阻塞Redis服务器进程,直到RDB文件创建完毕为止,在Redis服务器阻塞期间,服务器不能处理任何命令请求。
而bgsave命令会创建一个子进程,由子进程来负责创建RDB文件,父进程(即Redis主进程)则继续处理请求。
bgsave命令执行过程中,只有fork子进程时会阻塞服务器,而对于save命令,整个过程都会阻塞服务器,因此save已基本被废弃,线上环境要杜绝save的使用。
在自动触发RDB持久化时,Redis 也会选择bgsave而不是save来进行持久化
自动触发最常见的情况是在配置文件中通过 save m n 指定当m秒内发生n次变化时,会触发bgsave
- vim /etc/redis/6379.conf #编辑配置文件
-
- ----219行--以下三个save条件满足任意一一个时,都会引起bgsave的调用
- save 900 1 #当时间到900秒时,如果redis数据发生了至少1次变化,则执行bgsave
- save 300 10 #当时间到300秒时,如果redis数据发生了至少10次变化,则执行bgsave
- save 60 10000 #当时间到60秒时,如果redis数据发生了至少10000次变化, 则执行bgsave
-
- ----242行--是否开启RDB文件压缩
- rdbcompression yes
-
- ----254行--指定RDB文件名
- dbfilename dump.rdb
-
- ----264行--指定RDB文件和AOF文件所在目录
- dir /var/lib/redis/6379
除了savemn以外,还有一些其他情况会触发bgsave:
(1)Redis父进程首先判断:当前是否在执行save,或 bgsave/ bgrewriteaof 的子进程,如果在执行则bgsave命令直接返回。
(2)父进程执行fork操作创建子进程,这个过程中父进程是阻塞的,Redis不能执行来自客户端的任何命令。
(3)父进程fork后,bgsave 命令返回"Background saving started" 信息并不再阻塞父进程,并可以响应其他命令。
(4)子进程创建RDB文件,根据父进程内存快照生成临时快照文件,完成后对原有文件进行原子替换。(原子替换:文件整体替换,要么都发生,要么都不发生)
(5)子进程发送信号给父进程表示完成,父进程更新统计信息。
Redis服务器默认开启RDB,关闭AOF;要开启AOF,需要在配置文件中配置
- vim /usr/local/redis/conf/redis.conf
- --1380行--修改,开启AOF
- appendonly yes
- --1407行--指定AOF文件名称
- appendfilename "appendonly.aof"
- --1505行--是否忽略最后一条可能存在问题的指令
- aof-load-truncated yes
-
- systemctl restart redis-server.service
Redis提供了多种AOF缓存区的同步文件策略,策略涉及到操作系统的write函数和fsync函数,说明
如下:
AOF缓存区的同步文件策略存在三种同步方式,它们分别是
- vim /etc/redis/6379.conf
- ----729行----
- 729 # appendfsync always
- 730 appendfsync everysec
- 731 # appendfsync no
-
- ------------------------以下是注释----------------------------------------------------
- ● appendfsync always:
- #命令写入aof_buf后立即调用系统fsync操作同步到AOF文件,fsync完成后线程返回。
- 这种情况下,每次有写命令都要同步到AOF文件,硬盘IO成为性能瓶颈,Redis只能支持大约几百TPS写入,严重降低了Redis的性能;
- 即便是使用固态硬盘(SSD) ,每秒大约也只能处理几万个命令,而且会大大降低SSD的寿命。
- (安全性高,性能低。)
-
- ● appendfsync no:
- #命令写入aof_buf后调用系统write操作,不对AOF文件做fsync同步;
- 同步由操作系统负责,通常同步周期为30秒。
- 这种情况下,文件同步的时间不可控,且缓冲区中堆积的数据会很多,数据安全性无法保证。
- (当缓冲区被填满或超过了指定时限后,才将缓冲区的数据写入到硬盘里。性能高,但安全性低。)
-
- ● appendfsync everysec:
- #命令写入aof_buf后调用系统write操作,write完成后线程返回; fsync同步文件操作由专门的线程每秒调用一次。
- everysec是前述两种策略的折中,是性能和数据安全性的平衡,因此是Redis的默认配置,也是我们推荐的配置。
- (同时保证了数据安全和性能的需求)

注意:
重写会消耗性能,影响业务,不能在业务高峰期进行重写。所以一般会关闭自动重写,由定时任务在每天的某一时刻定时执行重写功能。
rewrite之后aof文件会保存keys的最后状态,清除掉之前冗余的,来缩小这个文件
通过上述内容可以看出,由于重写后AOF执行的命令减少了,文件重写既可以减少文件占用的空间,也可以加快恢复速度
只有当auto-aof-rewrite-min-size和auto-aof-rewrite-percentage两个选项同时满足时,才会自动触发AOF重写,即bgrewriteaof操作
注意:
重写由父进程fork子进程进行
重写期间Redis执行的写命令,需要追加到新的AOF文件中,为此Redis引入了aof_rewrite_buf缓存
- vim /etc/redis/6379.conf
- ----771行----
- 771 auto-aof-rewrite-percentage 100
- 772 auto-aof-rewrite-min-size 64mb
-
- -----------------------以下是注释--------------------------------
- ● auto-aof-rewrite-percentage 100
- #文件的大小超过基准百分之多少后触发bgrewriteaof。默认这个值设置为100,意味着当前aof是基准大小的两倍的时候触发bgrewriteaof。把它设置为0可以禁用自动触发的功能。
- #即当前AOF文件大小(即aof_current_size)是上次日志重写时AOF文件大小(aof_base_size)两倍时,发生BGREWRITEAOF操作。
- #注意:例如上次文件达到100M进行重写,那么这次需要达到200M时才进行重写。文件需要越来越大,所以一般不使用自动重写。如果使用自动重写,需要定期手动重写干预一次,让文件要求恢复到100M。
-
- ● auto-aof-rewrite-min-size 64mb #当文件大于64M时才会进行重写
- #当前aof文件大于多少字节后才触发。
- #当前AOF文件执行BGREWRITEAOF命令的最小值,避免刚开始启动Reids时由于文件尺寸较小导致频繁的BGREWRITEAOF
(1)Redis父进程首先判断当前是否存在正在执行bgsave/bgrewriteaof的子进程,如果存在则bgrewriteaof命令直接返回,如果存在bgsave命令则等bgsave执行完成后再执行。(正常情况下使用AOF就会使用AOF进行记录,不会使用RDB。主从复制时会自动触发bgsave命令)
(2)父进程执行fork操作创建子进程,这个过程中父进程是阻塞的(无法接受任何客户端的请求)
(3.1)父进程fork后,bgrewriteaof 命令返回"Background append only file rewrite started" 信息并不再阻塞父进程,并可以响应其他命令。Redis的所有写命令依然写入AOF缓冲区,并根据appendfsync策略同步到硬盘,保证原有AOF机制的正确。
(3.2)由于fork操作使用写时复制技术,子进程只能共享fork操作时的内存数据。由于父进程依然在响应命令,因此Redis使用AOF重写缓冲区(aof_rewrite_ buf)保存这部分数据,防止新AOF文件生成期间丢失这部分数据。也就是说,bgrewriteaof执行期间,Redis的写命令同时追加到aof_ buf和aof_rewirte_ buf两个缓冲区。 (保证新写入的数据不丢失)
(4)子进程根据内存快照,按照命令合并规则写入到新的AOF文件
(5.1)子进程写完新的AOF文件后,向父进程发信号,父进程更新统计信息,具体可以通过info persistence查看
(5.2)父进程把AOF重写缓冲区的数据写入到新的AOF文件,这样就保证了新AOF文件所保存的数据库状态和服务器当前状态一致
(5.3)使用新的AOF文件替换老文件,完成A
OF重写。(替换是原子性的)
1.RDB优点
RDB文件紧凑,体积小,网络传输快,适合全量复制;恢复速度比AOF快很多。当然,与AOF相
比,RDB最重要的优点之一是对性能的影响相对较小
2.RDB缺点
实时性不如AOF,兼容性较差,持久化期间在fork子进程时会阻塞redis父进程
3.AOF优点
与RDB持久化相对应,AOF的优点在于支持秒级持久化、兼容性好,缺点是文件大、恢复速度慢、对性能影响大
4.AOF缺点
持久化保存的文件占用空间更大,恢复速度更慢,性能影响更大,AOF文件重写期间在fork子进程
时也会阻塞redis父进程,且IO压力更大
5.RDB和AOF区别
工作方式:RDB是定时将内存中的数据快照,压缩保存到硬盘中;而AOF则是以命令追加的形
式,将命令写到缓冲区,然后再根据文件同步策略将文件写入和同步到磁盘中
实用性:RDB的实时性不如AOF
磁盘占用:RDB的磁盘占用较少,AOF的文件体积大
IO性能影响:RDB对磁盘IO性能影响更小
兼容性:RDB的保存格式在每个版本中不一定兼容,但是AOF是以纯文本格式保存,在所有版本上兼容
回复速度:RDB比AOF更易恢复
- (1) redis-cli
- 127.0.0.1:6379> info memory
-
- (2) redis-cli info memory
- mem_fragmentation_ratio:内存碎片率
- mem_fragmentation_ratio = used_memory_rss / used_memory
- used_memory_rss: 是Redis向操作系统申请的内存
- used_memory: 是Redis中的数据占用的内存
- used_memory_peak: 是redis内存使用的峰值
内存碎片率 = 已分配的内存 / 实际使用的内存
如果你的Redis版本是4.0以下的,需要在redis-cli工具上输入shutdown save命令,让Redis数据库
执行保存操作并关闭Redis服务,再重启服务器。Redis服务器重启后,Redis会将没用的内存归还
给操作系统,碎片率会降下来
Redis4.0版本开始,可以在不重启的情况下,线上整理内存碎片
- config set activedefrag yes #自动碎片清理,内存就会自动清理了
-
- memory purge #手动碎片清理
redis实例的内存使用率超过可用最大内存,操作系统将开始进行内存与swap空间交换
避免内存交换发生的方法
内存数据淘汰策略,保证合理分配redis有限的内存资源
当达到设置的最大阀值时,需选择一种key的回收策略,默认情况下回收策略是禁止删除。
配置文件中修改maxmemory-policy属性值
- vim /usr/local/redis/conf/redis.conf
- --1149--
- maxmemory-policy noenviction
- volatile-lru
- volatile-ttl
- volatile-random
- allkeys-lru
- allkeys-random
- noenviction
-
-
-
- #####################
- volatile-lru: 使用LRU算法从已设置过期时间的数据集合中淘汰数据(移除最近最少使用的key,针对设置了TTL的key)
- volatile-ttl: 从已设置过期时间的数据集合中挑选即将过期的数据淘汰(移除最近过期的key)
- volatile-random: 从已设置过期时间的数据集合中随机挑选数据淘汰(在设置了TTL的key里随机移除)
- allkeys-lru: 使用LRU算法从所有数据集合中淘汰数据(移除最少使用的key,针对所有的key)
- allkeys-random: 从数据集合中任意选择数据淘汰(随机移除key)
- noenviction: 禁止淘汰数据(不删除直到写满时报错)

- ●maxmemory
- 建议必须设置,否则,将内存占满,造成服务器宕机。
- 设置redis可以使用的内存量。一旦到达内存使用上限,redis将会试图移除内部数据,移除规则可以通过maxmemory-policy来指定。
- 如果redis无法根据移除规则来移除内存中的数据,或者设置了“不允许移除”,那么redis则会针对那些需要申请内存的指令返回错误信息,比如SET、LPUSH等。
- 但是对于无内存申请的指令,仍然会正常响应,比如GET等。如果你的redis是主redis(说明redis集群有主从),那么在设置内存使用上限时,需要在系统中留出一些内存空间给同步队列缓存,只有在你设置的是“不移除”的情况下,才不用考虑这个因素。
- ●maxmemory-samples
- 设置样本数量,LRU算法和最小TTL算法都并非是精确的算法,而是估算值,所以你可以设置样本的大小,redis默认会检查这么多个key并选择其中LRU的那个。
- 一般设置3到7的数字,数值越小样本越不准确,但性能消耗越小。
- ●maxclients
- 设置redis同时可以与多少个客户端进行连接。
- 默认情况下为10000个客户端。
- 如果达到了此限制,redis则会拒绝新的连接请求,并且向这些连接请求方发出“max number of clients reached”以作回应。
redis的三大缓存问题
正常情况下,大部分的访问请求应该是先被redis响应的,在redis那里得不到响应的小部分访问请
求才会去请求MySQL数据库获取数据,这样MySQL数据库的负载压力是非常小的,且可以正常工
作。缓存雪崩/穿透/击穿三大问题的根本原因在于redis缓存命中率下降,大量请求会直接发送给
MySQL数据库,导致MySQL数据库压力过大而崩溃
定义
redis中大量缓存key集体过期
过程
- Redis 集群产生了大面积故障;
- 缓存失败,此时仍有大量请求去访问 Redis 缓存服务器;
- 在大量 Redis 请求失败后,这些请求将会去访问数据库;
- 由于应用的设计依赖于数据库和 Redis 服务,很快就会造成服务器集群的雪崩,最终导致整个系统的瘫痪
解决方案
- 使用随机数设置key的过期时间,防止集体过期
- 设置缓存标记,如果缓存过期,则自动更新缓存
- 数据库使用排他锁,实现加锁等待
定义
大量请求访问redis和MySQL都不存在的资源
解决方案
- 对空值也进行缓存
- 使用布隆过滤器进行判断拦截一定不存在的无效请求
- 使用脚本实时监控,进行黑名单限制
定义
redis中一个热点key过期,此时又有大量用户访问这个热点key(redis-cli --hotkeys 可用于查找热Key)
解决方案
- 预先对热点数据进行缓存预热
- 监控数据,实时调整过期时长
- 数据库使用排他锁,实现加锁等待
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。