Redis:主从同步
创始人
2024-05-29 15:29:13
0

Redis:主从同步

  • 一. 概述
  • 二. 原理
    • (1) 全量同步
    • (2) 增量同步
    • (3) 优化Redis主从集群
  • 三. 总结

一. 概述

引入
Redis主从集群采用一个Master负责写,多个Slave负责读的方式(读多写少),那么如何让读取数据时多个从节点的数据都一样? ----将Master数据同步到每个Slave,即主从同步;

定义
主从同步,是指将一台Redis服务器的数据,复制到其他的Redis服务器。
数据的复制是单向的,只能由主节点到从节点。
默认情况下,每台Redis服务器都是主节点;且一个主节点可以有多个从节点(或没有从节点),但一个从节点只能有一个主节点。(redis有主从同步,从从同步)。

二. 原理

(1) 全量同步

触发时间:①第一次建立连接 ②增量同步失败

流程

  1. 当slave和master建立连接后,slave发起psync同步请求,带上replid和offset;
    master会根据slave的replid来判断slave是不是第一次同步,ID和自己不一样则是第一次,则将master的replid发给slave,slave记录replid作为自己的id;
  2. ①master执行bgsave,将内存数据写入RDB文件,并将RDB发送给slave;slave会清空本地数据,加载RDB文件到【内存】中;
    ②当master异步写RDB文件期间,会记录主进程的操作到repl_baklog缓冲区中;
    (此时RDB文件+缓冲区的命令即=master上的完整数据)
  3. master将缓冲区的新命令发送给slave,slave拿到命令后会执行命令,保证slave和master的数据一致;
    后序新的命令都写到缓冲区,再发送到slave,以次实现主从同步;
    在这里插入图片描述

Replication ID
简称replid,是数据集的标记,id一致则说明是同一数据集。每个master都有唯一一个replid,slave则会继承master节点的replid;

offset偏移量
随着master记录在【repl_baklog缓冲区】中的数据增多而逐渐增大。 slave完成同步时也会记录当前的offset;
如果slave的offset小于master的offset,说明slave落后于master,需要更新;(slave的offset<=master的offset)

所以slave做同步时,必须向master声明自己的Replication ID和offset,master就可以通过ID来判断slave是不是从当前master同步的;以及从offset判断数据同步的进度;

如何判断slave是不是第一次做数据同步?
Replication ID不一样则是slave第一次请求同步!
而后slave的Replication ID就变成了当前master的Replication ID;master根据slave的 offset ?大小来做增量同步;

(2) 增量同步

触发时间:在slave重启过程中,master会持续接收数据,则slave数据会落后,此时就是做增量同步;

流程

  1. slave重启,重启完后发送给psync请求同步并带上replid和offset,
    由于不是第一次发起请求,此时slave的replid和master一致,master不用再给slave发送id,而是回复continue;
  2. master不再RDB,因为slave已经拷贝过了,slave宕机期间丢失的部分记录在repl_baklog缓冲区,而slave的offest就是之前读取到的位置,所以将缓存中slave的offset往后的命令发往slave;
  3. slave执行master传过来的命令,就可以补上错过的命令,此时数据保持了一致;
    在这里插入图片描述

repl_baklog缓冲区
本质是一个成环的数组,当数组满了(slave落后master的数据超过了缓冲区容量),则会用master新命令覆盖旧的命令;
只要slave和master的数据差距在一个环内,就可以将slave落后于master的部分找到并发给slave;
当slave和master差距超过了一个环,则无法做增量同步了;
在这里插入图片描述

什么时候增量同步失败?
缓冲区是一个数组,大小有限,当slave断开时间太长,和master的差距超过了缓冲区,导致尚未备份的数据被新命令覆盖,则此时无法基于缓冲区做增量同步,只能做全量同步了;

(3) 优化Redis主从集群

提高全量同步的性能:

  1. 在master中配置无磁盘复制,避免全量同步时的磁盘IO;不使用RDB文件,即内存数据的IO流直接写到网络中,而不是先写到RDB磁盘文件,减少了一次拷贝到磁盘的过程,提高性能;(网络比较快时)
  2. 控制Redis单节点内存上限,这样就能控制RDB文件的大小,从而减少磁盘IO;

减少全量同步:

  1. 提高repl_baklog缓冲区的大小,这样slave落后于master的数据就多一点,一定程度避免由于由于增量同步失效导致的全量同步;

其他:

  1. 主从链式结构,限制一个master上的slave节点数量,减轻master的压力;
    在这里插入图片描述

三. 总结

1.全量同步与增量同步的区别?
全量同步master需要将内存数据写入 RDB 文件,再将RDB文件传给slave,后序命令记录在缓冲区;
增量同步时master不需要写RDB文件,只需要将缓冲区中slave的offset之后的命令传给slave;

2.什么时候执行全量同步?
①slave第一次连接master时;
②slave宕机时间太长,导致salve的offset在缓冲区被新的命令覆盖;

3.什么时候执行增量同步?
slave重启时;

相关内容

热门资讯

“男鞋第一股”奥康三年累亏逾6... 在2024年6月“摘帽”之后,“男鞋第一股”奥康国际(603001.SH)业绩方面仍未有明显起色。4...
10.74亿人次、366.2万... 转自:千龙网记者4月17日从国铁集团获悉,一季度,受春运带动,旅客出行需求旺盛、人员流动加速,全国铁...
“智驾平权”时代加速来临 提升... 今年2月,比亚迪率先提出“全民智驾”的概念,将车圈的战场转移到了智驾领域。随后,吉利、奇瑞、长安纷纷...
英文paty和party是一个... 英文paty和party是一个意思吗不是一个意思,Paty 是个特殊名字吧,好像是地名,和party...
电磁波是物质吗? 电磁波是物质吗?电磁波是客观存在的,但是没有静质量,那么什么是动质量呢?首先要明白什么是物质,广义的...
吴邪和汪藏海什么关系? 吴邪和汪藏海什么关系?貌似没有什么直接关系,蛇眉铜鱼是一个线索,指引他们前进,而这个线索是汪藏海留下...
广东英联包装股份有限公司财报解... 2025年4月,广东英联包装股份有限公司公布了2024年年度报告。报告显示,公司在营业收入增长的情况...
Yzi Labs 曾是 Ini... 吴说获悉,Initia 联合创始人 Zon 发文表示,2023 年初,Binance Labs(现为...
鹰眼预警:平安电工应收账款增速... Hehson财经上市公司研究院|财报鹰眼预警4月18日,平安电工发布2024年年度报告,审计意见为标...
晶科能源上涨5.39%,报16... 4月18日,晶科能源(JKS)盘中上涨5.39%,截至02:05,报16.63美元/股,成交639....
市场监管总局部署 优化消费环境... 记者4月17日获悉,市场监管总局近日部署开展优化消费环境试点工作。此次试点工作以贯彻落实《提振消费专...
电影《猎魂人》上线 三大看点引... 4月17日,改编自蒲松龄《聊斋志异》的电影《猎魂人》在爱奇艺、腾讯视频、西影视频同步上线。影片由任英...
亚太电线电缆上涨3.35%,报... 4月18日,亚太电线电缆(APWC)盘中上涨3.35%,截至01:42,报1.612美元/股,成交2...
鹰眼预警:华尔泰营业收入下降 Hehson财经上市公司研究院|财报鹰眼预警4月18日,华尔泰发布2024年年度报告,审计意见为标准...
新修订《广西防汛抗旱应急预案》... 近日,广西壮族自治区政府办公厅正式印发新修订的《广西防汛抗旱应急预案》(以下简称《预案》) 。此次修...
鹰眼预警:常铝股份应收账款/营... Hehson财经上市公司研究院|财报鹰眼预警4月18日,常铝股份发布2024年年度报告,审计意见为标...
锚定产业升级 国企重组整合纵深... 国家电投集团旗下远达环保公布超277亿元资产重组草案;国机集团旗下两家上市公司宣告重要的资产架构调整...
鹰眼预警:濮耐股份销售毛利率持... Hehson财经上市公司研究院|财报鹰眼预警4月18日,濮耐股份发布2024年年度报告,审计意见为标...
今年全国省级公务用车预算持续下... 转自:中国政府采购报今年全国省级公务用车预算持续下降■ 本报记者 付娟日前,全国31个省份公开了20...
佳云科技2024年年报解读:营... 2025年4月,广东佳兆业佳云科技(维权)股份有限公司(以下简称“佳云科技”)发布2024年年度报告...