Redis教程:数据持久化

  • Post author:
  • Post category:其他



目录


1 RDB持久化


1.1 RDB文件的创建和载入


1.2 自动间隔性保存


1.3 RDB文件结构


2 AOF持久化


2.1 AOF持久化的实现


2.2 AOF文件的载入与数据还原


2.3 AOF重写机制


2.4 混合持久化



1 RDB持久化

Redis提供了RDB持久化功能,可以将Redis内存中的数据库状态保存到磁盘中,避免数据意外丢失。

1.1 RDB文件的创建和载入

有两个Redis命令可以用于生成RDB文件,

一个是SAVE,另一个是BGSAVE

  • SAVE命令会阻塞Redis服务器,直到RDB文件创建完毕为止,在服务器进程阻塞期间,服务器不能处理任何命令请求。
  • BGSAVE命令会派生出一个子进程,然后由子进程负责创建RDB文件,服务器进程(父进程)继续处理命令请求。

另外值得一提的是,因为AOF文件的更新频率通常比RDB文件的更新频率高,所以:

  • 如果服务器开启了AOF持久化功能,那么服务器就会优先使用AOF文件来还原数据库状态
  • 只有在AOF持久化功能处于关闭状态时,服务器才会使用RDB文件来还原数据库状态


RDB文件载入时的服务器状态:

服务器在载入RDB文件期间,会一直处于阻塞状态,直到载入工作完成为止。

1.2 自动间隔性保存

BGSAVE命令可以在不阻塞服务器的情况下执行,所以Redis允许用户

通过设置服务器配置的save选项,让服务器每隔一段时间自动执行一次BGSAVE命令

。用户可以通过save选项设置多个保存条件,但只要其中一个条件被满足,服务器就会执行BGSAVE命令。举个栗子,如果我们向服务器提供以下配置:

save    900     1        //900秒内对数据库进行了至少一次的修改 
save    300     10       //300秒内对数据库进行了至少十次的修改
save    60      10000    //60秒内对数据库进行了至少一万次的修改

服务器会根据save选项所设置的保存条件,设置服务器状态redisServer结构体的saveparams属性:

redis.h

struct redisServer {
    ……
    //记录了保存条件的数组
    struct saveparam *saveparams;  
    ……
};

struct saveparam {
    //秒数
    time_t seconds;
    //修改数
    int changes;
};

服务器状态中的saveparams数组将会是图1-1所示:

图1-1   服务器状态中的保存条件


dirty计数器和lastsave属性

除了saveparams数组之外,服务器状态还维持着一个dirty计数器,以及一个lastsave属性:

  • dirty计数器记录距离上一次成功执行SAVE命令或者BGSAVE命令之后,服务器对数据库状态(服务器中的所有数据库)进行了多少次修改(包括写入、删除、更新等操作)
  • lastsave属性是一个Unix时间戳,记录了服务器上一次成功执行SAVE命令或BGSAVE命令的时间

redis.h

struct redisServer {
    ……
    //修改计数器
    long long dirty;              
    ……
    //上一次执行保存的时间
    time_t lastsave;              
    ……
};


检查保存条件是否满足

Redis的服务器周期性操作函数

serverCron

默认每隔100毫秒就会执行一次,该函数用于对正在运行的服务进行维护,它的其中一项工作就是检查save选项所设置的保存条件是否满足,如果满足,就执行BGSAVE命令.

以下伪代码展示了serverCron函数检查保存条件的过程:

def serverCron():   
    # …   
    # 遍历所有保存条件   
    for saveparam in server.saveparams:      
         # 计算距离上次执行保存操作有多少秒      
         save_interval = unixtime_now()-server.lastsave   
     
        # 如果数据库状态的修改次数超过条件所设置的次数      
        # 并且距离上次保存的时间超过条件所设置的时间       
        # 那么执行保存操作      
         if      server.dirty >= saveparam.changes and \
                   save_interval > saveparam.seconds:      
      
                BGSAVE();
     # ...

1.3 RDB文件结构

图1-2   RDB文件结构


Redis部分

的长度为5字节,保存着”REDIS”五个字符。

db_version

长度为4字节,它的值是一个字符串表示的整数,这个整数记录了RDB文件的版本号,比如”0006″就代表RDB文件的版本为第六版。

databases部分包含着零个至任意多个数据库以及各个数据库中的键值对数据:

  • 如果服务器的数据库状态为空(所有数据库都是空的),那么这个部分也为空,长度为0字节
  • 如果服务器的数据库状态为非空(有至少一个数据库非空),那么这个部分也为非空,根据数据库所保存键值对的数量、类型和内容的不同,这个部分的长度也会有所不同


EOF

常量的长度为1字节,这个常量标志着RDB文件正文内容结束。

check_num

是一个8字节长的无符号整数,保存着一个校验和,这个校验和是程序通过对REDIS、db_version、databases、EOF四部分的内容进行计算得出的。

2 AOF持久化

除了RDB持久化功能之外,Redis还提供了AOF(Append Only File)持久化功能,与RDB持久化通过保存数据库中的键值对来记录数据库状态不同,AOF持久化是通过保存Redis服务器所执行的命令来记录数据库状态。

2.1

AOF持久化的实现

AOF持久化功能的实现可以分为命令追加(append)、文件写入、文件同步(sync)三个步骤:


命令追加

当AOF持久化功能处于打开状态时,服务器在执行完一个写命令后,会以协议格式将被执行的写命令追加到服务器状态的aof_buf缓冲区的末尾。

redis.h

struct redisServer {
    ……
    //AOF缓冲区
    sds aof_buf;     
    ……
};

服务器在执行这个SET命令之后,会将

协议内容

追加到aof_buf缓冲区的末尾:


AOF文件的写入与同步

Redis的服务器进程就是一个事件循环,这个循环中的文件事件负责接收客户端的命令请求,以及向客户端发送命令回复,而时间事件则负责执行像serverCron函数这样需要定时运行的函数。因为服务器在处理文件事件时可能会执行写命令,使得一些内容被追加到aof_buf缓冲区里面,所以在服务器每次结束一个事件循环之前,它都会

调用flushAppendOnlyFile函数,考虑是否需要将aof_buf缓冲区中的内容写入和保存到AOF文件里面

flushAppendOnlyFile函数的行为由服务器配置的appendsync选项的值来决定,各个不同值产生的行为如表2-1所示:

表2-1   flushAppendOnlyFile函数的行为
appendfsync选项的值 flushAppendOnlyFile函数的行为
always 将aof_buf缓冲区中的所有内容写入并同步到AOF文件
everysec 将aof_buf缓冲区中的所有内容写入到AOF文件,如果上次同步AOF文件的时间距离现在超过一秒钟,那么再次对AOF文件进行同步,并且这个同步操作是由一个线程专门负责执行的
no 将aof_buf缓冲区中的所有内容写入到AOF文件,但并不对AOF文件进行同步,何时同步由操作系统来决定

如果用户没有主动为appendsync选项设置值,那么appendsync选项的默认值为everysec。

2.2

AOF文件的载入与数据还原

因为AOF文件里面包含了重建数据库状态所需的所有写命令,所以服务器只要读入并重新执行一遍AOF文件里面保存的写命令,就可以还原服务器关闭之前的数据库状态。Redis读取AOF文件并还原数据库状态的详细步骤如下:

  1. 创建一个不带网络连接的伪客户端(fake client):因为Redis的命令只能在客户端上下文执行,而载入AOF文件时所使用的命令直接来源于AOF文件而不是网络连接,所以服务器使用了一个没有网络连接的伪客户端来执行AOF文件保存的写命令,伪客户端执行命令的效果和网络连接的客户端执行命令的效果一样
  2. 从AOF文件中分析并读取出一条写命令
  3. 使用伪客户端执行被读取的写命令
  4. 一直执行步骤2和3,直到AOF文件中的所有写命令都被处理完毕为止

2.3 AOF重写机制

为了解决AOF文件体积膨胀的问题,Redis提供了AOF文件重写功能。通过该功能,Redis服务器恶意创建一个新的AOF文件来替代现有的AOF文件,

新旧两个AOF文件所保存的数据库状态相同,但新AOF文件不会包含任何浪费空间的冗余命令

,所以新AOF文件的体积通常会比旧AOF文件的体积要小的多。


Redis将AOF重写程序放到子进程里执行

,这样做可以同时达到两个目的:

  • 子进程进行AOF重写期间,服务器进程(父进程)可以继续处理命令请求
  • 子进程带有服务器进程的数据副本,使用子进程而不是线程,可以在避免使用锁的情况下,保证数据的安全性

不过,使用子进程也有一个问题需要解决,因为子进程在进行AOF重写期间,服务器进程还需要处理命令请求,而新的命令可能会对现有的数据库状态进行修改,从而使得服务器当前的数据库状态和重写后的AOF文件所保存的数据库状态不一致。

为了解决这种数据不一致问题,Redis服务器设置了一个AOF重写缓冲区,这个缓冲区在服务器创建子进程之后开始使用,当Redis服务器执行完一个写命令之后,它会同时将这个写命令发送给AOF缓冲区和AOF重写缓冲区,如图2-1所示:

图2-1   服务器同时将命令发送给AOF文件和AOF重写缓冲区

也就是说,在子进程执行AOF重写期间,服务器进程需要执行以下三个工作:

  1. 执行客户端发来的命令
  2. 将执行后的写命令追加到AOF缓冲区
  3. 将执行后的写命令追加到AOF重写缓冲区

这样一来可以保证:

  • AOF缓冲区的内容会定期被写入和同步到AOF文件,对现有AOF文件的处理工作会如常进行
  • 从创建子进程开始,服务器执行的所有写命令都会被记录到AOF重写缓冲区里面

当子进程完成AOF重写工作之后,它会向父进程发送一个信号,父进程在接到该信号之后,就会调用一个信号处理函数,并执行以下工作:

  1. 将AOF重写缓冲区中所有内容写入到新AOF文件中,这时新AOF文件所保存的数据库状态将和服务器当前的数据库状态一致
  2. 对新AOF文件进行改名,原子地覆盖现有的AOF文件,完成新旧两个AOF文件的替换

2.4 混合持久化


混合持久化指进行AOF


重写时子进程将当前时间点的数据快照保 存为RDB


文件格式,而后将父进程累积命令保存为


AOF


格式。

加载时,首先会识别AOF


文件是否以


REDIS


字符串开头,如果 是,就按RDB


格式加载,加载完


RDB


后继续按


AOF


格式加载剩余部分。

是否开启混合持久化由如下配置设置:
aof-use-rdb-preamble yes



版权声明:本文为tuwenqi2013原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。