ThinkChat🤖让你学习和工作更高效,注册即送10W Token,即刻开启你的AI之旅 广告
[TOC] ## **什么是压缩列表** 压缩列表(ziplist)是**列表键**和**哈希键**的底层实现之一。当一个列表键只包含少量列表项,并且每个列表项要么就是小整数值,要么就是长度比较短的字符串,那么Redis就会使用**压缩列表来做列表键的底层**实现。 示例: ``` redis> RPUSH lst 1 3 5 10086 "hello" "world" (integer)6 redis> OBJECT ENCODING lst "ziplist" ``` 列表键里面包含的都是1、3、5、10086这样的小整数值,以及"hello"、"world"这样的短字符串 当一个哈希键只包含少量键值对,比且每个键值对的键和值要么就是**小整数值**,要么就是**长度比较短的字符串**,那么Redis就会使用压缩列表来做哈希键的底层实现 ``` redis> HMSET profile "name" "Jack" "age" 28 "job" "Programmer" OK redis> OBJECT ENCODING profile "ziplist" ``` **哈希键里面包含的所有键和值都是小整数值或者短字符串** ` ` ## **压缩列表的原理** ### **压缩列表的构成** 压缩列表是Redis为了节约内存而开发的,是由一系列特殊编码的连续内存块组成的顺序型(sequential)数据结构。一个压缩列表可以包含任意多个节点(entry),每个节点可以保存一个字节数组或者一个整数值。 ` ` 记录了各个组成部分的类型、长度以及用途 ![GZVdYQ.png](https://s1.ax1x.com/2020/03/29/GZVdYQ.png) ` ` 压缩列表示例: ![GZncv9.png](https://s1.ax1x.com/2020/03/29/GZncv9.png) * 列表zlbytes属性的值为0xd2(十进制210),表示压缩列表的总长为210字节。 * 列表zltail属性的值为0xb3(十进制179),这表示如果我们有一个指向压缩列表起始地址的指针p,那么只要用指针p加上偏移量179,就可以计算出表尾节点entry5的地址。 * 列表zllen属性的值为0x5(十进制5),表示压缩列表包含五个节点。 ### **压缩列表节点的构成** 每个**压缩列表节点**可以保存**一个字节数组**或者**一个整数值** 字节数组可以是以下三种长度的其中一种: * 长度小于等于63(26–1)字节的字节数组; * 长度小于等于16383(214–1)字节的字节数组; * 长度小于等于4294967295(232–1)字节的字节数组; ` ` 整数值则可以是以下六种长度的其中一种: * 4位长,介于0至12之间的无符号整数; * 1字节长的有符号整数; * 3字节长的有符号整数; * int16\_t类型整数; * int32\_t类型整数; * int64\_t类型整数。 ` ` 每个压缩列表节点都由**previous\_entry\_length、encoding、content**三个部分组成: ![GZuze1.png](https://s1.ax1x.com/2020/03/29/GZuze1.png) ` ` ### **previous\_entry\_length** 节点的previous\_entry\_length属性以字节为单位,记录了压缩列表中前一个节点的长度. ` ` **previous\_entry\_length属性的长度**可以是**1字节**或者**5字节**: * 如果**前一节点的长度小于254字节**,那么previous\_entry\_length属性的长度为1字节:前一节点的长度就保存在这一个字节里面。 ` ` 示例:包含一字节长previous\_entry\_length属性的压缩列表节点,属性的值为0x05,表示前一节点的长度为5字节 ![GZMYge.png](https://s1.ax1x.com/2020/03/29/GZMYge.png) ` ` * 如果**前一节点的长度大于等于254字节**,那么previous\_entry\_length属性的长度为5字节:其中属性的第一字节会被设置为0xFE(十进制值254),而之后的四个字节则用于保存前一节点的长度。 ` ` 示例:包含五字节长previous\_entry\_length属性的压缩节点,属性的值为0xFE00002766,其中值的最高位字节0xFE表示这是一个五字节长的previous\_entry\_length属性,而之后的四字节0x00002766(十进制值10086)才是前一节点的实际长度。 ![GZM2uj.png](https://s1.ax1x.com/2020/03/29/GZM2uj.png) ` ` **计算前一个指针的起始地址** 节点的previous\_entry\_length属性记录了前一个节点的长度,程序可以通过指针运算,根据当前节点的起始地址来计算出前一个节点的起始地址。 ` ` 示例: 如果我们有一个指向当前节点起始地址的指针c,那么我们只要用指针c减去当前节点previous\_entry\_length属性的值,就可以得出一个指向前一个节点起始地址的指针p: ![GZlMY6.png](https://s1.ax1x.com/2020/03/29/GZlMY6.png) >**压缩列表的从表尾向表头遍历操作**就是使用这一原理实现的,只要我们拥有了一个指向某个节点起始地址的指针,那么通过这个指针以及这个节点的previous\_entry\_length属性,程序就可以一直向前一个节点回溯,最终到达压缩列表的表头节点。 ![GZlWt0.png](https://s1.ax1x.com/2020/03/29/GZlWt0.png) ` ` ### **encoding** 节点的encoding属性记录了节点的content属性所保存数据的类型以及长度: * 一字节、两字节或者五字节长,值的最高位为00、01或者10的是字节数组编码:这种编码表示节点的content属性保存着字节数组,数组的长度由编码除去最高两位之后的其他位记录; * 一字节长,值的最高位以11开头的是整数编码:这种编码表示节点的content属性保存着整数值,整数值的类型和长度由编码除去最高两位之后的其他位记录; ` ` 所有可用的字节数组编码+所有可用的整数编码: ![GZ19nH.png](https://s1.ax1x.com/2020/03/29/GZ19nH.png) >表格中的下划线“\_”表示留空,而b、x等变量则代表实际的二进制数据,为了方便阅读,多个字节之间用空格隔开。 ` ` ### **content** 节点的content属性负责**保存节点的值**,节点值可以是**一个字节数组或者整数**,值的类型和长度由节点的encoding属性决定。 示例1: ![GZ1MHs.png](https://s1.ax1x.com/2020/03/29/GZ1MHs.png) * 编码的最高两位00表示节点保存的是一个字节数组; * 编码的后六位001011记录了字节数组的长度11; * content属性保存着节点的值"hello world" ` ` 示例2: ![GZ1oPP.png](https://s1.ax1x.com/2020/03/29/GZ1oPP.png) * 编码11000000表示节点保存的是一个int16\_t类型的整数值; * content属性保存着节点的值10086。 ` ` ### **连锁更新** 每个节点的previous\_entry\_length属性都记录了前一个节点的长度: * 如果前一节点的长度小于254字节,那么previous\_entry\_length属性需要用1字节长的空间来保存这个长度值。 * 如果前一节点的长度大于等于254字节,那么previous\_entry\_length属性需要用5字节长的空间来保存这个长度值。 ` ` #### **插入节点造成的连锁更新** 考虑这样一种情况:在一个压缩列表中,有多个连续的、长度介于250字节到253字节之间的节点e1至eN ![GZ8mwj.png](https://s1.ax1x.com/2020/03/29/GZ8mwj.png) 因为e1至eN的所有节点的长度都小于254字节,所以记录这些节点的长度只需要1字节长的previous\_entry\_length属性,换句话说,**e1至eN的所有节点的previous\_entry\_length属性都是1字节长**的。 这时,如果我们将一个长度大于等于254字节的新节点new设置为压缩列表的表头节点,那么new将成为e1的前置节点: ![GZ8wfx.png](https://s1.ax1x.com/2020/03/29/GZ8wfx.png) ` ` * 因为**e1的previous\_entry\_length属性仅长1字节**,它没办法保存新节点new的长度,所以程序将对压缩列表执行空间重分配操作,并**将e1节点的previous\_entry\_length属性从原来的1字节长扩展为5字节长**。 * 现在,麻烦的事情来了,**e1原本的长度介于250字节至253字节之间,在为previous\_entry\_length属性新增四个字节的空间**之后,**e1的长度就变成了介于254字节至257字节之间**,而这种长度**使用1字节长的previous\_entry\_length属性是没办法保存的**。 * 因此,为了让e2的previous\_entry\_length属性可以记录下e1的长度,程序需要再次对压缩列表**执行空间重分配操作**,并**将e2节点的previous\_entry\_length属性从原来的1字节长扩展为5字节长**。 * 正如扩展e1引发了对e2的扩展一样,扩展e2也会引发对e3的扩展,而扩展e3又会引发对e4的扩展……为了让每个节点的previous\_entry\_length属性都符合压缩列表对节点的要求,程序需要不断地对压缩列表执行空间重分配操作,直到eN为止。 >Redis将这种在特殊情况下产生的连续多次空间扩展操作称之为“连锁更新” 除了添加新节点可能会引发连锁更新之外,删除节点也可能会引发连锁更新。 ` ` ![GZGdbQ.png](https://s1.ax1x.com/2020/03/29/GZGdbQ.png) ` ` #### **删除节点造成的连锁更新** 如果e1至eN都是大小介于250字节至253字节的节点,big节点的长度大于等于254字节(需要5字节的previous\_entry\_length来保存),而small节点的长度小于254字节(只需要1字节的previous\_entry\_length来保存),那么当我们将small节点从压缩列表中删除之后,为了让e1的previous\_entry\_length属性可以记录big节点的长度,程序将扩展e1的空间,并由此引发之后的连锁更新。 ` ` #### **连锁更新时间复杂度** 因为连锁更新在最坏情况下需要对压缩列表执行N次空间重分配操作,而每次空间重分配的最坏**复杂度为O(N)**,所以连锁更新的**最坏复杂度为O(N2)**。 尽管连锁更新的复杂度较高,但它真正**造成性能问题的几率是很低**的: * 压缩列表里要恰好有多个连续的、长度介于250字节至253字节之间的节点,连锁更新才有可能被引发,在实际中,这种情况并不多见; * 即使出现连锁更新,但只要被更新的节点数量不多,就不会对性能造成任何影响:比如说,对三五个节点进行连锁更新是绝对不会影响性能的; >ziplistPush等命令的**平均复杂度仅为O(N)** ` ` ## **压缩列表重点** * 压缩列表是一种为节约内存而开发的顺序型数据结构。 * 压缩列表被用作列表键和哈希键的底层实现之一。 * 压缩列表可以包含多个节点,每个节点可以保存一个字节数组或者整数值。 * 添加新节点到压缩列表,或者从压缩列表中删除节点,可能会引发连锁更新操作,但这种操作出现的几率并不高。