Redis底层探秘（三）：字典

Redis底层探秘（三）：字典

       字典，又称为符号表（symbol table）、关联数组（associative array）或映射（map），是一种用于保存键值对的抽象数据结构。

       字典经常作为一种数据结构内置在很多高级编程语言里面，但redis所使用的C语言并没有内置这种数据结构，因此Redis构建了自己的字典实现。

       字典在redis中的应用相当广泛，比如redis的数据库就是使用字典来作为底层实现的，对数据库的增、删、查、改操作也是构建在对字典的操作之上的。

       除了用来实现数据库之外，字典还是哈希键的底层实现之一，当一个哈希键包含的键值对比较多，又或者键值对中的元素都是比较长的字符串时，Redis就会使用字典作为哈希键的底层实现。

字典的实现

       Redis的字典使用哈希表作为底层实现，一个哈希表里面可以有多个哈希表节点，而每个哈希表节点就保存了一个字典中的一个键值对。

       接下来我们分别介绍redis 的哈希表、哈希表节以及字典的实现。

　　哈希表

dict.h/ dictht结构定义如下

typedef struct dictht {
    dictEntry **table;//哈希表数组
    unsigned long size;//哈希表大小
    unsigned long sizemask;//哈希表大小掩码，用于计算索引值，总是等于size-1
    unsigned long used;//该哈希表已有节点的数量
} dictht;      

       table属性是一个数组，数组中的每个元素都是一个指向dict.h/ dictEntry结构的指针，每个dictEntry结果保存着一个键值对。size属性记录了哈希表的大小，也即是table数组的大小，而used属性则记录了哈希表目前已有节点（键值对）的数量。sizemask属性的值总是等于size-1，这个属性和哈希值一起决定了一个键应该被放到table数组的哪个索引上面。下图是一个空哈希表。

　　哈希表节点

哈希表节点用dictEntry结构表示，每个dictEntry结构都保存着一个键值对

typedef struct dictEntry {
    //键
void *key;
    //值
    union {
        void *val;
        uint64_t u64;
        int64_t s64;
        double d;
} v;
//指向下个哈希表节点，形成链表
    struct dictEntry *next;
} dictEntry;      

       key属性保存着键值对中的键，而v属性保存着键值对中的值，其中键值对的值可以是一个指针，或者是一个uint64整数或者是一个int64_t整数。

       next属性是指向另一个哈希表节点的指针，这个指针可以将多个哈希值相同的键值对连接在一起，以此来解决键冲突（collision）的问题。

       下图展示了将两个索引值相同的键k1和k0连接在一起。

　　字典

Redis中的字典有dict.h/dict结构表示

typedef struct dict {
    //类型特定函数
dictType *type;
    //私有数据
void *privdata;
//哈希表
dictht ht[2];
//rehash索引，当rehash不在进行时，值为-1
    long rehashidx; /* rehashing not in progress if rehashidx == -1 */
    int iterators; /* number of iterators currently running */
} dict;      

       type属性和privdata属性是针对不同类型的键值对，为创建多态字典而设置的

type：一个指向ditcType结构的指针，每个ditcType结构保存了一簇用于操作特定类型键值对的函数，redis回味用途不同的字典设置不同的类型特定函数。

privdata：保存了需要传给那些类型特定函数的的可选参数。

typedef struct dictType {
    unsigned int (*hashFunction)(const void *key);//计算哈希值的函数
    void *(*keyDup)(void *privdata, const void *key);//复制键的函数
    void *(*valDup)(void *privdata, const void *obj);//复制值的函数
    int (*keyCompare)(void *privdata, const void *key1, const void *key2);//对比键的韩式
    void (*keyDestructor)(void *privdata, void *key);//销毁键的函数
    void (*valDestructor)(void *privdata, void *obj);//销毁值的函数
} dictType;      

       ht属性是一个包含两个项的数组，数组中的每个项都是一个dictht哈希表，一般情况下，字典只使用ht[0]哈希表，ht[1]哈希表只会在对ht[0]哈希表记性rehash时使用。

       除了ht[1]之外，另一个和rehash有关的属性就是rehashidx，它记录了rehash目前的进度，如果目前没有在进行rehash，那么它的值-1。

下图是一个普通状态下的字典

哈希算法

       当要讲一个新的键值对添加到字典里面时，程序需要先根据键值对的键计算出哈希值和索引值，然后再根据索引值，将包含新键值对的哈希表节点放到哈希表数组的指定索引上面。

       redis计算哈希值和索引值的方法如下：

#使用字典设置的哈希函数，计算key的哈希值

hash=dict->type->hashFunction(key);

#使用哈希表的sizemask属性和哈希值，计算出索引值

#根据情况不同，ht[x]可以是ht[0]或者ht[1]

index=hash&dict->ht[x].sizemask;

       对于上图所示的空字典来说，如果我们要将一个键值对k0和v0添加到字典里面，那么程序会先使用语句：

hash=dict->type->hashFunction(k0);

计算键k0的哈希值。

假设计算得出的哈希值为8，那么程序会继续使用语句：

index=hash&dict->ht[0].sizemask=8&3=0;

　　计算出键k0的索引值0，这表示包含键值对k0和v0的节点应该被防止到哈希表数组的索引0位置上。如下图所示。

       当字典被用作数据库的底层实现，或者哈希键的底层实现时，redis使用Murmurhash2算法来计算键的哈希值。Murmurhash2算法最初由austin applebyu于2008年发明，优点在于，即使输入的键是有规律的，算法仍能给出以空格很好的随机分布性，并且算法的计算速度也非常快。

　　解决键冲突

       当有两个或以上数量的键被分配到了哈希表数组的同一个索引上面时，我们称这些键发生了冲突。

       redis的哈希表使用连地址发（）来解决键冲突，每个哈希表节点都有一个next指针，多个哈希表节点可以用next指针构成一个单向链表，被分配到同一个索引上的多个节点可以用这个单向链表连接起来，这就解决了键冲突的问题。

       因为dictEntey节点组成的链表没有指向链表表尾的指针，所以为了速度考虑从，程序总是将新节点添加到链表的表头位置（复杂度为0（1）），排在其他已有节点的前面。下图为k2加入到哈希表中出现冲突，加入到链表头之后的情况。

　　rehash

       随着操作的不断执行，哈希表保存的键值对会逐渐地增多或者减少，为了让哈希表的负载因子（load factor）维持在一个合理的范围之内，当哈希表保存的键值对数量太多或者太少时，程序需要对哈希表的大小进行相应的扩展或者收缩。

       扩展和收缩哈希表的工作可以通过执行rehash（重新散列）操作来完成，redis对字典的哈希表执行rehash的步骤如下：

1、为字典的ht[1]哈希表分配空间，这个哈希表的空间大小取决于要执行的操作，以及ht[0]当前包含的键值对数量（也即是h[0].userd属性的值）；

       如果执行的是扩展操作，那么ht[1]的大小为第一个大于等于h[0].userd*2的2^n(2的n次幂)。

       如果执行的是收缩操作，那么ht[1]的大小为第一个大于等于h[0].userd的2^n(2的n次幂)。

2、将保存在ht[0]中的所有键值对rehash到ht[1]上面；rehash指的是重新计算键的哈希值和索引值，然后将键值对防止到ht[1]哈希表指定位置上。

3、当ht[0]包含的所有键值对都迁移到ht[1]之后（ht[0]变为空表），释放ht[0]，将ht[1]设置为ht[0]，并在ht[1]新建一个空白哈希表，为下一次rehash做准备。

       举个例子，如下图

1、ht[0].used当前的值为4，4*2=8，而8（2^3）恰好是第一个大于等于4的2的n次方，所以程序会将ht[1]

哈希表的大小设置为8。下图展示了ht[1]分配空间之后，字典的样子。

2、 将ht[0]包含的四个键值对都rehash到ht[1]，如下图

3、 释放ht[0]，并将ht[1]设置为ht[0]，然后为ht[1]分配一个空白哈希表，如下图，至此，哈希表的扩展操作执行完毕。

　　哈希表的扩展和收缩

       当一下条件的任意一个被满足时，程序会自动开始对哈希表执行扩展操作：

1 服务器目前没有在执行BGSAVE命令或者BGREWRITEAOF命令，并且哈希表的负载因子大于等于1.

2 服务器牧目前正在执行BGSAVE命令或者BGREWRITEAOF命令，并且哈希表的复制因子大于等于5.

       其中哈希表的复制因子可以通过公式：

# 负载因子=哈希表已保存节点数量/哈希表大小

load_factor=ht[0].userd/ht[0].size

例如，对于一个大小为4，包含4个键值对的哈希表来说，这个哈希表的负载因子为：

load_factor=4/4=1

       另一方面，当哈希表的负载因子小于0.1时，程序自动开始对哈希表执行收缩操作。

　　渐进式rehash

       扩展或收缩哈希表需要将ht[0]里面的所有键值对rehash到ht[1]里面，但是，这个rehash动作并不是一次性、集中式地完成的，而是分多次、渐进式地完成的。

       这样做的原因在于如果哈希表中保存的键值对过多，一次性转移的话，庞大的计算了可能会导致服务器在一段时间内停止服务。

       因此，为了避免rehash对服务器性能造成影响，服务器不是一次性将ht[0]里面的所有键值对全部rehash到ht[1]，而是分多次、渐进式的进行。

       以下是哈希表渐进式rehash的详细步骤：

1 为ht[1]分配空间，让字典同时持有ht[0]和ht[1]两个哈希表。

2 在字典中维持一个索引计数器变量rehashidx，并将它的值设置为0，表示rehash工作正式开始。

3 在rehash进行期间，每次对字典执行添加、删除、查找或者更新时，程序除了执行指定的操作以外，还顺带将ht[0]哈希表在rehashidx索引上的所有键值对rehash到ht[1]，当rehash工作完成之后，程序将将rehashidx属性的值增一。

4 随着字典操作的不断执行，最终在某个时间点上，ht[0]的所有键值对都会被都会被rerhash至ht[1]，这时程序程序将rehashidx属性的值设为-1，表示rehash操作已完成。

       渐进式rehash的好处在于它采取分而治之的方式，将rehash键值对所需的计算工作均摊到对字典的每个添加、删除、查找和更新操作上，从而避免了集中式rehash而带来的庞大计算量。

渐进式rehash执行期间的哈希表操作

       因为在进行渐进式rehash的过程中，字典会同时使用ht[0]和ht[1]两个哈希表，所以在渐进式rehash进行期间，字典的删除、查找、更新等操作会在两个哈希表上进行。例如，要在字典里面查找一个键的话，程序会现在ht[0]里面进行查找，如果没找到的话，就会继续到ht[1]里面进行查找，诸如此类。

       另外，在渐进式rehash执行期间，新增加到字典的键值对一律会被保存到ht[1]里面，而ht[0]则不再进行任何添加操作，这一措施保证了ht[0]包含的键值对数量只会减少不会增加，并随着rehash 操作的执行而最终变成空表。

字典API