天天看點

Redis學習之intset整數集合源碼分析

1.整數集合:整數的集合,升序排序,無重複元素

2.整數集合intset是集合鍵的底層實作之一,當一個集合隻包含整數值的元素,并且這個集合的元素數量不多時,redis會使用整數集合作為集合鍵的底層實作

3.intset可通過屬性自定義編碼方式(int16_t/int32_t/int64_t)

4.當往inset插入新元素時,如果新元素的類型比inset的原編碼類型長,那麼要先對inset進行“更新”操作

5.更新操作:(不可逆操作)

1)根據新元素的類型,擴充intset底層數組的空間大小,并且為新元素配置設定空間

2)将原有的元素轉化成與新元素相同的類型,并且将他們放在正确的位置上,仍然保持有序無重複

3)将新元素添加到底層數組中

6.因為可能存在更新操作,是以往intset中添加元素的時間複雜度為O(N),N為元素個數

7.進行更新操作的好處:1)提升靈活性,避免類型錯誤,2)節約記憶體,在需要更新的時候才更新,節約了記憶體,隻有我們需要更大類型的時候,才會更新成大類型,其餘時間都是小類型,這樣節省記憶體空間

源碼分析如下:

intset.h檔案:

#ifndef __INTSET_H
#define __INTSET_H
#include <stdint.h>

//======  資料結構  ========//
typedef struct intset
{

    // 編碼方式
    uint32_t encoding;

    // 集合包含的元素數量
    uint32_t length;

    // 儲存元素的數組
    int8_t contents[];

} intset;

//=======  API  ===========//

//建立一個新的整數集合
intset *intsetNew(void);

//将給定的元素加到整數集合中
intset *intsetAdd(intset *is, int64_t value, uint8_t *success);

//從整數集合中移除給定元素
intset *intsetRemove(intset *is, int64_t value, int *success);

//檢查給定值是否存在集合
uint8_t intsetFind(intset *is, int64_t value);

//從整數集合中随機傳回一個元素
int64_t intsetRandom(intset *is);

//取出給定索引上的元素
uint8_t intsetGet(intset *is, uint32_t pos, int64_t *value);

//傳回整數集合包含元素的個數
uint32_t intsetLen(intset *is);

//傳回整數集合占用的記憶體位元組數
size_t intsetBlobLen(intset *is);

#endif // __INTSET_H      

intset.c檔案:

#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include "intset.h"
#include "endianconv.h"
#include "zmalloc.h"

/* intset的三種編碼方式 */
#define INTSET_ENC_INT16 (sizeof(int16_t))
#define INTSET_ENC_INT32 (sizeof(int32_t))
#define INTSET_ENC_INT64 (sizeof(int64_t))

/* Return the required encoding for the provided value.
 *
 * 傳回适用于傳入值 v 的編碼方式
 *
 * T = O(1)
 */
static uint8_t _intsetValueEncoding(int64_t v)
{
    if (v < INT32_MIN || v > INT32_MAX)
        return INTSET_ENC_INT64;
    else if (v < INT16_MIN || v > INT16_MAX)
        return INTSET_ENC_INT32;
    else
        return INTSET_ENC_INT16;
}

/* Return the value at pos, given an encoding.
 *
 * 根據給定的編碼方式 enc ,傳回集合的底層數組在 pos 索引上的元素。
 *
 * T = O(1)
 */
static int64_t _intsetGetEncoded(intset *is, int pos, uint8_t enc)
{
    int64_t v64;
    int32_t v32;
    int16_t v16;

    // ((ENCODING*)is->contents) 首先将數組轉換回被編碼的類型
    // 然後 ((ENCODING*)is->contents)+pos 計算出元素在數組中的正确位置
    // 之後 member(&vEnc, ..., sizeof(vEnc)) 再從數組中拷貝出正确數量的位元組
    // 如果有需要的話, memrevEncifbe(&vEnc) 會對拷貝出的位元組進行大小端轉換
    // 最後将值傳回
    if (enc == INTSET_ENC_INT64)
    {
        memcpy(&v64,((int64_t*)is->contents)+pos,sizeof(v64));
        memrev64ifbe(&v64);
        return v64;
    }
    else if (enc == INTSET_ENC_INT32)
    {
        memcpy(&v32,((int32_t*)is->contents)+pos,sizeof(v32));
        memrev32ifbe(&v32);
        return v32;
    }
    else
    {
        memcpy(&v16,((int16_t*)is->contents)+pos,sizeof(v16));
        memrev16ifbe(&v16);
        return v16;
    }
}

/* Return the value at pos, using the configured encoding.
 *
 * 根據集合的編碼方式,傳回底層數組在 pos 索引上的值
 *
 * T = O(1)
 */
static int64_t _intsetGet(intset *is, int pos)
{
    return _intsetGetEncoded(is,pos,intrev32ifbe(is->encoding));
}

/* Set the value at pos, using the configured encoding.
 *
 * 根據集合的編碼方式,将底層數組在 pos 位置上的值設為 value 。
 *
 * T = O(1)
 */
static void _intsetSet(intset *is, int pos, int64_t value)
{

    // 取出集合的編碼方式
    uint32_t encoding = intrev32ifbe(is->encoding);

    // 根據編碼 ((Enc_t*)is->contents) 将數組轉換回正确的類型
    // 然後 ((Enc_t*)is->contents)[pos] 定位到數組索引上
    // 接着 ((Enc_t*)is->contents)[pos] = value 将值賦給數組
    // 最後, ((Enc_t*)is->contents)+pos 定位到剛剛設定的新值上
    // 如果有需要的話, memrevEncifbe 将對值進行大小端轉換
    if (encoding == INTSET_ENC_INT64)
    {
        ((int64_t*)is->contents)[pos] = value;
        memrev64ifbe(((int64_t*)is->contents)+pos);
    }
    else if (encoding == INTSET_ENC_INT32)
    {
        ((int32_t*)is->contents)[pos] = value;
        memrev32ifbe(((int32_t*)is->contents)+pos);
    }
    else
    {
        ((int16_t*)is->contents)[pos] = value;
        memrev16ifbe(((int16_t*)is->contents)+pos);
    }
}

/* Create an empty intset.
 *
 * 建立并傳回一個新的空整數集合
 *
 * T = O(1)
 */
intset *intsetNew(void)
{

    // 為整數集合結構配置設定空間
    intset *is = zmalloc(sizeof(intset));

    // 設定初始編碼
    is->encoding = intrev32ifbe(INTSET_ENC_INT16);

    // 初始化元素數量
    is->length = 0;

    return is;
}

/* Resize the intset
 *
 * 調整整數集合的記憶體空間大小
 *
 * 如果調整後的大小要比集合原來的大小要大,
 * 那麼集合中原有元素的值不會被改變。
 *
 * 傳回值:調整大小後的整數集合
 *
 * T = O(N)
 */
static intset *intsetResize(intset *is, uint32_t len)
{

    // 計算數組的空間大小
    uint32_t size = len*intrev32ifbe(is->encoding);

    // 根據空間大小,重新配置設定空間
    // 注意這裡使用的是 zrealloc ,
    // 是以如果新空間大小比原來的空間大小要大,
    // 那麼數組原有的資料會被保留
    is = zrealloc(is,sizeof(intset)+size);

    return is;
}

/*
 * 在集合 is 的底層數組中查找值 value 所在的索引。
 *
 * 成功找到 value 時,函數傳回 1 ,并将 *pos 的值設為 value 所在的索引。
 *
 * 當在數組中沒找到 value 時,傳回 0 。
 * 并将 *pos 的值設為 value 可以插入到數組中的位置。
 *
 * T = O(log N)
 */
static uint8_t intsetSearch(intset *is, int64_t value, uint32_t *pos)
{
    int min = 0, max = intrev32ifbe(is->length)-1, mid = -1;
    int64_t cur = -1;

    // 處理 is 為空時的情況
    if (intrev32ifbe(is->length) == 0)
    {
        if (pos) *pos = 0;
        return 0;
    }
    else
    {
        // 因為底層數組是有序的,如果 value 比數組中最後一個值都要大
        // 那麼 value 肯定不存在于集合中,
        // 并且應該将 value 添加到底層數組的最末端
        if (value > _intsetGet(is,intrev32ifbe(is->length)-1))
        {
            if (pos) *pos = intrev32ifbe(is->length);
            return 0;
            // 因為底層數組是有序的,如果 value 比數組中最前一個值都要小
            // 那麼 value 肯定不存在于集合中,
            // 并且應該将它添加到底層數組的最前端
        }
        else if (value < _intsetGet(is,0))
        {
            if (pos) *pos = 0;
            return 0;
        }
    }

    // 在有序數組中進行二分查找
    // T = O(log N)
    while(max >= min)
    {
        mid = (min+max)/2;
        cur = _intsetGet(is,mid);
        if (value > cur)
        {
            min = mid+1;
        }
        else if (value < cur)
        {
            max = mid-1;
        }
        else
        {
            break;
        }
    }

    // 檢查是否已經找到了 value
    if (value == cur)
    {
        if (pos) *pos = mid;
        return 1;
    }
    else
    {
        if (pos) *pos = min;
        return 0;
    }
}

/* Upgrades the intset to a larger encoding and inserts the given integer.
 *
 * 根據值 value 所使用的編碼方式,對整數集合的編碼進行更新,
 * 并将值 value 添加到更新後的整數集合中。
 *
 * 傳回值:添加新元素之後的整數集合
 *
 * T = O(N)
 */
static intset *intsetUpgradeAndAdd(intset *is, int64_t value)
{

    // 目前的編碼方式
    uint8_t curenc = intrev32ifbe(is->encoding);

    // 新值所需的編碼方式
    uint8_t newenc = _intsetValueEncoding(value);

    // 目前集合的元素數量
    int length = intrev32ifbe(is->length);

    // 根據 value 的值,決定是将它添加到底層數組的最前端還是最後端
    // 注意,因為 value 的編碼比集合原有的其他元素的編碼都要大
    // 是以 value 要麼大于集合中的所有元素,要麼小于集合中的所有元素
    // 是以,value 隻能添加到底層數組的最前端或最後端
    int prepend = value < 0 ? 1 : 0;

    /* First set new encoding and resize */
    // 更新集合的編碼方式
    is->encoding = intrev32ifbe(newenc);
    // 根據新編碼對集合(的底層數組)進行空間調整
    // T = O(N)
    is = intsetResize(is,intrev32ifbe(is->length)+1);

    /* Upgrade back-to-front so we don't overwrite values.
     * Note that the "prepend" variable is used to make sure we have an empty
     * space at either the beginning or the end of the intset. */
    // 根據集合原來的編碼方式,從底層數組中取出集合元素
    // 然後再将元素以新編碼的方式添加到集合中
    // 當完成了這個步驟之後,集合中所有原有的元素就完成了從舊編碼到新編碼的轉換
    // 因為新配置設定的空間都放在數組的後端,是以程式先從後端向前端移動元素
    // 舉個例子,假設原來有 curenc 編碼的三個元素,它們在數組中排列如下:
    // | x | y | z |
    // 當程式對數組進行重配置設定之後,數組就被擴容了(符号 ? 表示未使用的記憶體):
    // | x | y | z | ? |   ?   |   ?   |
    // 這時程式從數組後端開始,重新插入元素:
    // | x | y | z | ? |   z   |   ?   |
    // | x | y |   y   |   z   |   ?   |
    // |   x   |   y   |   z   |   ?   |
    // 最後,程式可以将新元素添加到最後 ? 号标示的位置中:
    // |   x   |   y   |   z   |  new  |
    // 上面示範的是新元素比原來的所有元素都大的情況,也即是 prepend == 0
    // 當新元素比原來的所有元素都小時(prepend == 1),調整的過程如下:
    // | x | y | z | ? |   ?   |   ?   |
    // | x | y | z | ? |   ?   |   z   |
    // | x | y | z | ? |   y   |   z   |
    // | x | y |   x   |   y   |   z   |
    // 當添加新值時,原本的 | x | y | 的資料将被新值代替
    // |  new  |   x   |   y   |   z   |
    // T = O(N)
    while(length--)
        _intsetSet(is,length+prepend,_intsetGetEncoded(is,length,curenc));

    /* Set the value at the beginning or the end. */
    // 設定新值,根據 prepend 的值來決定是添加到數組頭還是數組尾
    if (prepend)
        _intsetSet(is,0,value);
    else
        _intsetSet(is,intrev32ifbe(is->length),value);

    // 更新整數集合的元素數量
    is->length = intrev32ifbe(intrev32ifbe(is->length)+1);

    return is;
}

/*
 * 向前或先後移動指定索引範圍内的數組元素
 *
 * 函數名中的 MoveTail 其實是一個有誤導性的名字,
 * 這個函數可以向前或向後移動元素,
 * 而不僅僅是向後
 *
 * 在添加新元素到數組時,就需要進行向後移動,
 * 如果數組表示如下(?表示一個未設定新值的空間):
 * | x | y | z | ? |
 *     |<----->|
 * 而新元素 n 的 pos 為 1 ,那麼數組将移動 y 和 z 兩個元素
 * | x | y | y | z |
 *         |<----->|
 * 接着就可以将新元素 n 設定到 pos 上了:
 * | x | n | y | z |
 *
 * 當從數組中删除元素時,就需要進行向前移動,
 * 如果數組表示如下,并且 b 為要删除的目标:
 * | a | b | c | d |
 *         |<----->|
 * 那麼程式就會移動 b 後的所有元素向前一個元素的位置,
 * 進而覆寫 b 的資料:
 * | a | c | d | d |
 *     |<----->|
 * 最後,程式再從數組末尾删除一個元素的空間:
 * | a | c | d |
 * 這樣就完成了删除操作。
 *
 * T = O(N)
 */
static void intsetMoveTail(intset *is, uint32_t from, uint32_t to)
{

    void *src, *dst;

    // 要移動的元素個數
    uint32_t bytes = intrev32ifbe(is->length)-from;

    // 集合的編碼方式
    uint32_t encoding = intrev32ifbe(is->encoding);

    // 根據不同的編碼
    // src = (Enc_t*)is->contents+from 記錄移動開始的位置
    // dst = (Enc_t*)is_.contents+to 記錄移動結束的位置
    // bytes *= sizeof(Enc_t) 計算一共要移動多少位元組
    if (encoding == INTSET_ENC_INT64)
    {
        src = (int64_t*)is->contents+from;
        dst = (int64_t*)is->contents+to;
        bytes *= sizeof(int64_t);
    }
    else if (encoding == INTSET_ENC_INT32)
    {
        src = (int32_t*)is->contents+from;
        dst = (int32_t*)is->contents+to;
        bytes *= sizeof(int32_t);
    }
    else
    {
        src = (int16_t*)is->contents+from;
        dst = (int16_t*)is->contents+to;
        bytes *= sizeof(int16_t);
    }

    // 進行移動
    // T = O(N)
    memmove(dst,src,bytes);
}

/* Insert an integer in the intset
 *
 * 嘗試将元素 value 添加到整數集合中。
 *
 * *success 的值訓示添加是否成功:
 * - 如果添加成功,那麼将 *success 的值設為 1 。
 * - 因為元素已存在而造成添加失敗時,将 *success 的值設為 0 。
 *
 * T = O(N)
 */
intset *intsetAdd(intset *is, int64_t value, uint8_t *success)
{

    // 計算編碼 value 所需的長度
    uint8_t valenc = _intsetValueEncoding(value);
    uint32_t pos;

    // 預設設定插入為成功
    if (success) *success = 1;

    // 如果 value 的編碼比整數集合現在的編碼要大
    // 那麼表示 value 必然可以添加到整數集合中
    // 并且整數集合需要對自身進行更新,才能滿足 value 所需的編碼
    if (valenc > intrev32ifbe(is->encoding))
    {
        /* This always succeeds, so we don't need to curry *success. */
        // T = O(N)
        return intsetUpgradeAndAdd(is,value);
    }
    else
    {
        // 運作到這裡,表示整數集合現有的編碼方式适用于 value

        // 在整數集合中查找 value ,看他是否存在:
        // - 如果存在,那麼将 *success 設定為 0 ,并傳回未經改動的整數集合
        // - 如果不存在,那麼可以插入 value 的位置将被儲存到 pos 指針中
        //   等待後續程式使用
        if (intsetSearch(is,value,&pos))
        {
            if (success) *success = 0;
            return is;
        }

        // 運作到這裡,表示 value 不存在于集合中
        // 程式需要将 value 添加到整數集合中

        // 為 value 在集合中配置設定空間
        is = intsetResize(is,intrev32ifbe(is->length)+1);
        // 如果新元素不是被添加到底層數組的末尾
        // 那麼需要對現有元素的資料進行移動,空出 pos 上的位置,用于設定新值
        // 舉個例子
        // 如果數組為:
        // | x | y | z | ? |
        //     |<----->|
        // 而新元素 n 的 pos 為 1 ,那麼數組将移動 y 和 z 兩個元素
        // | x | y | y | z |
        //         |<----->|
        // 這樣就可以将新元素設定到 pos 上了:
        // | x | n | y | z |
        // T = O(N)
        if (pos < intrev32ifbe(is->length)) intsetMoveTail(is,pos,pos+1);
    }

    // 将新值設定到底層數組的指定位置中
    _intsetSet(is,pos,value);

    // 增一集合元素數量的計數器
    is->length = intrev32ifbe(intrev32ifbe(is->length)+1);

    // 傳回添加新元素後的整數集合
    return is;
}

/* Delete integer from intset
 *
 * 從整數集合中删除值 value 。
 *
 * *success 的值訓示删除是否成功:
 * - 因值不存在而造成删除失敗時該值為 0 。
 * - 删除成功時該值為 1 。
 *
 * T = O(N)
 */
intset *intsetRemove(intset *is, int64_t value, int *success)
{

    // 計算 value 的編碼方式
    uint8_t valenc = _intsetValueEncoding(value);
    uint32_t pos;

    // 預設設定辨別值為删除失敗
    if (success) *success = 0;

    // 當 value 的編碼大小小于或等于集合的目前編碼方式(說明 value 有可能存在于集合)
    // 并且 intsetSearch 的結果為真,那麼執行删除
    // T = O(log N)
    if (valenc <= intrev32ifbe(is->encoding) && intsetSearch(is,value,&pos))
    {

        // 取出集合目前的元素數量
        uint32_t len = intrev32ifbe(is->length);

        /* We know we can delete */
        // 設定辨別值為删除成功
        if (success) *success = 1;

        /* Overwrite value with tail and update length */
        // 如果 value 不是位于數組的末尾
        // 那麼需要對原本位于 value 之後的元素進行移動
        //
        // 舉個例子,如果數組表示如下,而 b 為删除的目标
        // | a | b | c | d |
        // 那麼 intsetMoveTail 将 b 之後的所有資料向前移動一個元素的空間,
        // 覆寫 b 原來的資料
        // | a | c | d | d |
        // 之後 intsetResize 縮小記憶體大小時,
        // 數組末尾多出來的一個元素的空間将被移除
        // | a | c | d |
        if (pos < (len-1)) intsetMoveTail(is,pos+1,pos);
        // 縮小數組的大小,移除被删除元素占用的空間
        // T = O(N)
        is = intsetResize(is,len-1);
        // 更新集合的元素數量
        is->length = intrev32ifbe(len-1);
    }

    return is;
}

/* Determine whether a value belongs to this set
 *
 * 檢查給定值 value 是否集合中的元素。
 *
 * 是傳回 1 ,不是傳回 0 。
 *
 * T = O(log N)
 */
uint8_t intsetFind(intset *is, int64_t value)
{

    // 計算 value 的編碼
    uint8_t valenc = _intsetValueEncoding(value);

    // 如果 value 的編碼大于集合的目前編碼,那麼 value 一定不存在于集合
    // 當 value 的編碼小于等于集合的目前編碼時,
    // 才再使用 intsetSearch 進行查找
    return valenc <= intrev32ifbe(is->encoding) && intsetSearch(is,value,NULL);
}

/* Return random member
 *
 * 從整數集合中随機傳回一個元素
 *
 * 隻能在集合非空時使用
 *
 * T = O(1)
 */
int64_t intsetRandom(intset *is)
{
    // intrev32ifbe(is->length) 取出集合的元素數量
    // 而 rand() % intrev32ifbe(is->length) 根據元素數量計算一個随機索引
    // 然後 _intsetGet 負責根據随機索引來查找值
    return _intsetGet(is,rand()%intrev32ifbe(is->length));
}

/*
 * 取出集合底層數組指定位置中的值,并将它儲存到 value 指針中。
 *
 * 如果 pos 沒超出數組的索引範圍,那麼傳回 1 ,如果超出索引,那麼傳回 0 。
 *
 * T = O(1)
 */
uint8_t intsetGet(intset *is, uint32_t pos, int64_t *value)
{

    // pos < intrev32ifbe(is->length)
    // 檢查 pos 是否符合數組的範圍
    if (pos < intrev32ifbe(is->length))
    {

        // 儲存值到指針
        *value = _intsetGet(is,pos);

        // 傳回成功訓示值
        return 1;
    }

    // 超出索引範圍
    return 0;
}


/* Return intset length
 *
 * 傳回整數集合現有的元素個數
 *
 * T = O(1)
 */
uint32_t intsetLen(intset *is)
{
    return intrev32ifbe(is->length);
}

/* Return intset blob size in bytes.
 *
 * 傳回整數集合現在占用的位元組總數量
 * 這個數量包括整數集合的結構大小,以及整數集合所有元素的總大小
 *
 * T = O(1)
 */
size_t intsetBlobLen(intset *is)
{
    return sizeof(intset)+intrev32ifbe(is->length)*intrev32ifbe(is->encoding);
}


int main()
{

}      

說明:依賴于redis的endianconv.h和zmalloc.h檔案

endianconv.h,zmalloc.c:大端和小端的互相轉換

zmalloc.h,zmalloc.c:對free和malloc函數的封裝,記憶體配置設定