MySQL索引背後的資料結構及算法原理【轉】

本文來自：張洋的MySQL索引背後的資料結構及算法原理 

摘要

本文以MySQL資料庫為研究對象，讨論與資料庫索引相關的一些話題。特别需要說明的是，MySQL支援諸多存儲引擎，而各種存儲引擎對索引的支援也各不相同，是以MySQL資料庫支援多種索引類型，如BTree索引，哈希索引，全文索引等等。為了避免混亂，本文将隻關注于BTree索引，因為這是平常使用MySQL時主要打交道的索引，至于哈希索引和全文索引本文暫不讨論。

文章主要内容分為三個部分。

第一部分主要從資料結構及算法理論層面讨論MySQL資料庫索引的數理基礎。

第二部分結合MySQL資料庫中MyISAM和InnoDB資料存儲引擎中索引的架構實作讨論聚集索引、非聚集索引及覆寫索引等話題。

第三部分根據上面的理論基礎，讨論MySQL中高性能使用索引的政策。

資料結構及算法基礎

索引的本質

MySQL官方對索引的定義為：索引（Index）是幫助MySQL高效擷取資料的資料結構。提取句子主幹，就可以得到索引的本質：索引是資料結構。

我們知道，資料庫查詢是資料庫的最主要功能之一。我們都希望查詢資料的速度能盡可能的快，是以資料庫系統的設計者會從查詢算法的角度進行優化。最基本的查詢算法當然是順序查找（linear search），這種複雜度為O(n)的算法在資料量很大時顯然是糟糕的，好在計算機科學的發展提供了很多更優秀的查找算法，例如二分查找（binary search）、二叉樹查找（binary tree search）等。如果稍微分析一下會發現，每種查找算法都隻能應用于特定的資料結構之上，例如二分查找要求被檢索資料有序，而二叉樹查找隻能應用于二叉查找樹上，但是資料本身的組織結構不可能完全滿足各種資料結構（例如，理論上不可能同時将兩列都按順序進行組織），是以，在資料之外，資料庫系統還維護着滿足特定查找算法的資料結構，這些資料結構以某種方式引用（指向）資料，這樣就可以在這些資料結構上實作進階查找算法。這種資料結構，就是索引。

看一個例子：

圖1

圖1展示了一種可能的索引方式。左邊是資料表，一共有兩列七條記錄，最左邊的是資料記錄的實體位址（注意邏輯上相鄰的記錄在磁盤上也并不是一定實體相鄰的）。為了加快Col2的查找，可以維護一個右邊所示的二叉查找樹，每個節點分别包含本身的索引鍵值和一個可以直接定位到資料的行号（指針）資訊，這樣就可以運用二叉查找在O(log2n)O(log2n)的複雜度内擷取到相應資料。

雖然這是一個貨真價實的索引，但是實際的資料庫系統幾乎沒有使用二叉查找樹或其進化品種紅黑樹（red-black tree）實作的，原因會在下文介紹。

B-Tree和B+Tree

目前大部分資料庫系統及檔案系統都采用B-Tree或其變種B+Tree作為索引結構，在本文的下一節會結合存儲器原理及計算機存取原理讨論為什麼B-Tree和B+Tree在被如此廣泛用于索引，這一節先單純從資料結構角度描述它們。

B-Tree

為了描述B-Tree，首先定義一條資料記錄為一個二進制組[key, data]，key為記錄的鍵值，對于不同資料記錄，key是互不相同的；data為資料記錄除key外的資料。那麼B-Tree是滿足下列條件的資料結構：

d為大于1的一個正整數，稱為B-Tree的度。

h為一個正整數，稱為B-Tree的高度。

每個非葉子節點由n-1個key和n個指針組成，其中d<=n<=2d。

每個葉子節點最少包含一個key和兩個指針，最多包含2d-1個key和2d個指針，葉節點的指針均為null 。

所有葉節點具有相同的深度，等于樹高h。

key和指針互相間隔，節點兩端是指針。

一個節點中的key從左到右非遞減排列。

所有節點組成樹結構。 

每個指針要麼為null，要麼指向另外一個節點。

如果某個指針在節點node最左邊且不為null，則其指向節點的所有key小于v(key1)v(key1)，其中v(key1)v(key1)為node的第一個key的值。

如果某個指針在節點node最右邊且不為null，則其指向節點的所有key大于v(keym)v(keym)，其中v(keym)v(keym)為node的最後一個key的值。

如果某個指針在節點node的左右相鄰key分别是keyikeyi和keyi+1keyi+1且不為null，則其指向節點的所有key小于v(keyi+1)v(keyi+1)且大于v(keyi)v(keyi)。

圖2是一個d=2的B-Tree示意圖 

圖2

由于B-Tree的特性，在B-Tree中按key檢索資料的算法非常直覺：首先從根節點進行二分查找，如果找到則傳回對應節點的data，否則對相應區間的指針指向的節點遞歸進行查找，直到找到節點或找到null指針，前者查找成功，後者查找失敗。B-Tree上查找算法的僞代碼如下：

BTree_Search(node, key) {
if(node == null) return null;
foreach(node.key)
{
if(node.key[i] == key) return node.data[i];
if(node.key[i] > key) return BTree_Search(point[i]->node);
}
return BTree_Search(point[i+1]->node);
}
data = BTree_Search(root, my_key);      

關于B-Tree有一系列有趣的性質，例如一個度為d的B-Tree，設其索引N個key，則其樹高h的上限為logd((N+1)/2)logd((N+1)/2)，檢索一個key，其查找節點個數的漸進複雜度為O(logdN)O(logdN)。從這點可以看出，B-Tree是一個非常有效率的索引資料結構。

另外，由于插入删除新的資料記錄會破壞B-Tree的性質，是以在插入删除時，需要對樹進行一個分裂、合并、轉移等操作以保持B-Tree性質，本文不打算完整讨論B-Tree這些内容，因為已經有許多資料詳細說明了B-Tree的數學性質及插入删除算法。 

B+Tree 

B-Tree有許多變種，其中最常見的是B+Tree，例如MySQL就普遍使用B+Tree實作其索引結構。

與B-Tree相比，B+Tree有以下不同點： 

每個節點的指針上限為2d而不是2d+1。

内節點不存儲data，隻存儲key；葉子節點不存儲指針。

圖3是一個簡單的B+Tree示意

圖3

由于并不是所有節點都具有相同的域，是以B+Tree中葉節點和内節點一般大小不同。這點與B-Tree不同，雖然B-Tree中不同節點存放的key和指針可能數量不一緻，但是每個節點的域和上限是一緻的，是以在實作中B-Tree往往對每個節點申請同等大小的空間。

一般來說，B+Tree比B-Tree更适合實作外存儲索引結構，具體原因與外存儲器原理及計算機存取原理有關，将在下面讨論。

帶有順序通路指針的B+Tree

一般在資料庫系統或檔案系統中使用的B+Tree結構都在經典B+Tree的基礎上進行了優化，增加了順序通路指針。

圖4

 如圖4所示，在B+Tree的每個葉子節點增加一個指向相鄰葉子節點的指針，就形成了帶有順序通路指針的B+Tree。做這個優化的目的是為了提高區間通路的性能，例如圖4中如果要查詢key為從18到49的所有資料記錄，當找到18後，隻需順着節點和指針順序周遊就可以一次性通路到所有資料節點，極大提到了區間查詢效率。

這一節對B-Tree和B+Tree進行了一個簡單的介紹，下一節結合存儲器存取原理介紹為什麼目前B+Tree是資料庫系統實作索引的首選資料結構。

為什麼使用B-Tree（B+Tree） 

上文說過，紅黑樹等資料結構也可以用來實作索引，但是檔案系統及資料庫系統普遍采用B-/+Tree作為索引結構，這一節将結合計算機組成原理相關知識讨論B-/+Tree作為索引的理論基礎。

一般來說，索引本身也很大，不可能全部存儲在記憶體中，是以索引往往以索引檔案的形式存儲的磁盤上。這樣的話，索引查找過程中就要産生磁盤I/O消耗，相對于記憶體存取，I/O存取的消耗要高幾個數量級，是以評價一個索引的優劣最重要的名額就是在查找過程中磁盤I/O操作次數的漸進複雜度。換句話說，索引的結構組織要盡量減少查找過程中磁盤I/O的存取次數。下面先介紹記憶體和磁盤存取原理，然後再結合這些原理分析B-/+Tree作為索引的效率。

主存存取原理 

目前計算機使用的主存基本都是随機讀寫存儲器（RAM），現代RAM的結構和存取原理比較複雜，這裡本文抛卻具體差别，抽象出一個十分簡單的存取模型來說明RAM的工作原理。

圖5

從抽象角度看，主存是一系列的存儲單元組成的矩陣，每個存儲單元存儲固定大小的資料。每個存儲單元有唯一的位址，現代主存的編址規則比較複雜，這裡将其簡化成一個二維位址：通過一個行位址和一個列位址可以唯一定位到一個存儲單元。圖5展示了一個4 x 4的主存模型。

記憶體的存取過程如下：

當需要從記憶體讀取資料時，系統将位址信号放到位址總線上傳給記憶體，記憶體讀到位址信号後，解析信号并定位到指定存儲單元，然後将此存儲單中繼資料放到資料總線上，傳回供其它部件讀取。

寫記憶體的過程類似，系統将要寫入單元位址和資料分别放在位址總線和資料總線上，主存讀取兩個總線的内容，做相應的寫操作。

這裡可以看出，記憶體存取的時間僅與存取次數呈線性關系，因為不存在機械操作，兩次存取的資料的“距離”不會對時間有任何影響，例如，先取A0再取A1和先取A0再取D3的時間消耗是一樣的。

磁盤存取原理

上文說過，索引一般以檔案形式存儲在磁盤上，索引檢索需要磁盤I/O操作。與記憶體不同，磁盤I/O存在機械運動耗費，是以磁盤I/O的時間消耗是巨大的。

圖6是磁盤的整體結構示意圖。

圖6

一個磁盤由大小相同且同軸的圓形盤片組成，磁盤可以轉動（各個磁盤必須同步轉動）。在磁盤的一側有磁頭支架，磁頭支架固定了一組磁頭，每個磁頭負責存取一個盤片的内容。磁頭不能轉動，但是可以沿磁盤半徑方向運動（實際是斜切向運動），每個磁頭同一時刻也必須是同軸的，即從正上方向下看，所有磁頭任何時候都是重疊的（不過目前已經有多磁頭獨立技術，可不受此限制）。

圖7是磁盤結構的示意圖 

圖7

盤片被劃分成一系列同心環，圓心是盤片中心，每個同心環叫做一個磁道，所有半徑相同的磁道組成一個柱面。磁道被沿半徑線劃分成一個個小的段，每個段叫做一個扇區，每個扇區是磁盤的最小存儲單元。為了簡單起見，我們下面假設磁盤隻有一個盤片和一個磁頭。

當需要從磁盤讀取資料時，系統會将資料邏輯位址傳給磁盤，磁盤的控制電路按照尋址邏輯将邏輯位址翻譯成實體位址，即确定要讀的資料在哪個磁道，哪個扇區。為了讀取這個扇區的資料，需要将磁頭放到這個扇區上方，為了實作這一點，然後磁頭需要移動對應磁道，這個過程叫做尋道，所耗費時間叫做尋道時間，然後磁盤旋轉将目标扇區旋轉到磁頭下，這個過程耗費的時間叫做旋轉時間。

局部性原理與磁盤預讀

由于存儲媒體的特性，磁盤本身存取就比記憶體慢很多，再加上機械運動耗費，磁盤的存取速度往往是記憶體的幾百分之一，是以為了提高效率，要盡量減少磁盤I/O。為了達到這個目的，磁盤往往不是嚴格按需讀取，而是每次都會預讀，即使隻需要一個位元組，磁盤也會從這個位置開始，順序向後讀取一定長度的資料放入記憶體。這樣做的理論依據是計算機科學中著名的局部性原理：當一個資料被用到時，其附近的資料也通常會馬上被使用。

程式運作期間所需要的資料通常比較集中，由于磁盤順序讀取的效率很高（不需要尋道時間，隻需很少的旋轉時間），是以對于具有局部性的程式來說，預讀可以提高I/O效率。

預讀的長度一般為頁（page）的整倍數。頁是計算機管理存儲器的邏輯塊，硬體及作業系統往往将記憶體和磁盤存儲區分割為連續的大小相等的塊，每個存儲塊稱為一頁（在許多作業系統中，頁得大小通常為4k），記憶體和磁盤以頁為機關交換資料。當程式要讀取的資料不在記憶體中時，會觸發一個缺頁異常，向磁盤進行讀取，磁盤會找到資料的起始位置并向後連續讀取一頁或幾頁載入記憶體中，然後異常傳回，程式繼續運作。

B-/+Tree索引的性能分析

到這裡終于可以分析B-/+Tree索引的性能了。 

上文說過一般使用磁盤I/O次數評價索引結構的優劣。先從B-Tree分析，根據B-Tree的定義，可知檢索一次最多需要通路h個節點。資料庫系統的設計者巧妙利用了磁盤預讀原理，将一個節點的大小設為等于一個頁，這樣每個節點隻需要一次I/O就可以完全載入。為了達到這個目的，在實際實作B-Tree還需要使用如下技巧：

每次建立節點時，直接申請一個頁的空間，這樣就保證一個節點實體上也存儲在一個頁裡，加之計算機存儲配置設定都是按頁對齊的，就實作了一個node隻需一次I/O。

B-Tree中一次檢索最多需要h-1次I/O（根節點常駐記憶體），漸進複雜度為O(h)=O(logdN)O(h)=O(logdN)。一般實際應用中，出度d是非常大的數字，通常超過100，是以h非常小（通常不超過3）。

綜上所述，用B-Tree作為索引結構效率是非常高的。

而紅黑樹這種結構，h明顯要深的多。由于邏輯上很近的節點（父子）實體上可能很遠，無法利用局部性，是以紅黑樹的I/O漸進複雜度也為O(h)，效率明顯比B-Tree差很多。 

上文還說過，B+Tree更适合外存索引，原因和内節點出度d有關。從上面分析可以看到，d越大索引的性能越好，而出度的上限取決于節點内key和data的大小：

dmax=floor(pagesize/(keysize+datasize+pointsize))dmax=floor(pagesize/(keysize+datasize+pointsize))

floor表示向下取整。由于B+Tree内節點去掉了data域，是以可以擁有更大的出度，擁有更好的性能。

這一章從理論角度讨論了與索引相關的資料結構與算法問題，下一章将讨論B+Tree是如何具體實作為MySQL中索引，同時将結合MyISAM和InnDB存儲引擎介紹非聚集索引和聚集索引兩種不同的索引實作形式。

MySQL索引實作

在MySQL中，索引屬于存儲引擎級别的概念，不同存儲引擎對索引的實作方式是不同的，本文主要讨論MyISAM和InnoDB兩個存儲引擎的索引實作方式。

MyISAM索引實作 

MyISAM引擎使用B+Tree作為索引結構，葉節點的data域存放的是資料記錄的位址。下圖是MyISAM索引的原理圖：

圖8

這裡設表一共有三列，假設我們以Col1為主鍵，則圖8是一個MyISAM表的主索引（Primary key）示意。可以看出MyISAM的索引檔案僅僅儲存資料記錄的位址。在MyISAM中，主索引和輔助索引（Secondary key）在結構上沒有任何差別，隻是主索引要求key是唯一的，而輔助索引的key可以重複。如果我們在Col2上建立一個輔助索引，則此索引的結構如下圖所示：

圖9

同樣也是一顆B+Tree，data域儲存資料記錄的位址。

是以，MyISAM中索引的算法為：首先按照B+Tree搜尋算法搜尋索引，如果指定的Key存在，則取出其data域的值，然後以data域的值為位址，讀取相應資料記錄。總之，MyISAM的索引除了包含本身的鍵值資訊，還包含了可以直接定位到資料的行号（行指針）。即通過索引可以直接通過行号（指針）找到資料。

MyISAM的索引方式也叫做“非聚集”的，之是以這麼稱呼是為了與InnoDB的聚集索引區分。

InnoDB索引實作

雖然InnoDB也使用B+Tree作為索引結構，但具體實作方式卻與MyISAM截然不同。

第一個重大差別是InnoDB的資料檔案本身就是索引檔案。從上文知道，MyISAM索引檔案和資料檔案是分離的，索引檔案僅儲存資料記錄的位址。而在InnoDB中，表資料檔案本身就是按B+Tree組織的一個索引結構，這棵樹的葉節點data域儲存了完整的資料記錄。這個索引的key是資料表的主鍵，是以InnoDB表資料檔案本身就是主索引。

圖10

圖10是InnoDB主索引（同時也是資料檔案）的示意圖，可以看到葉節點包含了完整的資料記錄，這種索引叫做聚集索引。因為InnoDB的資料檔案本身要按主鍵聚集，是以InnoDB要求表必須有主鍵（MyISAM可以沒有），如果沒有顯式指定，則MySQL系統會自動選擇一個可以唯一辨別資料記錄的列作為主鍵，如果不存在這種列，則MySQL自動為InnoDB表生成一個隐含字段作為主鍵，這個字段長度為6個位元組，類型為長整形。

第二個與MyISAM索引的不同是InnoDB的輔助索引data域存儲相應記錄主鍵的值而不是位址。換句話說，InnoDB的所有輔助索引都引用主鍵作為data域。例如，圖11為定義在Col3上的一個輔助索引： 

圖11

這裡以英文字元的ASCII碼作為比較準則。聚集索引這種實作方式使得按主鍵的搜尋十分高效，但是輔助索引搜尋需要檢索兩遍索引（2次IO）：首先檢索輔助索引獲得主鍵，然後用主鍵到主索引中檢索獲得記錄。

了解不同存儲引擎的索引實作方式對于正确使用和優化索引都非常有幫助，例如知道了InnoDB的索引實作後，就很容易明白為什麼不建議使用過長的字段作為主鍵，因為所有輔助索引都引用主索引，過長的主索引會令輔助索引變得過大。再例如，用非單調的字段作為主鍵在InnoDB中不是個好主意，因為InnoDB資料檔案本身是一顆B+Tree，非單調的主鍵會造成在插入新記錄時資料檔案為了維持B+Tree的特性而頻繁的分裂産生碎片，十分低效，而使用自增字段作為主鍵則是一個很好的選擇。

更多的資訊可以繼續閱讀：張洋的MySQL索引背後的資料結構及算法原理

~~~~~~~~~~~~~~~

萬物之中,希望至美

~~~~~~~~~~~~~~~