天天看點

mysql普通索引和唯一索引——mysql change buffer深入解析!

今天我們就繼續來談談,在不同的業務場景下,應該選擇普通索引,還是唯一索引?

假設你在維護一個市民系統,每個人都有一個唯一的身份證号,而且業務代碼已經保證了不會寫入兩個重複的身份證号。如果市民系統需要按照身份證号查姓名,就會執行類似這樣的 sql 語句:

是以,你一定會考慮在 id_card 字段上建索引。

由于身份證号字段比較大,我不建議你把身份證号當做主鍵,那麼現在你有兩個選擇,要麼給 id_card 字段建立唯一索引,要麼建立一個普通索引。如果業務代碼已經保證了不會寫入重複的身份證号,那麼這兩個選擇邏輯上都是正确的。

現在我要問你的是,從性能的角度考慮,你選擇唯一索引還是普通索引呢?選擇的依據是什麼呢?

mysql普通索引和唯一索引——mysql change buffer深入解析!

圖 1 innodb 的索引組織結構

接下來,我們就從這兩種索引對查詢語句和更新語句的性能影響來進行分析。

查詢過程

假設,執行查詢的語句是 select id from t where k=5。這個查詢語句在索引樹上查找的過程,先是通過 b+ 樹從樹根開始,按層搜尋到葉子節點,也就是圖中右下角的這個資料頁,然後可以認為資料頁内部通過二分法來定位記錄。

對于普通索引來說,查找到滿足條件的第一個記錄 (5,500) 後,需要查找下一個記錄,直到碰到第一個不滿足 k=5 條件的記錄。

對于唯一索引來說,由于索引定義了唯一性,查找到第一個滿足條件的記錄後,就會停止繼續檢索。

那麼,這個不同帶來的性能差距會有多少呢?答案是,微乎其微。

你知道的,innodb 的資料是按資料頁為機關來讀寫的。也就是說,當需要讀一條記錄的時候,并不是将這個記錄本身從磁盤讀出來,而是以頁為機關,将其整體讀入記憶體。在 innodb 中,每個資料頁的大小預設是 16kb。

因為引擎是按頁讀寫的,是以說,當找到 k=5 的記錄的時候,它所在的資料頁就都在記憶體裡了。那麼,對于普通索引來說,要多做的那一次“查找和判斷下一條記錄”的操作,就隻需要一次指針尋找和一次計算。

當然,如果 k=5 這個記錄剛好是這個資料頁的最後一個記錄,那麼要取下一個記錄,必須讀取下一個資料頁,這個操作會稍微複雜一些。

但是,我們之前計算過,對于整型字段,一個資料頁可以放近千個 key,是以出現這種情況的機率會很低。是以,我們計算平均性能差異時,仍可以認為這個操作成本對于現在的 cpu 來說可以忽略不計。

更新過程

為了說明普通索引和唯一索引對更新語句性能的影響這個問題,我需要先跟你介紹一下 change buffer。

當需要更新一個資料頁時,如果資料頁在記憶體中就直接更新,而如果這個資料頁還沒有在記憶體中的話,在不影響資料一緻性的前提下,inoodb 會将這些更新操作緩存在 change buffer 中,這樣就不需要從磁盤中讀入這個資料頁了。在下次查詢需要通路這個資料頁的時候,将資料頁讀入記憶體,然後執行 change buffer 中與這個頁有關的操作。通過這種方式就能保證這個資料邏輯的正确性。

需要說明的是,雖然名字叫作 change buffer,實際上它是可以持久化的資料。也就是說,change buffer 在記憶體中有拷貝,也會被寫入到磁盤上。

将 change buffer 中的操作應用到原資料頁,得到最新結果的過程稱為 merge。除了通路這個資料頁會觸發 merge 外,系統有背景線程會定期 merge。在資料庫正常關閉(shutdown)的過程中,也會執行 merge 操作。

顯然,如果能夠将更新操作先記錄在 change buffer,減少讀磁盤,語句的執行速度會得到明顯的提升。而且,資料讀入記憶體是需要占用 buffer pool 的,是以這種方式還能夠避免占用記憶體,提高記憶體使用率。

那麼,什麼條件下可以使用 change buffer 呢?

對于唯一索引來說,所有的更新操作都要先判斷這個操作是否違反唯一性限制。比如,要插入 (4,400) 這個記錄,就要先判斷現在表中是否已經存在 k=4 的記錄,而這必須要将資料頁讀入記憶體才能判斷。如果都已經讀入到記憶體了,那直接更新記憶體會更快,就沒必要使用 change buffer 了。

是以,唯一索引的更新就不能使用 change buffer,實際上也隻有普通索引可以使用。

change buffer 用的是 buffer pool 裡的記憶體,是以不能無限增大。change buffer 的大小,可以通過參數 innodb_change_buffer_max_size 來動态設定。這個參數設定為 50 的時候,表示 change buffer 的大小最多隻能占用 buffer pool 的 50%。

現在,你已經了解了 change buffer 的機制,那麼我們再一起來看看如果要在這張表中插入一個新記錄 (4,400) 的話,innodb 的處理流程是怎樣的。

第一種情況是,這個記錄要更新的目标頁在記憶體中。這時,innodb 的處理流程如下:

對于唯一索引來說,找到 3 和 5 之間的位置,判斷到沒有沖突,插入這個值,語句執行結束;

對于普通索引來說,找到 3 和 5 之間的位置,插入這個值,語句執行結束。

這樣看來,普通索引和唯一索引對更新語句性能影響的差别,隻是一個判斷,隻會耗費微小的 cpu 時間。

但,這不是我們關注的重點。

第二種情況是,這個記錄要更新的目标頁不在記憶體中。這時,innodb 的處理流程如下:

對于唯一索引來說,需要将資料頁讀入記憶體,判斷到沒有沖突,插入這個值,語句執行結束;

對于普通索引來說,則是将更新記錄在 change buffer,語句執行就結束了。

将資料從磁盤讀入記憶體涉及随機 io 的通路,是資料庫裡面成本最高的操作之一。change buffer 因為減少了随機磁盤通路,是以對更新性能的提升是會很明顯的。

之前我就碰到過一件事兒,有個 dba 的同學跟我回報說,他負責的某個業務的庫記憶體命中率突然從 99% 降低到了 75%,整個系統處于阻塞狀态,更新語句全部堵住。而探究其原因後,我發現這個業務有大量插入資料的操作,而他在前一天把其中的某個普通索引改成了唯一索引。

change buffer 的使用場景

通過上面的分析,你已經清楚了使用 change buffer 對更新過程的加速作用,也清楚了 change buffer 隻限于用在普通索引的場景下,而不适用于唯一索引。那麼,現在有一個問題就是:普通索引的所有場景,使用 change buffer 都可以起到加速作用嗎?

因為 merge 的時候是真正進行資料更新的時刻,而 change buffer 的主要目的就是将記錄的變更動作緩存下來,是以在一個資料頁做 merge 之前,change buffer 記錄的變更越多(也就是這個頁面上要更新的次數越多),收益就越大。

是以,對于寫多讀少的業務來說,頁面在寫完以後馬上被通路到的機率比較小,此時 change buffer 的使用效果最好。這種業務模型常見的就是賬單類、日志類的系統。

反過來,假設一個業務的更新模式是寫入之後馬上會做查詢,那麼即使滿足了條件,将更新先記錄在 change buffer,但之後由于馬上要通路這個資料頁,會立即觸發 merge 過程。這樣随機通路 io 的次數不會減少,反而增加了 change buffer 的維護代價。是以,對于這種業務模式來說,change buffer 反而起到了副作用。

索引選擇和實踐

回到我們文章開頭的問題,普通索引和唯一索引應該怎麼選擇。其實,這兩類索引在查詢能力上是沒差别的,主要考慮的是對更新性能的影響。是以,我建議你盡量選擇普通索引。

如果所有的更新後面,都馬上伴随着對這個記錄的查詢,那麼你應該關閉 change buffer。而在其他情況下,change buffer 都能提升更新性能。

在實際使用中,你會發現,普通索引和 change buffer 的配合使用,對于資料量大的表的更新優化還是很明顯的。

特别地,在使用機械硬碟時,change buffer 這個機制的收效是非常顯著的。是以,當你有一個類似“曆史資料”的庫,并且出于成本考慮用的是機械硬碟時,那你應該特别關注這些表裡的索引,盡量使用普通索引,然後把 change buffer 盡量開大,以確定這個“曆史資料”表的資料寫入速度。

change buffer 和 redo log

了解了 change buffer 的原理,你可能會聯想到我在前面文章中和你介紹過的 redo log 和 wal。

有同學混淆了 redo log 和 change buffer。wal 提升性能的核心機制,也的确是盡量減少随機讀寫,這兩個概念确實容易混淆。是以,這裡我把它們放到了同一個流程裡來說明,便于你區分這兩個概念。

現在,我們要在表上執行這個插入語句:

這裡,我們假設目前 k 索引樹的狀态,查找到位置後,k1 所在的資料頁在記憶體 (innodb buffer pool) 中,k2 所在的資料頁不在記憶體中。如圖 2 所示是帶 change buffer 的更新狀态圖。

mysql普通索引和唯一索引——mysql change buffer深入解析!

分析這條更新語句,你會發現它涉及了四個部分:記憶體、redo log(ib_log_filex)、 資料表空間(t.ibd)、系統表空間(ibdata1)。

這條更新語句做了如下的操作(按照圖中的數字順序):

page 1 在記憶體中,直接更新記憶體;

page 2 沒有在記憶體中,就在記憶體的 change buffer 區域,記錄下“我要往 page 2 插入一行”這個資訊

将上述兩個動作記入 redo log 中(圖中 3 和 4)。

做完上面這些,事務就可以完成了。是以,你會看到,執行這條更新語句的成本很低,就是寫了兩處記憶體,然後寫了一處磁盤(兩次操作合在一起寫了一次磁盤),而且還是順序寫的。

同時,圖中的兩個虛線箭頭,是背景操作,不影響更新的響應時間。

那在這之後的讀請求,要怎麼處理呢?

比如,我們現在要執行 select * from t where k in (k1, k2)。這裡,我畫了這兩個讀請求的流程圖。

如果讀語句發生在更新語句後不久,記憶體中的資料都還在,那麼此時的這兩個讀操作就與系統表空間(ibdata1)和 redo log(ib_log_filex)無關了。是以,我在圖中就沒畫出這兩部分。

mysql普通索引和唯一索引——mysql change buffer深入解析!

從圖中可以看到:

讀 page 1 的時候,直接從記憶體傳回。有幾位同學在前面文章的評論中問到,wal 之後如果讀資料,是不是一定要讀盤,是不是一定要從 redo log 裡面把資料更新以後才可以傳回?其實是不用的。你可以看一下圖 3 的這個狀态,雖然磁盤上還是之前的資料,但是這裡直接從記憶體傳回結果,結果是正确的。

要讀 page 2 的時候,需要把 page 2 從磁盤讀入記憶體中,然後應用 change buffer 裡面的記錄檔,生成一個正确的版本并傳回結果。

可以看到,直到需要讀 page 2 的時候,這個資料頁才會被讀入記憶體。

是以,如果要簡單地對比這兩個機制在提升更新性能上的收益的話,redo log 主要節省的是随機寫磁盤的 io 消耗(轉成順序寫),而 change buffer 主要節省的則是随機讀磁盤的 io 消耗。

小結

今天,我從普通索引和唯一索引的選擇開始,和你分享了資料的查詢和更新過程,然後說明了 change buffer 的機制以及應用場景,最後講到了索引選擇。

由于唯一索引用不上 change buffer 的優化機制,是以如果業務可以接受,從性能角度出發我建議你優先考慮非唯一索引。

最後,到了思考題時間。

通過圖 2 你可以看到,change buffer 一開始是寫記憶體的,那麼如果這個時候機器掉電重新開機,會不會導緻 change buffer 丢失呢?change buffer 丢失可不是小事兒,再從磁盤讀入資料可就沒有了 merge 過程,就等于是資料丢失了。會不會出現這種情況呢?