實習成長之路：MySQL二 ： 一條SQL更新語句是如何執行的？

上篇部落格答案

分析器。Oracle會在分析階段判斷語句是否正确，表是否存在，列是否存在等。猜測MySQL也這樣。MySQL确實在設計上受Oracle影響頗深。

讨論

1. 為什麼對權限的檢查不在優化器之前做？

   上篇寫到，我們的權限檢查是在執行器那個地方做的，那為啥不在優化器之前做呢？

因為有些時候，SQL語句要操作的表不隻是SQL字面上那些。比如如果有個觸發器，得在執行器階段（過程中）才能确定。優化器階段前是無能為力的

1. 我建立了一個沒有select權限的使用者，執行select * from T where k=1，報錯“select command denied”，并沒有報錯“unknown column”，是不是可以說明是在打開表之後才判斷讀取的列不存在？

這個是一個安全方面的考慮。你想想一個使用者如果沒有檢視這個表的權限，你是會告訴他字段不對還是沒權限？如果告訴他字段不對，其實給的資訊太多了，因為沒權限的意思還包含了：沒權限知道字段是否存在😄

一條更新語句的執行流程又是怎樣的呢？

我們還是從一個表的一條更新語句說起，下面是這個表的建立語句，這個表有一個主鍵 ID 和一個整型字段 c：

mysql> create table T(ID int primary key, c int);
           

如果要将 ID=2 這一行的值加 1，SQL 語句就會這麼寫：

update T set c=c+1 where ID=2;
           

首先，可以确定的說，查詢語句的那一套流程，更新語句也是同樣會走一遍。

你執行語句前要先連接配接資料庫，這是連接配接器的工作。

前面我們說過，在一個表上有更新的時候，跟這個表有關的查詢緩存會失效，是以這條語句就會把表 T 上所有緩存結果都清空。這也就是我們一般不建議使用查詢緩存的原因。

接下來，分析器會通過詞法和文法解析知道這是一條更新語句。優化器決定要使用 ID 這個索引。然後，執行器負責具體執行，找到這一行，然後更新。

與查詢流程不一樣的是，更新流程還涉及兩個重要的日志子產品，它們正是我們今天要讨論的主角：redo log（重做日志）和 binlog（歸檔日志）。

重要的日志子產品：redo log

用林老師的例子來說

酒店掌櫃有一個粉闆，專門用來記錄客人的賒賬記錄。如果賒賬的人不多，那麼他可以把顧客名和賬目寫在闆上。但如果賒賬的人多了，粉闆總會有記不下的時候，這個時候掌櫃一定還有一個專門記錄賒賬的賬本。

如果有人要賒賬或者還賬的話，掌櫃一般有兩種做法：

1. 一種做法是直接把賬本翻出來，把這次賒的賬加上去或者扣除掉；

2. 另一種做法是先在粉闆上記下這次的賬，等打烊以後再把賬本翻出來核算。

   在生意紅火櫃台很忙時，掌櫃一定會選擇後者，因為前者操作實在是太麻煩了。首先，你得找到這個人的賒賬總額那條記錄。你想想，密密麻麻幾十頁，掌櫃要找到那個名字，可能還得帶上老花鏡慢慢找，找到之後再拿出算盤計算，最後再将結果寫回到賬本上。

這整個過程想想都麻煩。相比之下，還是先在粉闆上記一下友善。你想想，如果掌櫃沒有粉闆的幫助，每次記賬都得翻賬本，效率是不是低得讓人難以忍受？

同樣，在 MySQL 裡也有這個問題，如果每一次的更新操作都需要寫進磁盤，然後磁盤也要找到對應的那條記錄，然後再更新，整個過程 IO 成本、查找成本都很高。為了解決這個問題，MySQL 的設計者就用了類似酒店掌櫃粉闆的思路來提升更新效率。

而粉闆和賬本配合的整個過程，其實就是 MySQL 裡經常說到的 WAL 技術，WAL 的全稱是 Write-Ahead Logging，它的關鍵點就是先寫日志，再寫磁盤，也就是先寫粉闆，等不忙的時候再寫賬本。

具體來說，當有一條記錄需要更新的時候，InnoDB 引擎就會先把記錄寫到 redo log（粉闆）裡面，并更新記憶體，這個時候更新就算完成了。同時，InnoDB 引擎會在适當的時候，将這個操作記錄更新到磁盤裡面，而這個更新往往是在系統比較空閑的時候做，這就像打烊以後掌櫃做的事。

如果今天賒賬的不多，掌櫃可以等打烊後再整理。但如果某天賒賬的特别多，粉闆寫滿了，又怎麼辦呢？這個時候掌櫃隻好放下手中的活兒，把粉闆中的一部分賒賬記錄更新到賬本中，然後把這些記錄從粉闆上擦掉，為記新賬騰出空間。

與此類似，InnoDB 的 redo log 是固定大小的，比如可以配置為一組 4 個檔案，每個檔案的大小是 1GB，那麼這塊“粉闆”總共就可以記錄 4GB 的操作。從頭開始寫，寫到末尾就又回到開頭循環寫，如下面這個圖所示。

write pos 是目前記錄的位置，一邊寫一邊後移，寫到第 3 号檔案末尾後就回到 0 号檔案開頭。checkpoint 是目前要擦除的位置，也是往後推移并且循環的，擦除記錄前要把記錄更新到資料檔案。

write pos 和 checkpoint 之間的是“粉闆”上還空着的部分，可以用來記錄新的操作。如果 write pos 追上 checkpoint，表示“粉闆”滿了，這時候不能再執行新的更新，得停下來先擦掉一些記錄，把 checkpoint 推進一下。

有了 redo log，InnoDB 就可以保證即使資料庫發生異常重新開機，之前送出的記錄都不會丢失，這個能力稱為 crash-safe。

就算MySQL突然挂了，等重新開機的時候，還是能根據redo log 來恢複資料的

重要的日志子產品：binlog

前面我們講過，MySQL 整體來看，其實就有兩塊：

一塊是 Server 層，它主要做的是 MySQL 功能層面的事情；

還有一塊是引擎層，負責存儲相關的具體事宜。

上面我們聊到的粉闆 redo log 是 InnoDB 引擎特有的日志，

而 Server 層也有自己的日志，稱為 binlog（歸檔日志）。

為什麼有兩份日志呢？

因為最開始 MySQL 裡并沒有 InnoDB 引擎。MySQL 自帶的引擎是 MyISAM，但是 MyISAM 沒有 crash-safe 的能力，binlog 日志隻能用于歸檔。而 InnoDB 是另一個公司以插件形式引入 MySQL 的，既然隻依靠 binlog 是沒有 crash-safe 能力的，是以 InnoDB 使用另外一套日志系統——也就是 redo log 來實作 crash-safe 能力。

兩種日志的不同點

1. redo log 是 InnoDB 引擎特有的；binlog 是 MySQL 的 Server 層實作的，所有引擎都可以使用。
2. redo log 是實體日志，記錄的是“在某個資料頁上做了什麼修改”；binlog 是邏輯日志，記錄的是這個語句的原始邏輯，比如“給 ID=2 這一行的 c 字段加 1 ”。
3. redo log 是循環寫的，空間固定會用完；binlog 是可以追加寫入的。“追加寫”是指 binlog 檔案寫到一定大小後會切換到下一個，并不會覆寫以前的日志。

update流程

有了對這兩個日志的概念性了解，我們再來看執行器和 InnoDB 引擎在執行這個簡單的 update 語句時的内部流程。

1. 執行器先找引擎取 ID=2 這一行。ID 是主鍵，引擎直接用樹搜尋找到這一行。如果 ID=2 這一行所在的資料頁本來就在記憶體中，就直接傳回給執行器；否則，需要先從磁盤讀入記憶體，然後再傳回。
2. 執行器拿到引擎給的行資料，把這個值加上 1，比如原來是 N，現在就是 N+1，得到新的一行資料，再調用引擎接口寫入這行新資料。
3. 引擎将這行新資料更新到記憶體中，同時将這個更新操作記錄到 redo log 裡面，此時 redo log 處于 prepare 狀态。然後告知執行器執行完成了，随時可以送出事務。
4. 執行器生成這個操作的 binlog，并把 binlog 寫入磁盤。

5. 執行器調用引擎的送出事務接口，引擎把剛剛寫入的 redo log 改成送出（commit）狀态，更新完成。

   這裡我給出這個 update 語句的執行流程圖，圖中淺色框表示是在 InnoDB 内部執行的，深色框表示是在執行器中執行的。

   

   你可能注意到了，最後三步看上去有點“繞”，将 redo log 的寫入拆成了兩個步驟：prepare 和 commit，這就是"兩階段送出"。

兩階段送出

為什麼必須有“兩階段送出”呢？這是為了讓兩份日志之間的邏輯一緻。要說明這個問題，就要從這個問題說起：怎樣讓資料庫恢複到半個月内任意一秒的狀态？

前面我們說過了，binlog 會記錄所有的邏輯操作，并且是采用“追加寫”的形式。如果你的 DBA 承諾說半個月内可以恢複，那麼備份系統中一定會儲存最近半個月的所有 binlog，同時系統會定期做整庫備份。這裡的“定期”取決于系統的重要性，可以是一天一備，也可以是一周一備。

假如某天下午兩點發現中午十二點有一次誤删表，需要找回資料，那你可以這麼做：

别說了，準備提桶跑路吧，這算是重大事故了😁

開玩笑，不可能删庫跑路的，看看解決辦法

1. 首先，找到最近的一次全量備份，如果你運氣好，可能就是昨天晚上的一個備份，從這個備份恢複到臨時庫；

2. 然後，從備份的時間點開始，将備份的 binlog 依次取出來，重放到中午誤删表之前的那個時刻。

   這樣你的臨時庫就跟誤删之前的線上庫一樣了，然後你可以把表資料從臨時庫取出來，按需要恢複到線上庫去。

為什麼日志需要“兩階段送出”

由于 redo log 和 binlog 是兩個獨立的邏輯，如果不用兩階段送出，要麼就是先寫完 redo log 再寫 binlog，或者采用反過來的順序。我們看看這兩種方式會有什麼問題。

仍然用前面的 update 語句來做例子。假設目前 ID=2 的行，字段 c 的值是 0，再假設執行 update 語句過程中在寫完第一個日志後，第二個日志還沒有寫完期間發生了 crash，會出現什麼情況呢？

1. **先寫 redo log 後寫 binlog。假設在 redo log 寫完，binlog 還沒有寫完的時候，MySQL 程序異常重新開機。**由于我們前面說過的，redo log 寫完之後，系統即使崩潰，仍然能夠把資料恢複回來，是以恢複後這一行 c 的值是 1。但是由于 binlog 沒寫完就 crash 了，這時候 binlog 裡面就沒有記錄這個語句。是以，之後備份日志的時候，存起來的 binlog 裡面就沒有這條語句。然後你會發現，如果需要用這個 binlog 來恢複臨時庫的話，由于這個語句的 binlog 丢失，這個臨時庫就會少了這一次更新，恢複出來的這一行 c 的值就是 0，與原庫的值不同。
2. 先寫 binlog 後寫 redo log。如果在 binlog 寫完之後 crash，由于 redo log 還沒寫，崩潰恢複以後這個事務無效，是以這一行 c 的值是 0。但是 binlog 裡面已經記錄了“把 c 從 0 改成 1”這個日志。是以，在之後用 binlog 來恢複的時候就多了一個事務出來，恢複出來的這一行 c 的值就是 1，與原庫的值不同。

你可能會說，這個機率是不是很低，平時也沒有什麼動不動就需要恢複臨時庫的場景呀？其實不是的，不隻是誤操作後需要用這個過程來恢複資料。當你需要擴容的時候，也就是需要再多搭建一些備庫來增加系統的讀能力的時候，現在常見的做法也是用全量備份加上應用 binlog 來實作的，這個“不一緻”就會導緻你的線上出現主從資料庫不一緻的情況。簡單說，redo log 和 binlog 都可以用于表示事務的送出狀态，而兩階段送出就是讓這兩個狀态保持邏輯上的一緻。

redo log 用于保證 crash-safe 能力。innodb_flush_log_at_trx_commit 這個參數設定成 1 的時候，表示每次事務的 redo log 都直接持久化到磁盤。這個參數我建議你設定成 1，這樣可以保證 MySQL 異常重新開機之後資料不丢失。

sync_binlog 這個參數設定成 1 的時候，表示每次事務的 binlog 都持久化到磁盤。這個參數我也建議你設定成 1，這樣可以保證 MySQL 異常重新開機之後 binlog 不丢失。

我還跟你介紹了與 MySQL 日志系統密切相關的“兩階段送出”。兩階段送出是跨系統維持資料邏輯一緻性時常用的一個方案，即使你不做資料庫核心開發，日常開發中也有可能會用到。

思考題

前面說到定期全量備份的周期“取決于系統重要性，有的是一天一備，有的是一周一備”。那麼在什麼場景下，一天一備會比一周一備更有優勢呢？或者說，它影響了這個資料庫系統的哪個名額？