本文為本人學習極客時間《MySQL實戰45講》的學習筆記。
原文連結：https://time.geekbang.org/column/article/68633
本文目錄：
1、redo log：重做日志
2、binlog：歸檔日志
3、兩階段送出
4、小結
上篇文章中我們了解了一個查詢語句的執行流程，并介紹了執行過程中涉及的處理子產品。一條查詢語句的執行過程一般是經過連接配接器、分析器、優化器、執行器等功能子產品，最後到達存儲引擎。
那麼，一條更新語句的執行流程又是怎樣的呢？
之前你可能聽到過：MySQL 可以恢複到半個月内任意一秒的狀态，那麼它是如何實作的呢？
我們還是從一個表和一個更新語句說起，這個表有一個主鍵 ID 和一個整型字段 c：
mysql> create table T(ID int primary key, c int);
如果要将 ID = 2 這一行的值加1，那麼SQL 語句會這樣寫：
mysql> update T set c=c+1 where ID=2;
前面講過查詢會走的那一套流程，更新語句也會走一遍。
執行語句前都是先要連接配接上資料庫。前面說過，在一個表上有更新時，跟這個表有關的查詢緩存都會失效，是以這條更新語句會把表 T 上所有的緩存結果都清空。
接下來，分析器會通過詞法和文法解析知道這是一條更新語句。優化器決定要用 ID 這個索引。
然後，執行器負責具體執行，找到這一行，則更新。
與查詢流程不一樣的是，更新流程還涉及到兩個重要的日志子產品：redo log（重做日志）和 binlog（歸檔日志）。
本篇文章其實主要就是為了講解這兩個日志子產品。
1、redo log：重做日志
不知道你還記不記得《孔乙己》這篇文章，酒店掌櫃有一個粉闆，專門用來記錄客人的賒賬記錄。如果賒賬的人不多，那麼他可以把顧客名和賬目寫在闆上。但是如果賒賬的人多了，粉闆會有記不下的時候，這個時候掌櫃一定還要有一個專門記錄賒賬的賬本。
是以，如果有人要賒賬或者還賬的話，掌櫃一般有兩種做法：
1、一種做法是直接把賬本翻出來，把這次賒的帳加上去或者扣除掉；
2、另一種做法是先在粉闆上記下這次的賬，等打烊以後再把賬本翻出來核算。
在生意紅火，櫃台很忙的時候，掌櫃一定選擇後者，因為前者的操作實在太麻煩了。首先，你要找到這個人的賒賬總額那條記錄。你想想，密密麻麻的幾十頁，要找到這個名字，找到之後再計算，最後再将新的結果寫回到賬本。這個過程想想都很麻煩。是以相比這下，這個時候還是先在粉闆上記錄下比較友善。
同樣，在 MySQL 裡也有這個問題，如果每一次的更新操作都需要寫進磁盤，然後磁盤也要找到對應的那條記錄，然後更新，整個過程的 IO 成本、查找成本都很高。為了解決這個問題，MySQL的設計者就使用了類似酒店掌櫃粉闆的思路來提升效率。
而粉闆和賬本配合的過程，其實就是 MySQL 裡經常說的 WAL(Write-Ahead Logging) 技術，它的關鍵點就是先寫日志，再寫磁盤，也就是先寫粉闆，等不忙的時候再寫賬本。
具體來說，當有一條記錄需要更新的時候，InnoDB 引擎就會先把記錄寫到 redo log（粉闆）裡面，并更新記憶體，這個時候更新就算完成了。同時， InnoDB 引擎會在合适的時候，将這個操作記錄更新到磁盤中，而這個更新往往是在系統比較空閑的時候做，這就像掌櫃在打烊的時候将粉闆上的記錄更新到賬本上一樣。
與此類似，InnoDB 的 redo log 是固定大小的，比如可以配置為一組 4 個檔案，每個檔案大小是 1GB ，那麼這塊“粉闆”總共就可以記錄 4GB 的操作。從頭開始寫，寫到末尾就又回到開頭循環寫，如下圖所示：
write pos 是目前記錄的位置，一邊寫一邊後移，寫到第3号檔案末尾就回到 0 号檔案的開頭。
checkpoint 是目前要擦除的位置，也是往後推移并且循環的，擦除記錄前要把記錄更新到資料檔案中。
write pos 和 checkpoint 之間（就是write pos 到3号檔案末尾，再加上0号檔案開頭到checkpoint 的部分）的是“粉闆”上還空着的部分，可以用來記錄新的操作。如果 write pos 追上 checkpoint，表示“粉闆”滿了，這時候不能再執行新的更新，得停下來先擦掉一些記錄，把 checkpoint 推進一下。
有了 redo log，InnoDB就可以保證即使資料庫發生異常重新開機，之前送出的記錄都不會丢失，這個能力稱為“crash-safe”。
要了解 crash-safe 這個概念，可以想想我們賒賬記錄的例子。隻要賒賬記錄記在了粉闆或者賬本上，之後即使掌櫃忘了，比如突然停業幾天，恢複生意後依然可以通過賬本和粉闆上的資料明确賒賬賬目。
2、binlog：歸檔日志
MySQL 整體來看，其實就是兩塊：一塊是 Server 層，它主要做的是 MySQL 功能層面的事情；還有一塊是引擎層，負責存儲相關的具體事宜。而上面的 redo log 是 InnoDB 引擎特有的日志（其他引擎沒有），而 Server 層也有自己的日志，稱為 binlog：歸檔日志。
binlog有兩種模式：
1、statement 格式的話是記 SQL 語句；
2、row格式會記錄行的内容，記兩條，更新前和更新後的 SQL 都有。
那麼為什麼會有兩份日志呢？
因為最開始 MySQL 裡并沒有 InnoDB 引擎。MySQL 自帶的引擎是 MyISAM ，但是 MyISAM 沒有 crash-safe 能力，binlog 日志隻能用于歸檔。而 InnoDB 是另一家公司以插件形式引入 MySQL 的，既然隻依靠 binlog 是沒有 crash-safe 能力的，是以 InnoDB 使用另外一套日志系統，也就是 redo log 來實作 crash-safe 能力。
這兩種日志有以下三種差別：
1、redo log 是 InnoDB 引擎特有的，而 binlog 是 MySQL 的 Server 層實作的，所有引擎都可以使用；
2、redo log 是實體日志，記錄的是“在某個資料寫上做了什麼修改”，而 binlog 是邏輯日志，記錄的是這個語句的原始邏輯，比如“給 ID = 2 這一行的 c 字段加1”。
3、redo log 是循環寫的，空間固定會用完，而 binlog 是可以追加寫入的。“追加寫”是指 binlog 檔案寫到一定大小後會切換到下一個新檔案，并不會覆寫掉以前的日志。
有了這兩個日志的基礎，我們再來看看執行器和 InnoDB 引擎在執行這個簡單的 update 語句時的内部流程：
1、執行器先找引擎取 ID=2 這一行。ID 是主鍵，引擎直接用搜尋樹找到這一行。如果 ID=2 這一行所在的資料頁本來就在記憶體中，就直接傳回給執行器；否則，需要先從磁盤讀入記憶體，然後再傳回；
2、執行器拿到引擎給的行資料，把這個值加上 1，比如原來是 N，那麼現在就是 N+1，得到新的一行資料，再調用引擎接口寫入這行新資料。
3、引擎将這行新資料更新到記憶體中，同時将這個更新記錄到 redo log 裡面，此時 redo log 處于 prepare 狀态。然後告知執行器執行完成了，随時可以送出事務；
4、執行器生成這個操作的 binlog，并把 binlog 寫入磁盤；
5、執行器調用引擎的送出事務接口，引擎把剛剛寫入的 redo log 的prepare狀态改成送出 commit 狀态，更新完成。
下圖為這個 update 語句的執行流程圖，圖中淺色框表示在 InnoDB 内部執行的，深色框表示在執行器中執行的。
update 語句執行流程
你可能注意到了，最後三步看上去有點“繞”，将 redo log 的寫入拆成了兩個步驟：prepare 和 commit，這就是"兩階段送出"。
3、兩階段送出
為什麼需要兩階段送出呢？----> 這是為了讓兩份日志直接的邏輯一緻。
要說明這個問題，我們得從文章開頭的那個問題說起：怎樣讓資料庫恢複到半個月内任意一秒的狀态？
前面我們說過了，binlog 會記錄所有的邏輯操作（是以資料庫恢複的時候用的是binlog），并且是采用“追加寫”的形式。如果你的 DBA 承諾說半個月内可以恢複，那麼備份系統中一定會儲存最近半個月的所有 binlog，同時系統會定期做整庫備份。這裡的“定期”取決于系統的重要性，可以是一天一備，也可以是一周一備。
當需要恢複到指定的某一秒時，比如某天下午兩點發現中午十二點有一次誤删表，需要找回資料，那你可以這麼做：
1、首先，找到最近的一次全量備份，如果你運氣好，可能就是昨天晚上的一個備份，從這個備份恢複到臨時庫；
2、然後，從備份的時間點開始，将備份的 binlog 依次取出來，重放到中午誤删表之前的那個時刻。 這樣你的臨時庫就跟誤删之前的那個時刻。
這樣你的臨時庫就跟誤删之前的線上庫一樣了，然後你可以把表資料從臨時庫取出來，按需要恢複到線上庫去。
好了，說完了資料恢複過程，我們回來說說，為什麼日志需要“兩階段送出”。這裡不妨用反證法來進行解釋。
由于 redo log和 binlog 是兩個獨立的邏輯，如果不用兩階段送出，要麼就是先寫完 redo log 再寫 binlog，或者采用反過來的順序。我們看看這兩種方式會有什麼問題。
仍然用前面的 update 語句來做例子。假設目前 ID=2 的行，字段 c 的值是0，再假設執行 uddate 語句的過程中在寫完第一個日志後，第二個日志還沒有寫完期間發生了 crash ，會出現什麼情況呢？
1、先寫 redo log 後寫 binlog：
假設在 redo log 寫完，binlog 還沒有寫完的時候，MySQL 進行異常重新開機。由于我們前面說過，redo log 寫完之後，系統即使崩潰，仍然能夠把資料恢複回來，是以恢複後這一行 c 的值是 1。
但是由于 binlog 沒寫完就 crash 了，這時候 binlog 裡面就沒有記錄這個語句。是以，之後備份日志的時候，存起來的 binlog 裡面就沒有這條語句。
然後你會發現，如果需要用這個 binlog 來恢複臨時庫的話，由于這個語句的 binlog 丢失，這個臨時庫就會少了這一次更新，恢複出來的這一行 c 的值就是 0，與原庫的值不同。
2、先寫 binlog 後寫 redo log
如果在 binlog 寫完之後 crash，由于 redo log 還沒寫，崩潰恢複以後這個事務無效，是以這一行 c 的值是 0。但是 binlog 裡面已經記錄了“把 c 從 0 改成 1”這個日志。是以，在之後用 binlog 來恢複的時候就多了一個事務出來，恢複出來的這一行 c 的值就是 1，與原庫的值不同。
可以看到，如果不使用“兩階段送出”，那麼資料庫的狀态就有可能和用它的日志恢複出來的庫的狀态不一緻。redo log 執行成功的話，目前資料庫的值就會發生更新，但是 binlog 中記錄的值是用來恢複資料庫記錄用的。
實際情況中除了誤删資料庫資料後用“兩階段送出”這個過程來恢複資料。當你需要擴容的時候，也就是需要多搭建一些備庫來增加系統的讀能力的時候，現在最常見的是用全量備份加上應用 binlog 來實作的，這個“不一緻” 就會導緻你的線上出現主從資料庫不一緻的情況。
簡單說，redo log 和 binlog 都可以用于表示事務的送出狀态，而兩階段送出就是讓這兩個狀态保持邏輯上的一緻，即要麼都成功，要麼都失敗。
4、小結
MySQL 裡面最重要的兩個日志，即實體日志 redo log 和邏輯日志 binlog。
redo log 用于保證 crash-safe 能力。innodb_flush_log_at_trx_commit 這個參數設定成 1 的時候，表示每次事務的 redo log 都直接持久化到磁盤。這個參數我建議你設定成 1，這樣可以保證 MySQL 異常重新開機之後資料不會丢失。
sync_binlog 這個參數設定成 1 的時候，表示每次事務的 binlog 都持久化到磁盤。這個參數我也建議你設定1，這樣可以保證 MySQL 異常重新開機之後 binlog 不丢失。
本文最後還介紹了與 MySQL 日志系統密切相關的“兩階段送出”。兩階段送出是跨系統維持資料邏輯一緻性時常用的一個方案，即使你不做資料庫核心開發，日常開發中也有可能會用到。