MySQL性能優化

相關文章出處連結：

　　　MySQL優化/面試，看這一篇就夠了

　　　史上最全的MySQL高性能優化規範建議

　　　MySQL性能優化之骨灰級，高階神技 ！

資料庫指令規範

• 所有資料庫對象名稱必須使用小寫字母并用下劃線分割
• 所有資料庫對象名稱禁止使用mysql保留關鍵字（如果表名中包含關鍵字查詢時，需要将其用單引号括起來）
• 資料庫對象的命名要能做到見名識意，并且最後不要超過32個字元
• 臨時庫表必須以tmp_為字首并以日期為字尾，備份表必須以bak_為字首并以日期(時間戳)為字尾
• 所有存儲相同資料的列名和列類型必須一緻（一般作為關聯列，如果查詢時關聯列類型不一緻會自動進行資料類型隐式轉換，會造成列上的索引失效，導緻查詢效率降低）

資料庫基本設計規範

1. 所有表必須使用Innodb存儲引擎

沒有特殊要求（即Innodb無法滿足的功能如：列存儲，存儲空間資料等）的情況下，所有表必須使用Innodb存儲引擎（mysql5.5之前預設使用Myisam，5.6以後預設的為Innodb）。

Innodb 支援事務，支援行級鎖，更好的恢複性，高并發下性能更好。

2. 資料庫和表的字元集統一使用UTF8

相容性更好，統一字元集可以避免由于字元集轉換産生的亂碼，不同的字元集進行比較前需要進行轉換會造成索引失效，如果資料庫中有存儲emoji表情的需要，字元集需要采用utf8mb4字元集。

3. 所有表和字段都需要添加注釋

使用comment從句添加表和列的備注，從一開始就進行資料字典的維護

4. 盡量控制單表資料量的大小，建議控制在500萬以内。

500萬并不是Mysql資料庫的限制，過大會造成修改表結構，備份，恢複都會有很大的問題。

可以用曆史資料歸檔（應用于日志資料），分庫分表（應用于業務資料）等手段來控制資料量大小

5. 謹慎使用Mysql分區表

分區表在實體上表現為多個檔案，在邏輯上表現為一個表；

謹慎選擇分區鍵，跨分區查詢效率可能更低；

建議采用實體分表的方式管理大資料。

6. 盡量做到冷熱資料分離，減小表的寬度

Mysql限制每個表最多存儲4096列，并且每一行資料的大小不能超過65535位元組。

減少磁盤IO,保證熱資料的記憶體緩存命中率（表越寬，把表裝載進記憶體緩沖池時所占用的記憶體也就越大,也會消耗更多的IO）；

更有效的利用緩存，避免讀入無用的冷資料；

經常一起使用的列放到一個表中（避免更多的關聯操作）。

7. 禁止在表中建立預留字段

預留字段的命名很難做到見名識義。

預留字段無法确認存儲的資料類型，是以無法選擇合适的類型。

對預留字段類型的修改，會對表進行鎖定。

8. 禁止在資料庫中存儲圖檔，檔案等大的二進制資料

通常檔案很大，會短時間内造成資料量快速增長，資料庫進行資料庫讀取時，通常會進行大量的随機IO操作，檔案很大時，IO操作很耗時。

通常存儲于檔案伺服器，資料庫隻存儲檔案位址資訊

9. 禁止線上上做資料庫壓力測試

10. 禁止從開發環境，測試環境直接連接配接生産環境資料庫

資料庫字段設計規範

字段是用來存放資料的單元，設計好字段是設計資料庫的第一步，同樣會影響到系統的性能。

設計字段有一個基本的原則，保小不保大，也就是能夠用位元組少的字段就不用位元組數大的字段，目的是為了節省空間，提高查詢效率。

更小的字段，占用更小的磁盤空間，記憶體空間，更小的 IO 消耗。下面針對使用場景，說一些字段類型選取的經驗，供大家參考。

1、數值類型

手機号：通常我們在存儲手機号的時候，喜歡用 Varchar 類型。

　　如果是 11 位的手機号，假設我們用 utf8 的編碼，每位位元組就需要 3 個位元組，那麼就需要 11*33=33 個位元組來存放；如果我們使用 bigint，隻需要 8 個位元組就可以存放。

IP 位址：同上，IP 位址也可以通過 int（4 位元組）在存放，可以通過 INET_ATON() 函數把 IP 位址轉成數字。這裡需要注意溢出的問題，需要用無符号的 int。

　　mysql提供了兩個方法來處理ip位址

• • 　inet_aton 把ip轉為無符号整型(4-8位)
  • 　inet_ntoa 把整型的ip轉為位址

　　插入資料前，先用inet_aton把ip位址轉為整型，可以節省空間，顯示資料時，使用inet_ntoa把整型的ip位址轉為位址顯示即可。

年齡，枚舉類型：可以用 tinyint 來存放，它隻占用 1 個位元組，無符号的 tinyint 可以表示 0-255 的範圍，基本夠用了。

2、對于非負型的資料（如自增ID、整型IP）來說，要優先使用無符号整型來存儲

原因：

無符号相對于有符号可以多出一倍的存儲空間

SIGNED INT -2147483648~2147483647
UNSIGNED INT 0~4294967295      

VARCHAR(N)中的N代表的是字元數，而不是位元組數，使用UTF8存儲255個漢字 Varchar(255)=765個位元組。過大的長度會消耗更多的記憶體。

3、字元類型

Char 和 Varchar 是我們常用的字元類型。char(N) 用來記錄固定長度的字元，如果長度不足 N 的，用空格補齊。

varchar(N) 用來儲存可變長度的字元，它會額外增加 1-2 位元組來儲存字元串的長度。

Char 和 Varchar 占用的位元組數，根據資料庫的編碼格式不同而不同。Latin1 占用 1 個位元組，gbk 占用 2 個位元組，utf8 占用 3 個位元組。

用法方面，如果存儲的内容是可變長度的，例如：家庭住址，使用者描述就可以用 Varchar。

如果内容是固定長度的，例如：UUID（36 位），或者是 MD5 加密串（32 位），就可以使用 Char 存放。

4、時間類型

Datetime（8個位元組）和 Timestamp（4個位元組）都是可以精确到秒的時間類型。

是以在日常建表的時候可以有限選擇 Timestamp。不過他們有下面幾個小差別，需要注意的。

差別一：存儲資料方式不一樣。

　　Timestamp 是轉化成 utc 時間進行存儲，查詢時，轉化為用戶端時間傳回的。

差別二：兩者存儲時間的範圍不一樣。

　　Timestamp 為'1970-01-01 00:00:01.000000' 到'2038-01-19 03:14:07.999999'。

　　Datetime為'1000-01-01 00:00:00.000000'到'9999-12-31 23:59:59.999999'。

經常會有人用字元串存儲日期型的資料（不正确的做法）

• 缺點1：無法用日期函數進行計算和比較
• 缺點2：用字元串存儲日期要占用更多的空間

5、避免使用TEXT、BLOB資料類型，最常見的TEXT類型可以存儲64k的資料

　1、建議把BLOB或是TEXT列分離到單獨的擴充表中

　　Mysql記憶體臨時表不支援TEXT、BLOB這樣的大資料類型，如果查詢中包含這樣的資料，在排序等操作時，就不能使用記憶體臨時表，必須使用磁盤臨時表進行。而且對于這種資料，Mysql還是要進行二次查詢，會使sql性能變得很差，但是不是說一定不能使用這樣的資料類型。

　　如果一定要使用，建議把BLOB或是TEXT列分離到單獨的擴充表中，查詢時一定不要使用select * 而隻需要取出必要的列，不需要TEXT列的資料時不要對該列進行查詢。

　2、TEXT或BLOB類型隻能使用字首索引

　　因為MySQL對索引字段長度是有限制的，是以TEXT類型隻能使用字首索引，并且TEXT列上是不能有預設值的

6、避免使用ENUM類型

　　修改ENUM值需要使用ALTER語句

　　ENUM類型的ORDER BY操作效率低，需要額外操作

　　禁止使用數值作為ENUM的枚舉值

7、盡可能把所有列定義為NOT NULL

　　索引NULL列需要額外的空間來儲存，是以要占用更多的空間

　　進行比較和計算時要對NULL值做特别的處理

8、同财務相關的金額類資料必須使用decimal類型

• 非精準浮點：float,double
• 精準浮點：decimal

Decimal類型為精準浮點數，在計算時不會丢失精度

占用空間由定義的寬度決定，每4個位元組可以存儲9位數字，并且小數點要占用一個位元組

可用于存儲比bigint更大的整型資料

索引設計規範

1. 限制每張表上的索引數量，建議單張表索引不超過5個

　　索引并不是越多越好！索引可以提高效率同樣可以降低效率。

　　索引可以增加查詢效率，但同樣也會降低插入和更新的效率，甚至有些情況下會降低查詢效率。

　　因為mysql優化器在選擇如何優化查詢時，會根據統一資訊，對每一個可以用到的索引來進行評估，以生成出一個最好的執行計劃，如果同時有很多個索引都可以用于查詢，就會增加mysql優化器生成執行計劃的時間，同樣會降低查詢性能。

2. 禁止給表中的每一列都建立單獨的索引

　　5.6版本之前，一個sql隻能使用到一個表中的一個索引，5.6以後，雖然有了合并索引的優化方式，但是還是遠遠沒有使用一個聯合索引的查詢方式好。

3. 每個Innodb表必須有個主鍵

　Innodb是一種索引組織表：資料的存儲的邏輯順序和索引的順序是相同的。每個表都可以有多個索引，但是表的存儲順序隻能有一種。

　Innodb是按照主鍵索引的順序來組織表的

• 不要使用更新頻繁的列作為主鍵，不适用多列主鍵（相當于聯合索引）
• 不要使用UUID,MD5,HASH,字元串列作為主鍵（無法保證資料的順序增長）
• 主鍵建議使用自增ID值

常見索引列建議

• 出現在SELECT、UPDATE、DELETE語句的WHERE從句中的列
• 包含在ORDER BY、GROUP BY、DISTINCT中的字段
• 并不要将符合1和2中的字段的列都建立一個索引， 通常将1、2中的字段建立聯合索引效果更好
• 多表join的關聯列

如何選擇索引列的順序

建立索引的目的是：希望通過索引進行資料查找，減少随機IO，增加查詢性能 ，索引能過濾出越少的資料，則從磁盤中讀入的資料也就越少。

• 區分度最高的放在聯合索引的最左側（區分度=列中不同值的數量/列的總行數）
• 盡量把字段長度小的列放在聯合索引的最左側（因為字段長度越小，一頁能存儲的資料量越大，IO性能也就越好）
• 使用最頻繁的列放到聯合索引的左側（這樣可以比較少的建立一些索引）

避免建立備援索引和重複索引（增加了查詢優化器生成執行計劃的時間）

• 重複索引示例：primary key(id)、index(id)、unique index(id)
• 備援索引示例：index(a,b,c)、index(a,b)、index(a)

對于頻繁的查詢優先考慮使用覆寫索引

覆寫索引：就是包含了所有查詢字段(where,select,ordery by,group by包含的字段)的索引

覆寫索引的好處：

避免Innodb表進行索引的二次查詢

　　Innodb是以聚集索引的順序來存儲的，對于Innodb來說，二級索引在葉子節點中所儲存的是行的主鍵資訊，如果是用二級索引查詢資料的話，在查找到相應的鍵值後，還要通過主鍵進行二次查詢才能擷取我們真實所需要的資料。

　　而在覆寫索引中，二級索引的鍵值中可以擷取所有的資料，避免了對主鍵的二次查詢 ，減少了IO操作，提升了查詢效率。

可以把随機IO變成順序IO加快查詢效率

　　由于覆寫索引是按鍵值的順序存儲的，對于IO密集型的範圍查找來說，對比随機從磁盤讀取每一行的資料IO要少的多，是以利用覆寫索引在通路時也可以把磁盤的随機讀取的IO轉變成索引查找的順序IO。

索引SET規範

盡量避免使用外鍵限制

• 不建議使用外鍵限制（foreign key），但一定要在表與表之間的關聯鍵上建立索引
• 外鍵可用于保證資料的參照完整性，但建議在業務端實作
• 外鍵會影響父表和子表的寫操作進而降低性能

資料庫SQL開發規範

1. 建議使用預編譯語句進行資料庫操作

　預編譯語句可以重複使用這些計劃，減少SQL編譯所需要的時間，還可以解決動态SQL所帶來的SQL注入的問題。

　隻傳參數，比傳遞SQL語句更高效。

　相同語句可以一次解析，多次使用，提高處理效率。

2. 避免資料類型的隐式轉換

　隐式轉換會導緻索引失效如:

select name,phone from customer where id = '111';      

3. 充分利用表上已經存在的索引

　避免使用雙%号的查詢條件。如：

a like '%123%'

，（如果無前置%,隻有後置%，是可以用到列上的索引的）

　一個SQL隻能利用到複合索引中的一列進行範圍查詢。如：有 a,b,c列的聯合索引，在查詢條件中有a列的範圍查詢，則在b,c列上的索引将不會被用到。

　在定義聯合索引時，如果a列要用到範圍查找的話，就要把a列放到聯合索引的右側，使用left join 或 not exists 來優化not in 操作，因為not in 也通常會使用索引失效。

4. 資料庫設計時，應該要對以後擴充進行考慮

5. 程式連接配接不同的資料庫使用不同的賬号，進制跨庫查詢

• 為資料庫遷移和分庫分表留出餘地
• 降低業務耦合度
• 避免權限過大而産生的安全風險

6. 禁止使用SELECT * 必須使用SELECT <字段清單> 查詢

• 消耗更多的CPU和IO以網絡帶寬資源
• 無法使用覆寫索引
• 可減少表結構變更帶來的影響

7. 禁止使用不含字段清單的INSERT語句

如：

insert into values ('a','b','c');      

應使用：

insert into t(c1,c2,c3) values ('a','b','c');      

8. 避免使用子查詢，可以把子查詢優化為join操作

　通常子查詢在in子句中，且子查詢中為簡單SQL(不包含union、group by、order by、limit從句)時,才可以把子查詢轉化為關聯查詢進行優化。

子查詢性能差的原因：

　子查詢的結果集無法使用索引，通常子查詢的結果集會被存儲到臨時表中，不論是記憶體臨時表還是磁盤臨時表都不會存在索引，是以查詢性能會受到一定的影響。特别是對于傳回結果集比較大的子查詢，其對查詢性能的影響也就越大。

　由于子查詢會産生大量的臨時表也沒有索引，是以會消耗過多的CPU和IO資源，産生大量的慢查詢。

9. 避免使用JOIN關聯太多的表

　對于Mysql來說，是存在關聯緩存的，緩存的大小可以由join_buffer_size參數進行設定。

　在Mysql中，對于同一個SQL多關聯（join）一個表，就會多配置設定一個關聯緩存，如果在一個SQL中關聯的表越多，所占用的記憶體也就越大。

　如果程式中大量的使用了多表關聯的操作，同時join_buffer_size設定的也不合理的情況下，就容易造成伺服器記憶體溢出的情況，就會影響到伺服器資料庫性能的穩定性。

　同時對于關聯操作來說，會産生臨時表操作，影響查詢效率，Mysql最多允許關聯61個表，建議不超過5個。

10. 減少同資料庫的互動次數

　資料庫更适合處理批量操作，合并多個相同的操作到一起，可以提高處理效率。

11. 對應同一列進行or判斷時，使用in代替or

　in 的值不要超過500個，in 操作可以更有效的利用索引，or大多數情況下很少能利用到索引。

12. 禁止使用order by rand() 進行随機排序

　order by rand()會把表中所有符合條件的資料裝載到記憶體中，然後在記憶體中對所有資料根據随機生成的值進行排序，并且可能會對每一行都生成一個随機值，如果滿足條件的資料集非常大，就會消耗大量的CPU和IO及記憶體資源。

　推薦在程式中擷取一個随機值，然後從資料庫中擷取資料的方式。

13. WHERE從句中禁止對列進行函數轉換和計算

　對列進行函數轉換或計算時會導緻無法使用索引

不推薦：

where date(create_time)='20190101'      

推薦：

where create_time >= '20190101' and create_time < '20190102'      

14. 在明顯不會有重複值時使用UNION ALL 而不是UNION

• UNION 會把兩個結果集的所有資料放到臨時表中後再進行去重操作
• UNION ALL 不會再對結果集進行去重操作

15. 拆分複雜的大SQL為多個小SQL

• 大SQL邏輯上比較複雜，需要占用大量CPU進行計算的SQL
• MySQL中，一個SQL隻能使用一個CPU進行計算
• SQL拆分後可以通過并行執行來提高處理效率

16. count(*)、count(1)、count(字段)差別

　　在InnoDB中COUNT(*)和COUNT(1)實作上沒有差別，而且效率一樣，但是COUNT(字段)需要進行字段的非NULL判斷，是以效率會低一些。

　　因為COUNT(*)是SQL92定義的标準統計行數的文法，并且效率高，是以請直接使用COUNT(*)查詢表的行數！

資料庫操作行為規範

超100萬行的批量寫（UPDATE、DELETE、INSERT）操作，要分批多次進行操作

1、大批量操作可能會造成嚴重的主從延遲

　　主從環境中,大批量操作可能會造成嚴重的主從延遲，大批量的寫操作一般都需要執行一定長的時間，

　　而隻有當主庫上執行完成後，才會在其他從庫上執行，是以會造成主庫與從庫長時間的延遲情況

2、binlog日志為row格式時會産生大量的日志

　　大批量寫操作會産生大量日志，特别是對于row格式二進制資料而言，由于在row格式中會記錄每一行資料的修改，我們一次修改的資料越多，産生的日志量也就會越多，日志的傳輸和恢複所需要的時間也就越長，這也是造成主從延遲的一個原因

3、避免産生大事務操作

　　大批量修改資料，一定是在一個事務中進行的，這就會造成表中大批量資料進行鎖定，進而導緻大量的阻塞，阻塞會對MySQL的性能産生非常大的影響。

　　特别是長時間的阻塞會占滿所有資料庫的可用連接配接，這會使生産環境中的其他應用無法連接配接到資料庫，是以一定要注意大批量寫操作要進行分批

對于大表使用pt-online-schema-change修改表結構

• 避免大表修改産生的主從延遲
• 避免在對表字段進行修改時進行鎖表

　對大表資料結構的修改一定要謹慎，會造成嚴重的鎖表操作，尤其是生産環境，是不能容忍的。

　pt-online-schema-change它會首先建立一個與原表結構相同的新表，并且在新表上進行表結構的修改，然後再把原表中的資料複制到新表中，并在原表中增加一些觸發器。把原表中新增的資料也複制到新表中，在行所有資料複制完成之後，把新表命名成原表，并把原來的表删除掉。把原來一個DDL操作，分解成多個小的批次進行。

禁止為程式使用的賬号賦予super權限

• 當達到最大連接配接數限制時，還運作1個有super權限的使用者連接配接
• super權限隻能留給DBA處理問題的賬号使用

對于程式連接配接資料庫賬号，遵循權限最小原則

• 程式使用資料庫賬号隻能在一個DB下使用，不準跨庫
• 程式使用的賬号原則上不準有drop權限