天天看點

MySQL優化技巧

目錄

MySQL的特點

資料類型優化

整型類型

小數類型

字元串類型

時間類型

主鍵類型的選擇

特殊類型的資料

索引優化

一個使用Hash值建立索引的技巧

字首索引

多列索引

聚簇索引

覆寫索引

重複索引和備援索引

不使用的索引

索引使用總結

查詢優化

查詢慢的原因

重構查詢的方式

雜七雜八

參考書

本文的内容是總結一些MySQL的常見使用技巧,以供沒有DBA的團隊參考。以下内容以MySQL5.5為準,如無特殊說明,存儲引擎以InnoDB為準。

了解MySQL的特點有助于更好的使用MySQL,MySQL和其它常見資料庫最大的不同在于存在存儲引擎這個概念,存儲引擎負責存儲和讀取資料。不同的存儲引擎具有不同的特點,使用者可以根據業務的特點選擇适合的存儲引擎,甚至是開發一個新的引擎。MySQL的邏輯架構大緻如下:

image.png-15.5kB

MySQL預設的存儲引擎是InnoDB,該存儲引擎的主要特點是:

支援事務處理

支援行級鎖

資料存儲在表空間中,表空間由一些列資料檔案組成

采用MVVC(多版本并發控制)機制實作高并發

表基于主鍵的聚簇索引建立

支援熱備份

其它常見存儲引擎特點概述:

MyISAM:老版本MySQL的預設引擎,不支援事務和行級鎖,開發者可以手動控制表鎖;支援全文索引;崩潰後無法安全恢複;支援壓縮表,壓縮表資料不可修改,但占用空間較少,可以提高查詢性能

Archive:隻支援Insert和Select,批量插入很快,通過全表掃描查詢資料

SCV:把一個SCV檔案當做一個表處理

Memory:資料存儲在記憶體中

還有很多,不再一一列舉。

選擇資料類型的原則:

選擇占用空間小的資料類型

選擇簡單的類型

避免不必要的可空列

占用空間小的類型更節省硬體資源,如磁盤、記憶體和CPU。盡量使用簡單的類型,如能用int就不用char,因為後者的排序涉及到字元集的選擇,比使用int複雜。可空列使用更多的存儲空間,如果在可空列上建立索引,MySQL需要額外的位元組做記錄。建立表時,預設都是可空,容易被開發者忽視,最好是手動改為不可空,如果要存儲的資料确實不會有空值的話。

整型類型包括:

tinyint

smallint

mediumint

int

bigint

它們分别使用8、16、24、32和64位存儲數字,它們可以表示−2n−1−2n−1到2n−1−12n−1−1範圍的數字,前面可以加unsigned修飾,這樣可以讓正數的可表示範圍提高1倍,但是無法表示負數。另外,為整型指定長度沒什麼卵用,資料類型定下來,長度也就相應定下來了。

float

double

decimal

float和double就是通常意義上的float和double,前者使用32位存儲資料,後者使用64位存儲資料,和整型一樣,為它們指定長度沒什麼卵用。

decimal類型比較複雜,支援精确計算,占用的空間也大,decimal使用每4個位元組表示9個數字,如decimal(18,9)表示數字長度是18,其中小數位9個數字,整數部分9個數字,加上小數點本身,共占用9個位元組。考慮到decimal占用空間較多,以及精度計算很複雜,資料量大的時候可以考慮用bigint代替之,可以在持久化和讀取前對真實資料進行一些縮放操作。

varchar

char

varbinary

binary

blob

text

枚舉

varchar類型資料實際占用空間等于字元串的長度加上1個或2個用來記錄字元串長度的位元組(當row-format沒有被設定為fixed時),varchar很節省空間。當表中某列字元串類型的資料長度差别較大時适合使用varchar。

char的實際占用空間是固定的,當表中字元串資料的長度相差無幾或很短時适合使用chart類型。

與varchar和char對應的有varbinary和binary,後者存儲的是二進制字元串,和前者相比,後者大小寫敏感,不用考慮編碼方式,執行比較操作時更快。

需要注意的是:雖然varchar(5)和varchar(200)在存儲“hello”這個字元串時使用相同的存儲空間,但并不意味着将varchar的長度設定太大不會影響性能,實際上,MySQL的某些内部計算,比如建立記憶體臨時表時(某些查詢會導緻MySQL自動建立臨時表),會配置設定固定大小的空間存放資料。

blob使用二進制字元串儲存大文本,text使用字元儲存大文本,InnoDB會使用專門的外部存儲區來存放此類資料,資料行内僅存放指向他們的指針,此類資料不宜建立索引(要建立也隻能正對字元串字首建立),不過也不會有人這麼幹。

如果某列字元串大量重複且内容有限,可使用枚舉代替,MySQL處理枚舉時維護了一個“數字-字元串”表,使用枚舉可以減少很多存儲空間。

year

date

time

datetime

timestamp

datetime存儲範圍是1001到9999,精确到秒。timestamp存儲1970年1月1日午夜以來的秒數,可以表示到2038年。占用4個位元組,是datetime占用空間的一半。timestamp表示的時間和時區有關,另外timestamp列還有個特性,執行insert或update語句時,MySQL會自動更新第一個類型為timestamp的列的資料為目前時間。很多表中都有設計有一列叫做UpdateTime,這個列使用timestamp倒是挺合适的,會自動更新,前提是系統不會使用到2038年。

盡可能使用整型,整型占用空間少,還可以設定為自動增長。尤其别使用GUID,MD5等哈希值字元串作為主鍵,這類字元串随機性很大,由于InnoDB主鍵預設是聚簇索引列,是以導緻資料存儲太分散。另外,InnoDB的二級索引列中預設包含主鍵列,如果主鍵太長,也會使得二級索引很占空間。

存儲IP最好使用32位無符号整型,MySQL提供了函數inet_aton()和inet_ntoa()進行IP位址的數字表示和字元串表示之間的轉換。

InnoDB使用B+樹實作索引,舉個例子,假設有個People,建表語句如下

CREATE TABLE

people

(

Id

int(11) NOT NULL AUTO_INCREMENT,

Name

varchar(5) NOT NULL,

Age

tinyint(4) NOT NULL,

Number

char(5) NOT NULL COMMENT '編号',

PRIMARY KEY (

Id

),

KEY

i_name_age_number

Name

,

Age

Number

)

) ENGINE=InnoDB AUTO_INCREMENT=14 DEFAULT CHARSET=utf8;

插入資料:

image.png-8kB

它的索引結構大緻是這樣的:

image.png-686.1kB

也就是說,索引列的順序很重要,如果兩行資料的Name列相同,則用Age列比較大小,如果Age列相同,則用Number列比較大小。先用第一列排序,然後是第二列,最後是第三列。

查詢的使用應該盡量從左往右比對,另外,如果左邊列範圍查找,右邊列無法使用索引;還有就是不能隔列查詢,否則後面的索引也無法使用到。如以下幾個SQL是正面範例:

SELECT * from people where Name ='Abel' and Age = 2 AND Number = 12312

SELECT * from people where Name ='Abel'

SELECT * from people where Name like 'Abel%'

SELECT * from people where Name = 'Andy' and Age BETWEEN 11 and 20

SELECT * from people ORDER BY NAME

SELECT * from people ORDER BY NAME, Age

SELECT * from people GROUP BY Name

以下幾個SQL是反面範例:

SELECT * from people where Age = 2

SELECT * from people where NAME like '%B'

SELECT * from people where age = 2

SELECT * from people where NAME = 'ABC' AND number = 3

SELECT * from people where NAME like 'B%' and age = 22

如果表中有一列存儲較長字元串,假設名字為URL,在此列上建立的索引比較大,有個辦法可以緩解:建立URL字元串的數字哈希值的索引。再建立一個字段,比如叫做URL_CRC,專門放置URL的哈希值,然後給這個字段建立索引,查詢時這樣寫:

select * from t where URL_CRC = 387695885 and URL = 'www.baidu.com'

如果資料量比較多,為防止哈希沖突,可自定義哈希函數,或用MD5函數傳回值的一部分作為哈希值:

SELECT CONV(RIGHT(MD5('www.baidu.com'),16), 16, 10)

如果字元串列存儲的資料較長,建立的索引也很大,這時可以使用字首索引,即:隻針對字元串前幾個字元做索引,這樣可以縮短索引的大小,不過,顯然,此類索引在執行order by和group by時不起作用。

建立字首索引時選擇字首長度很重要,在不破壞原來資料分布的情況下盡可能選擇較短的字首。舉個例子,如果如果大部分字元串是以"abc"開頭,那麼如果限定字首索引長度為4,索引值會包含太多的重複的"abcX"。

上面提到的“People”上建立的索引即為多列索引,多列索引往往比多個單列索引更好。

對多個索引進行and查詢時,應該建立多列索引,而不是多個單列索引

可以試試這樣寫的效果:

select from t where f1 = 'v1' and f2 <> 'v2' union all select from t where f2 = 'v2' and f1 <> 'v1'

多列索引的順序很重要,通常,不考慮排序和分組查詢時,應該把選擇性(選擇性是指某表索引列不同資料的個數/總行數。選擇性高意味着重複資料少)大的列放到前面。但也有例外,如果能确認某些查詢是頻繁執行的,則應該優先照顧這些查詢的選擇性,比如,如果上面的People表中Name的選擇性大于Age,查詢語句應該這樣寫:

select * from people where name = 'xxx' and age = xx

Name列放了索引中的左側比較合适,但是如果某個SQL執行的評率最高,比如

select * from people where name = 'xxx' and age = 20,

當age=20的記錄在資料庫中非常少時,反而把age放到索引列的左端效率更高。把age放了索引左端可能對其它age不等于20的查詢來說不公平,如果不能确定age=20是最非常頻繁的查詢條件,還是要綜合考慮,把name放了左側合适。

聚簇索引是一種資料存儲結構,InnoDB在主鍵的索引的葉子節點中直接儲存了資料行,而不是像二級索引那樣隻是儲存了索引列的值和所指向行的主鍵值。由于這個特性,一個表隻能有一個聚簇索引。如果一個表沒有定義主鍵也沒有定義具有唯一索引的列,那麼InnoDB會生成一個隐藏列,并且在此列設為聚簇索引列。

簡單地說,某些查詢隻需要查詢索引列,那麼就不用再根據索引B樹節點記錄的主鍵ID進行二次查詢了。

如果重複在某列建立索引,并不會帶來任何好處,隻有壞處,應該盡量避免。比如給主鍵建立唯一索引和普通索引就是多于的,因為InnoDB的主鍵預設就是聚簇索引了。

備援索引和重複索引不同,比如某個索引是(A,B),另一個索引是(A),這叫備援索引,前者可以代替後者,後者不可以代替前者的作用。但是(A,B)和(B)以及(A,B)和(B,A)不算備援索引,起作用誰也代替不了誰。

如果一個表中已經存在索引(A),現在又想建立索引(A,B),那麼隻需擴充就的索引就可以,沒有必要建立新的索引。需要注意的是如果已經存在索引(A),那麼也沒有必要在建立索引(A,ID),其中ID指主鍵,因為索引A預設已經包含了主鍵了,也算是備援主鍵。

但是,有時候,備援索引也是可取的,假設已經存在索引(A),将其擴充為(A,B)後,因為B列是一個很長的類型,導緻用A單獨查詢時沒有以前快了,這時可以考慮新建立索引(A,B)。

不使用的索引徒然增加insert、update和delete的效率,應該及時删除

索引的三星原則:

索引将查詢相關的記錄按順序放在一起則得一星

索引中的資料順序和查詢結果的排序一緻則得一星

索引中包含了查詢所需要的全部列則得一星

第一個條原則的意思是where條件中查詢的順序和索引是一緻的,就是前面說的從左到右使用索引。

索引不是萬能的,當資料量巨大時,維護索引本身也是耗費性能的,應該考慮分區分表存儲。

是否向資料庫請求了多餘的行

比如應用程式隻需要10條資料,但是卻向資料庫請求了所有的資料,在顯示在UI上之前抛棄了大部分資料。

是否向資料庫請求了多餘的列

比如應用程式隻需要展現5列,但卻通過select * from 把全部的列都查了出來

是否重複多次執行了相同的查詢

應用程式是否可以考慮一次查詢然後緩存,後面的用到時可以使用第一次查詢出來的記錄。

MySQL是否在掃描額外的記錄

通過檢視執行計劃可以大概了解需要掃描的記錄數,如果這個數字超出了預期,盡可能通過添加索引、優化SQL(就是本節的重點),或者改變表結構(如新增一個單獨的彙總表,專門供某個語句查詢用)來解決。

将一個複雜的查詢分解成多個簡單的查詢

将大的查詢切分成小的查詢,每次查詢功能一樣,隻完成一小部分

分解關聯查詢。可以将一個大的關聯查詢改成分别查詢若幹個表,然後在應用程式代碼中處理

優化count()

Count有兩個作用,一是統計指定的列或表達式,二是統計行數。如果參數傳入一列名或者是一個表達式,那麼count會統計所有結果不為NULL的行數,如果參數是*,那麼count會統計所有行數。這裡有一個傳表達式的例子:

SELECT count(name like 'B%') from people

可以使用近似值優化來代替count(),如執行計劃中的行數。

索引覆寫掃描

增加彙總表

增加記憶體緩存系統記錄資料條數

關聯查詢的優化

MySQL優化器關聯表查詢是這樣進行的,比如有兩個表A和B通過c列關聯,MySQL會周遊A表,然後根據周遊到的c列的值去B表中查找資料。綜上所述,通常,如無隻需要給B表的c列加上索引即可

確定order by和group by涉及到的列隻屬于一個表,這樣才有可能發揮索引的作用

優化子查詢

對于MySQL5.5及以下版本,盡量用連接配接代替子查詢。

優化group by、distinct

如果可能,盡量對主鍵施加這兩種操作。

優化limit

比如有SQL

SELECT * from sa_stockinfo ORDER BY StockAcc LIMIT 400, 5

MySQL優化器會查找405行所有列資料然後丢棄400。如果能利用覆寫索引查詢則不必查詢出這麼多列,先修改為:

SELECT * FROM sa_stockinfo i JOIN (SELECT StockInfoID FROM sa_stockinfo ORDER BY StockAcc LIMIT 400,5)t ON i.StockInfoID = t.StockInfoID

StockAcc上建有索引,該查詢會利用索引覆寫,較快找出符合條件的主鍵,然後在做聯合查詢,在資料量大的時候效果明顯。

優化union

如無必要,一定要用關鍵字 union all,這樣MySQL把資料放到臨時表時不會再做唯一性驗證

判斷某條記錄是否存在

通常的做法是

select count(*) from t where condition

最好這樣寫:

SELECT IFNULL((SELECT 1 from tableName where condition LIMIT 1),0)

《高性能MySQL》

原文位址

https://www.cnblogs.com/zzy0471/p/OptimizeMySQL.html