天天看點

你知道MySQL的Limit有性能問題嗎

MySQL的分頁查詢通常通過limit來實作。

MySQL的limit基本用法很簡單。limit接收1或2個整數型參數,如果是2個參數,第一個是指定第一個傳回記錄行的偏移量,第二個是傳回記錄行的最大數目。初始記錄行的偏移量是0。

為了與PostgreSQL相容,limit也支援limit # offset #。

問題:

對于小的偏移量,直接使用limit來查詢沒有什麼問題,但随着資料量的增大,越往後分頁,limit語句的偏移量就會越大,速度也會明顯變慢。

優化思想:

避免資料量大時掃描過多的記錄

解決:

子查詢的分頁方式或者JOIN分頁方式。

JOIN分頁和子查詢分頁的效率基本在一個等級上,消耗的時間也基本一緻。

下面舉個例子。一般MySQL的主鍵是自增的數字類型,這種情況下可以使用下面的方式進行優化。

下面以真實的生産環境的80萬條資料的一張表為例,比較一下優化前後的查詢耗時:

-- 傳統limit,檔案掃描
[SQL]SELECT * FROM tableName ORDER BY id LIMIT 500000,2;
受影響的行: 0
時間: 5.371s

-- 子查詢方式,索引掃描
[SQL]
SELECT * FROM tableName
WHERE id >= (SELECT id FROM tableName ORDER BY id LIMIT 500000 , 1)
LIMIT 2;
受影響的行: 0
時間: 0.274s

-- JOIN分頁方式
[SQL]
SELECT *
FROM tableName AS t1
JOIN (SELECT id FROM tableName ORDER BY id desc LIMIT 500000, 1) AS t2
WHERE t1.id <= t2.id ORDER BY t1.id desc LIMIT 2;
受影響的行: 0
時間: 0.278s
           

複制代碼可以看到經過優化性能提高了将近20倍。

優化原理:

子查詢是在索引上完成的,而普通的查詢時在資料檔案上完成的,通常來說,索引檔案要比資料檔案小得多,是以操作起來也會更有效率。因為要取出所有字段内容,第一種需要跨越大量資料塊并取出,而第二種基本通過直接根據索引字段定位後,才取出相應内容,效率自然大大提升。

是以,對limit的優化,不是直接使用limit,而是首先擷取到offset的id,然後直接使用limit size來擷取資料。

在實際項目使用,可以利用類似政策模式的方式去處理分頁,例如,每頁100條資料,判斷如果是100頁以内,就使用最基本的分頁方式,大于100,則使用子查詢的分頁方式。