天天看點

【超實用】SQL 進階技巧(上)

原文連結

由于工作需要,最近做了很多 BI 取數的工作,需要用到一些比較進階的 SQL 技巧,總結了一下工作中用到的一些比較騷的進階技巧,特此記錄一下,以友善自己查閱,主要目錄如下:

  • SQL 的書寫規範
  • SQL 的一些進階使用技巧
  • SQL 的優化方法

在介紹一些技巧之前,有必要強調一下規範,這一點我發現工作中經常被人忽略,其實遵循好的規範可讀性會好很多,應該遵循哪些規範呢

1、 表名要有意義,且标準 SQL 中規定表名的第一個字元應該是字母。

2、注釋,有單行注釋和多行注釋,如下

-- 單行注釋
-- 從SomeTable中查詢col_1 
SELECT col_1
  FROM SomeTable;
/*
多行注釋
從 SomeTable 中查詢 col_1 
*/
SELECT col_1
  FROM SomeTable;           

多行注釋很多人不知道,這種寫法不僅可以用來添加真正的注釋,也可以用來注釋代碼,非常友善

3、縮進

就像寫 Java,Python 等程式設計語言一樣 ,SQL 也應該有縮進,良好的縮進對提升代碼的可讀性幫助很大,以下分别是好的縮進與壞的縮進示例

-- 好的縮進
SELECT col_1, 
    col_2, 
    col_3,
    COUNT(*) 
  FROM tbl_A
 WHERE col_1 = 'a'
   AND col_2 = ( SELECT MAX(col_2)
                   FROM tbl_B
                  WHERE col_3 = 100 )
 GROUP BY col_1,
          col_2,
          col_3
-- 壞的示例
SELECT col1_1, col_2, col_3, COUNT(*)
FROM   tbl_A
WHERE  col1_1 = 'a'
AND    col1_2 = (
SELECT MAX(col_2)
FROM   tbl_B
WHERE  col_3 = 100
) GROUP BY col_1, col_2, col_3           

4、空格

代碼中應該适當留有一些空格,如果一點不留,代碼都湊到一起, 邏輯單元不明确,閱讀的人也會産生額外的壓力,以下分别是是好的與壞的示例

-- 好的示例
SELECT col_1
  FROM tbl_A A, tbl_B B
 WHERE ( A.col_1 >= 100 OR A.col_2 IN ( 'a', 'b' ) )
   AND A.col_3 = B.col_3;
-- 壞的示例
SELECT col_1
  FROM tbl_A A,tbl_B B
 WHERE (A.col_1>=100 OR A.col_2 IN ('a','b'))
   AND A.col_3=B.col_3;           

4、大小寫

關鍵字使用大小寫,表名列名使用小寫,如下

SELECT col_1, col_2, col_3,
    COUNT(*)
  FROM tbl_A
 WHERE col_1 = 'a'
   AND col_2 = ( SELECT MAX(col_2)
                   FROM tbl_B
                  WHERE col_3 = 100 )
 GROUP BY col_1, col_2, col_3           

花了這麼多時間強調規範,有必要嗎,有!好的規範讓代碼的可讀性更好,更有利于團隊合作,之後的 SQL 示例都會遵循這些規範。

一、巧用 CASE WHEN 進行統計

來看看如何巧用 CASE WHEN 進行定制化統計,假設我們有如下的需求,希望根據左邊各個市的人口統計每個省的人口

【超實用】SQL 進階技巧(上)

使用 CASE WHEN 如下

SELECT CASE pref_name
      WHEN '長沙' THEN '湖南' 
      WHEN '衡陽' THEN '湖南'
      WHEN '海口' THEN '海南' 
      WHEN '三亞' THEN '海南'
    ELSE '其他' END AS district,
    SUM(population) 
FROM PopTbl
GROUP BY district;           

二、巧用 CASE WHEN 進行更新

現在某公司員人工資資訊表如下:

【超實用】SQL 進階技巧(上)

現在公司出台了一個奇葩的規定

  1. 對目前工資為 1 萬以上的員工,降薪 10%。
  2. 對目前工資低于 1 萬的員工,加薪 20%。

一些人不假思索可能寫出了以下的 SQL:

--條件1
UPDATE Salaries
SET salary = salary * 0.9 WHERE salary >= 10000;
--條件2
UPDATE Salaries
SET salary = salary * 1.2
WHERE salary < 10000;           

這麼做其實是有問題的, 什麼問題,對小明來說,他的工資是 10500,執行第一個 SQL 後,工資變為 10500 0.9 = 9450, 緊接着又執行條件 2, 工資變為了 9450 1.2 = 11340,反而漲薪了!

如果用 CASE WHEN 可以解決此類問題,如下:

UPDATE Salaries
SET salary = CASE WHEN salary >= 10000 THEN salary * 0.9
WHEN salary < 10000 THEN salary * 1.2
ELSE salary END;           

三、巧用 HAVING 子句

一般 HAVING 是與 GROUP BY 結合使用的,但其實它是可以獨立使用的, 假設有如下表,第一列 seq 叫連續編号,但其實有些編号是缺失的,怎麼知道編号是否缺失呢,

【超實用】SQL 進階技巧(上)

用 HAVING 表示如下:

SELECT '存在缺失的編号' AS gap
  FROM SeqTbl
HAVING COUNT(*) <> MAX(seq);           

四、自連接配接

針對相同的表進行的連接配接被稱為“自連接配接”(self join),這個技巧常常被人們忽視,其實是有挺多妙用的

1、删除重複行

【超實用】SQL 進階技巧(上)

上圖中有三個橘子,需要把這些重複的行給删掉,用如下自連接配接可以解決:

DELETE FROM Products P1
 WHERE id < ( SELECT MAX(P2.id) 
                   FROM Products P2 
                  WHERE P1.name = P2.name 
                    AND P1.price = P2.price );           

2、排序

在 db 中,我們經常需要按分數,人數,銷售額等進行排名,有 Oracle, DB2 中可以使用 RANK 函數進行排名,不過在 MySQL 中 RANK 函數未實作,這種情況我們可以使用自連接配接來實作,如對以下 Products 表按價格高低進行排名

【超實用】SQL 進階技巧(上)

使用自連接配接可以這麼寫:

-- 排序從 1 開始。如果已出現相同位次,則跳過之後的位次 
SELECT P1.name,
       P1.price,
       (SELECT COUNT(P2.price)
          FROM Products P2
         WHERE P2.price > P1.price) + 1 AS rank_1
  FROM Products P1 
  ORDER BY rank_1;           

結果如下:

name price rank 
----- ------ ------ 
橘子    100     1 
西瓜     80     2 
蘋果     50     3 
葡萄     50     3 
香蕉     50     3 
檸檬     30     6           

五、巧用 COALESCE 函數

此函數作用傳回參數中的第一個非空表達式,假設有如下商品,我們重新格式化一樣,如果 city 為 null,代表商品不在此城市發行,但我們在展示結果的時候不想展示 null,而想展示 'N/A', 可以這麼做:

SELECT 
    COALESCE(city, 'N/A')
  FROM
    customers;           
【超實用】SQL 進階技巧(上)

SQL 性能優化技巧

一、參數是子查詢時,使用 EXISTS 代替 IN

如果 IN 的參數是(1,2,3)這樣的值清單時,沒啥問題,但如果參數是子查詢時,就需要注意了。比如,現在有如下兩個表:

【超實用】SQL 進階技巧(上)

現在我們要查出同時存在于兩個表的員工,即田中和鈴木,則以下用 IN 和 EXISTS 傳回的結果是一樣,但是用 EXISTS 的 SQL 會更快:

-- 慢
SELECT * 
  FROM Class_A
WHERE id IN (SELECT id 
               FROM  CLASS_B);
-- 快
SELECT *
  FROM Class_A A 
 WHERE EXISTS
(SELECT * 
   FROM Class_B  B
  WHERE A.id = B.id);           

為啥使用 EXISTS 的 SQL 運作更快呢,有兩個原因

  1. 可以`用到索引,如果連接配接列 (id) 上建立了索引,那麼查詢 Class_B 時不用查實際的表,隻需查索引就可以了。
  2. 如果使用 EXISTS,那麼隻要查到一行資料滿足條件就會終止查詢, 不用像使用 IN 時一樣掃描全表。在這一點上 NOT EXISTS 也一樣

另外如果 IN 後面如果跟着的是子查詢,由于 SQL 會先執行 IN 後面的子查詢,會将子查詢的結果儲存在一張臨時的工作表裡(内聯視圖),然後掃描整個視圖,顯然掃描整個視圖這個工作很多時候是非常耗時的,而用 EXISTS 不會生成臨時表。

當然了,如果 IN 的參數是子查詢時,也可以用連接配接來代替,如下:

-- 使用連接配接代替 IN SELECT A.id, A.name
FROM Class_A A INNER JOIN Class_B B ON A.id = B.id;           

用到了 「id」列上的索引,而且由于沒有子查詢,也不會生成臨時表

二、避免排序

SQL 是聲明式語言,即對使用者來說,隻關心它能做什麼,不用關心它怎麼做。這樣可能會産生潛在的性能問題:排序,會産生排序的代表性運算有下面這些

  • GROUP BY 子句
  • ORDER BY 子句
  • 聚合函數(SUM、COUNT、AVG、MAX、MIN)
  • DISTINCT
  • 集合運算符(UNION、INTERSECT、EXCEPT)
  • 視窗函數(RANK、ROW_NUMBER 等)

如果在記憶體中排序還好,但如果記憶體不夠導緻需要在硬碟上排序上的話,性能就會急劇下降,是以我們需要減少不必要的排序。怎樣做可以減少排序呢。

1、 使用集合運算符的 ALL 可選項

SQL 中有 UNION,INTERSECT,EXCEPT 三個集合運算符,預設情況下,這些運算符會為了避免重複資料而進行排序,對比一下使用 UNION 運算符加和不加 ALL 的情況:

【超實用】SQL 進階技巧(上)

注意:加 ALL 是優化性能非常有效的手段,不過前提是不在乎結果是否有重複資料。

2、使用 EXISTS 代表 DISTINCT

為了排除重複資料, DISTINCT 也會對結果進行排序,如果需要對兩張表的連接配接結果進行去重,可以考慮用 EXISTS 代替 DISTINCT,這樣可以避免排序。

【超實用】SQL 進階技巧(上)

如何找出有銷售記錄的商品,使用如下 DISTINCT 可以:

SELECT DISTINCT I.item_no
FROM Items I INNER JOIN SalesHistory SH
ON I. item_no = SH. item_no;           

不過更好的方式是使用 EXISTS:

SELECT item_no FROM Items I
WHERE EXISTS 
        (SELECT *
           FROM SalesHistory SH
          WHERE I.item_no = SH.item_no);           

既用到了索引,又避免了排序對性能的損耗。

二、在極值函數中使用索引(MAX/MIN)

使用 MAX/ MIN 都會對進行排序,如果參數字段上沒加索引會導緻全表掃描,如果建有索引,則隻需要掃描索引即可,對比如下

-- 這樣寫需要掃描全表 
SELECT MAX(item)
  FROM Items;
-- 這樣寫能用到索引 
SELECT MAX(item_no)
  FROM Items;           

注意:極值函數參數推薦為索引列中并不是不需要排序,而是優化了排序前的查找速度(畢竟索引本身就是有序排列的)。

三、能寫在 WHERE 子句裡的條件不要寫在 HAVING 子句裡

下列 SQL 語句傳回的結果是一樣的:

-- 聚合後使用 HAVING 子句過濾
SELECT sale_date, SUM(quantity)
  FROM SalesHistory GROUP BY sale_date
HAVING sale_date = '2007-10-01';
-- 聚合前使用 WHERE 子句過濾
SELECT sale_date, SUM(quantity)
  FROM SalesHistory
 WHERE sale_date = '2007-10-01' 
 GROUP BY sale_date;           

使用第二條語句效率更高,原因主要有兩點

  1. 使用 GROUP BY 子句進行聚合時會進行排序,如果事先通過 WHERE 子句能篩選出一部分行,能減輕排序的負擔
  2. 在 WHERE 子句中可以使用索引,而 HAVING 子句是針對聚合後生成的視訊進行篩選的,但很多時候聚合後生成的視圖并沒有保留原表的索引結構

四、在 GROUP BY 子句和 ORDER BY 子句中使用索引

GROUP BY 子句和 ORDER BY 子句一般都會進行排序,以對行進行排列和替換,不過如果指定帶有索引的列作為這兩者的參數列,由于用到了索引,可以實作高速查詢,由于索引是有序的,排序本身都會被省略掉

五、使用索引時,條件表達式的左側應該是原始字段

假設我們在 col 列上建立了索引,則下面這些 SQL 語句無法用到索引

SELECT *
  FROM SomeTable
 WHERE col * 1.1 > 100;
SELECT *
  FROM SomeTable
 WHERE SUBSTR(col, 1, 1) = 'a';           

以上第一個 SQL 在索引列上進行了運算, 第二個 SQL 對索引列使用了函數,均無法用到索引,正确方式是把列單獨放在左側,如下:

SELECT *
  FROM SomeTable
 WHERE col_1 > 100 / 1.1;           

當然如果需要對此列使用函數,則無法避免在左側運算,可以考慮使用函數索引,不過一般不推薦随意這麼做。

六、盡量避免使用否定形式

如下的幾種否定形式不能用到索引:

  • <>
  • !=
  • NOT IN

是以以下 了SQL 語句會導緻全表掃描

SELECT *
  FROM SomeTable
 WHERE col_1 <> 100;           

可以改成以下形式

SELECT *
  FROM SomeTable
 WHERE col_1 > 100 or col_1 < 100;           

七、進行預設的類型轉換

假設 col 是 char 類型,則推薦使用以下第二,三條 SQL 的寫法,不推薦第一條 SQL 的寫法

× SELECT * FROM SomeTable WHERE col_1 = 10;
○ SELECT * FROM SomeTable WHERE col_1 = '10';
○ SELECT * FROM SomeTable WHERE col_1 = CAST(10, AS CHAR(2));           

雖然第一條 SQL 會預設把 10 轉成 '10',但這種預設類型轉換不僅會增加額外的性能開銷,還會導緻索引不可用,是以建議使用的時候進行類型轉換。

八、減少中間表

在 SQL 中,子查詢的結果會産生一張新表,不過如果不加限制大量使用中間表的話,會帶來兩個問題,一是展示資料需要消耗記憶體資源,二是原始表中的索引不容易用到,是以盡量減少中間表也可以提升性能。

九、靈活使用 HAVING 子句

這一點與上面第八條相呼應,對聚合結果指定篩選條件時,使用 HAVING 是基本的原則,可能一些工程師會傾向于使用下面這樣的寫法:

SELECT *
  FROM (SELECT sale_date, MAX(quantity) AS max_qty
          FROM SalesHistory 
         GROUP BY sale_date) TMP
         WHERE max_qty >= 10;           

雖然上面這樣的寫法能達到目的,但會生成 TMP 這張臨時表,是以應該使用下面這樣的寫法:

SELECT sale_date, MAX(quantity) 
  FROM SalesHistory
 GROUP BY sale_date
HAVING MAX(quantity) >= 10;           

HAVING 子句和聚合操作是同時執行的,是以比起生成中間表後再執行 HAVING 子句,效率會更高,代碼也更簡潔

10、需要對多個字段使用 IN 謂詞時,将它們彙總到一處

一個表的多個字段可能都使用了 IN 謂詞,如下:

SELECT id, state, city 
  FROM Addresses1 A1
 WHERE state IN (SELECT state
                   FROM Addresses2 A2
                  WHERE A1.id = A2.id) 
    AND city IN (SELECT city
                   FROM Addresses2 A2 
                  WHERE A1.id = A2.id);           

這段代碼用到了兩個子查詢,也就産生了兩個中間表,可以像下面這樣寫

SELECT *
  FROM Addresses1 A1
 WHERE id || state || city
 IN (SELECT id || state|| city
       FROM Addresses2 A2);           

這樣子查詢不用考慮關聯性,沒有中間表産生,而且隻執行一次即可。

總結

本文一開始花了挺大的篇幅來講解 SQL 的規範,請大家務必重視這部分内部,良好的規範有利于團隊協作,對于代碼的閱讀也比較友好。

來源 | 碼海

作者 | 碼海