天天看點

Flask 的 資料庫連接配接 與 DBUtils 資料庫連接配接池Flask 的 資料庫連接配接 與 DBUtils 資料庫連接配接池

Flask 的 資料庫連接配接 與 DBUtils 資料庫連接配接池

本地線程:thread_local

            為每個線程建立存儲資料的空間,用于線程之間的資料隔離
            否則多個線程同時通路,會使得資料混亂
           

1 Flask 連接配接資料庫 的方法

pymysql

    依賴 SQLArchemy
           

資料庫連接配接的方案

1  每次請求反複的建立資料庫連接配接  (可以并發請求 -- 但是每次都會建立連接配接)
    # 連接配接數太多

2  将連接配接放在全局變量  單線程(沒有問題)  pymysql 隻能支援單線程
    # 不能支援并發


3  import threading
   LOCK = threading.RLock()
   with LOCK:
      connect ---
      ...
   # 這樣控制每次隻能有一個線程連接配接  (不能并發操作)
   # 不加鎖 ,多線程狀況下 會報錯


4  基于 DBUtils 實作 資料庫連接配接池

    --  為每一個線程建立一個連接配接,當連接配接關閉的時候,不是真正的關閉;
        當本線程再次使用的時候,還是使用最開始的連接配接,
        隻有當線程終止的時候,連接配接才會關閉

    -- 建立一個連接配接池(清單),為所有的線程 提供連接配接,使用完畢 再放回連接配接池
       所有的連接配接都可以被重複使用,共享

    -- 基于實作本地線程: 線程間的資料隔離
           

2 為什麼要使用資料庫連接配接池

如果沒有連接配接池,使用pymysql來連接配接資料庫時,單線程應用完全沒有問題,但如果涉及到多線程應用那麼就需要加鎖,一旦加鎖那麼連接配接勢必就會排隊等待,當請求比較多時,性能就會降低了

實作并發,避免無限制的連接配接
           

3 使用DBUtils 資料庫連接配接池

DBUtils是Python的一個用于實作資料庫連接配接池的子產品
           

模式一:為每個線程建立一個連接配接,線程即使調用了close方法,也不會關閉,隻是把連接配接重新放到連接配接池,供自己線程再次使用。當線程終止時,連接配接自動關閉

基于本地線程   每個線程建立一個本地線程

POOL = PersistentDB(
    creator=pymysql,  # 使用連結資料庫的子產品
    maxusage=None,  # 一個連結最多被重複使用的次數,None表示無限制
    setsession=[],  # 開始會話前執行的指令清單。如:["set datestyle to ...", "set time zone ..."]
    ping=0,
    # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
    closeable=False,
    # 如果為False時, conn.close() 實際上被忽略,供下次使用,再線程關閉時,才會自動關閉連結。如果為True時, conn.close()則關閉連結,那麼再次調用pool.connection時就會報錯,因為已經真的關閉了連接配接(pool.steady_connection()可以擷取一個新的連結)
    threadlocal=None,  # 本線程獨享值得對象,用于儲存連結對象,如果連結對象被重置
    host='127.0.0.1',
    port=3306,
    user='root',
    password='123',
    database='pooldb',
    charset='utf8'
)

def func():
    conn = POOL.connection(shareable=False)
    cursor = conn.cursor()
    cursor.execute('select * from tb1')
    result = cursor.fetchall()
    cursor.close()
    conn.close()                         # 結束本次連接配接,供本線程再次使用

func()
           

模式二:建立一批連接配接到連接配接池,供所有線程共享使用

先 建立本地連接配接,讓所有線程公用

PS:由于pymysql、MySQLdb等threadsafety值為1,是以該模式連接配接池中的線程會被所有線程共享。
是以 最大共享數 無用的。
           

這種模式是最常使用的

db.py:

    import time
    import pymysql
    import threading
    from DBUtils.PooledDB import PooledDB, SharedDBConnection
    POOL = PooledDB(
        creator=pymysql,  # 使用連結資料庫的子產品
        maxconnections=6,  # 連接配接池允許的最大連接配接數,0和None表示不限制連接配接數
        mincached=2,  # 初始化時,連結池中至少建立的空閑的連結,0表示不建立
        maxcached=5,  # 連結池中最多閑置的連結,0和None不限制
        maxshared=3,  # 連結池中最多共享的連結數量,0和None表示全部共享。PS: 無用,因為pymysql和MySQLdb等子產品的 threadsafety都為1,所有值無論設定為多少,_maxcached永遠為0,是以永遠是所有連結都共享。
        blocking=True,  # 連接配接池中如果沒有可用連接配接後,是否阻塞等待。True,等待;False,不等待然後報錯
        maxusage=None,  # 一個連結最多被重複使用的次數,None表示無限制
        setsession=[],  # 開始會話前執行的指令清單。如:["set datestyle to ...", "set time zone ..."]
        ping=0,
        # ping MySQL服務端,檢查是否服務可用。# 如:0 = None = never, 1 = default = whenever it is requested, 2 = when a cursor is created, 4 = when a query is executed, 7 = always
        host='127.0.0.1',
        port=3306,
        user='root',
        password='123',
        database='pooldb',
        charset='utf8'
    )


使用的時候:

    from db import POOL
    
    def func():
        # 檢測目前正在運作連接配接數的是否小于最大連結數,如果不小于則:等待或報raise TooManyConnections異常
        # 否則
        # 則優先去初始化時建立的連結中擷取連結 SteadyDBConnection。
        # 然後将SteadyDBConnection對象封裝到PooledDedicatedDBConnection中并傳回。
        # 如果最開始建立的連結沒有連結,則去建立一個SteadyDBConnection對象,再封裝到PooledDedicatedDBConnection中并傳回。
        # 一旦關閉連結後,連接配接就傳回到連接配接池讓後續線程繼續使用。

        conn = POOL.connection()

        # print(th, '連結被拿走了', conn1._con)
        # print(th, '池子裡目前有', pool._idle_cache, '\r\n')

        cursor = conn.cursor()
        cursor.execute('select * from tb1')
        result = cursor.fetchall()
        conn.close()                         # 結束本次連接配接,把連接配接放回連接配接池

    func()
           

小結

1 每次操作都要連接配接  --- 不允許

2 公用一個連接配接,多線程會出問題, 加鎖-->> 變成了串行

3 DBUtils 資料庫連接配接池:
    (1) 基于treading.local 實作為每一個線程 建立一個連接配接,目前線程可以反複使用本線程的連接配接,線程終止的時候連接配接關閉

      # treading.local  為每一個線程建立一份獨立的值,相當于一個字典(每個線程的唯一辨別為 鍵)

    (2) 設定最大連接配接數
        預設啟動時,連接配接池中建立的連接配接

      #  1個連接配接可以為3個線程服務(可能中途返還)
           

轉載于:https://www.cnblogs.com/big-handsome-guy/p/8544617.html