Django之ORM那些相關操作

一般操作

​​看專業的官網文檔，做專業的程式員！​​

必知必會13條

<1> all():                 查詢所有結果
 
<2> filter(**kwargs):      它包含了與所給篩選條件相比對的對象
 
<3> get(**kwargs):         傳回與所給篩選條件相比對的對象，傳回結果有且隻有一個，如果符合篩選條件的對象超過一個或者沒有都會抛出錯誤。
 
<4> exclude(**kwargs):     它包含了與所給篩選條件不比對的對象
 
<5> values(*field):        傳回一個ValueQuerySet——一個特殊的QuerySet，運作後得到的并不是一系列model的執行個體化對象，而是一個可疊代的字典序列
 
<6> values_list(*field):   它與values()非常相似，它傳回的是一個元組序列，values傳回的是一個字典序列
 
<7> order_by(*field):      對查詢結果排序
 
<8> reverse():             對查詢結果反向排序，請注意reverse()通常隻能在具有已定義順序的QuerySet上調用(在model類的Meta中指定ordering或調用order_by()方法)。
 
<9> distinct():            從傳回結果中剔除重複紀錄(如果你查詢跨越多個表，可能在計算QuerySet時得到重複的結果。此時可以使用distinct()，注意隻有在PostgreSQL中支援按字段去重。)
 
<10> count():              傳回資料庫中比對查詢(QuerySet)的對象數量。
 
<11> first():              傳回第一條記錄
 
<12> last():               傳回最後一條記錄
 
<13> exists():             如果QuerySet包含資料，就傳回True，否則傳回False      

傳回QuerySet對象的方法有

all()

filter()

exelude()

order_by()

reverse()

distinct()

特殊的QuerySet

values()       傳回一個可疊代的字典序列

values_list() 傳回一個可疊代的元祖序列

傳回具體對象的

get()

first()

last()

傳回布爾值的方法有：

exists()

傳回數字的方法有

count()

單表查詢之神奇的雙下劃線

models.Tb1.objects.filter(id__lt=10, id__gt=1)   # 擷取id大于1 且 小于10的值
 
models.Tb1.objects.filter(id__in=[11, 22, 33])   # 擷取id等于11、22、33的資料
models.Tb1.objects.exclude(id__in=[11, 22, 33])  # not in
 
models.Tb1.objects.filter(name__contains="ven")  # 擷取name字段包含"ven"的
models.Tb1.objects.filter(name__icontains="ven") # icontains大小寫不敏感
 
models.Tb1.objects.filter(id__range=[1, 3])      # id範圍是1到3的，等價于SQL的bettwen and
 
類似的還有：startswith，istartswith, endswith, iendswith　

date字段還可以：
models.Class.objects.filter(first_day__year=2017)      

ForeignKey操作

正向查找

對象查找（跨表）

文法：

對象.關聯字段.字段

示例：

book_obj = models.Book.objects.first()  # 第一本書對象
print(book_obj.publisher)  # 得到這本書關聯的出版社對象
print(book_obj.publisher.name)  # 得到出版社對象的名稱      

字段查找（跨表）

文法：

關聯字段__字段

示例：

print(models.Book.objects.values_list("publisher__name"))      

反向操作

對象查找

文法：

obj.表名_set

示例：

publisher_obj = models.Publisher.objects.first()  # 找到第一個出版社對象
books = publisher_obj.book_set.all()  # 找到第一個出版社出版的所有書
titles = books.values_list("title")  # 找到第一個出版社出版的所有書的書名      

字段查找

文法：

表名__字段

示例：

titles = models.Publisher.objects.values_list("book__title")      

ManyToManyField

class RelatedManager

"關聯管理器"是在一對多或者多對多的關聯上下文中使用的管理器。

它存在于下面兩種情況：

1. 外鍵關系的反向查詢
2. 多對多關聯關系

簡單來說就是當 點後面的對象 可能存在多個的時候就可以使用以下的方法。

方法

create()

建立一個新的對象，儲存對象，并将它添加到關聯對象集之中，傳回新建立的對象。

>>> import datetime
>>> models.Author.objects.first().book_set.create(title="番茄物語", publish_date=datetime.date.today())      

add()

把指定的model對象添加到關聯對象集中。

添加對象

>>> author_objs = models.Author.objects.filter(id__lt=3)
>>> models.Book.objects.first().authors.add(*author_objs)      

添加id

>>> models.Book.objects.first().authors.add(*[1, 2])      

set()

更新model對象的關聯對象。

>>> book_obj = models.Book.objects.first()
>>> book_obj.authors.set([2, 3])      

remove()

從關聯對象集中移除執行的model對象

>>> book_obj = models.Book.objects.first()
>>> book_obj.authors.remove(3)      

clear()

從關聯對象集中移除一切對象。

>>> book_obj = models.Book.objects.first()
>>> book_obj.authors.clear()      

注意：

對于ForeignKey對象，clear()和remove()方法僅在null=True時存在。

舉個例子：

ForeignKey字段沒設定null=True時，

class Book(models.Model):
    title = models.CharField(max_length=32)
    publisher = models.ForeignKey(to=Publisher)      

沒有clear()和remove()方法：

>>> models.Publisher.objects.first().book_set.clear()
Traceback (most recent call last):
  File "<input>", line 1, in <module>
AttributeError: 'RelatedManager' object has no attribute 'clear'      

當ForeignKey字段設定null=True時，

class Book(models.Model):
    name = models.CharField(max_length=32)
    publisher = models.ForeignKey(to=Class, null=True)      

此時就有clear()和remove()方法：

>>> models.Publisher.objects.first().book_set.clear()      

注意：

1. 對于所有類型的關聯字段，add()、create()、remove()和clear(),set()都會馬上更新資料庫。換句話說，在關聯的任何一端，都不需要再調用save()方法。

聚合查詢和分組查詢

聚合

aggregate()是QuerySet

鍵的名稱是聚合值的辨別符，值是計算出來的聚合值。鍵的名稱是按照字段和聚合函數的名稱自動生成出來的。

示例：

>>> models.Book.objects.all().aggregate(Avg("price"))
{'price__avg': 13.233333}      

如果你想要為聚合值指定一個名稱，可以向聚合子句提供它。

>>> models.Book.objects.aggregate(average_price=Avg('price'))
{'average_price': 13.233333}      

如果你希望生成不止一個聚合，你可以向aggregate()子句中添加另一個參數。是以，如果你也想知道所有圖書價格的最大值和最小值，可以這樣查詢：

>>> models.Book.objects.all().aggregate(Avg("price"), Max("price"), Min("price"))
{'price__avg': 13.233333, 'price__max': Decimal('19.90'), 'price__min': Decimal('9.90')}      

分組

我們在這裡先複習一下SQL語句的分組。

假設現在有一張公司職員表：

 我們使用原生SQL語句，按照部分分組求平均工資：

select dept,AVG(salary) from employee group by dept;      

ORM查詢:

from django.db.models import Avg
Employee.objects.values("dept").annotate(avg=Avg("salary").values(dept, "avg")      

連表查詢的分組：

SQL查詢：

select dept.name,AVG(salary) from employee inner join dept on (employee.dept_id=dept.id) group by dept_id;      

ORM查詢：

from django.db.models import Avg
models.Dept.objects.annotate(avg=Avg("employee__salary")).values("name", "avg")      

更多示例：

示例1：統計每一本書的作者個數

>>> book_list = models.Book.objects.all().annotate(author_num=Count("author"))
>>> for obj in book_list:
...     print(obj.author_num)
...
2
1
1      

示例2：統計出每個出版社買的最便宜的書的價格

>>> publisher_list = models.Publisher.objects.annotate(min_price=Min("book__price"))
>>> for obj in publisher_list:
...     print(obj.min_price)
...     
9.90
19.90      

方法二：

>>> models.Book.objects.values("publisher__name").annotate(min_price=Min("price"))
<QuerySet [{'publisher__name': '沙河出版社', 'min_price': Decimal('9.90')}, {'publisher__name': '人民出版社', 'min_price': Decimal('19.90')}]>      

示例3：統計不止一個作者的圖書

>>> models.Book.objects.annotate(author_num=Count("author")).filter(author_num__gt=1)
<QuerySet [<Book: 番茄物語>]>      

示例4：根據一本圖書作者數量的多少對查詢集 QuerySet進行排序

>>> models.Book.objects.annotate(author_num=Count("author")).order_by("author_num")
<QuerySet [<Book: 香蕉物語>, <Book: 橘子物語>, <Book: 番茄物語>]>      

示例5：查詢各個作者出的書的總價格

>>> models.Author.objects.annotate(sum_price=Sum("book__price")).values("name", "sum_price")
<QuerySet [{'name': '小精靈', 'sum_price': Decimal('9.90')}, {'name': '小仙女', 'sum_price': Decimal('29.80')}, {'name': '小魔女', 'sum_price': Decimal('9.90')}]>      

F查詢和Q查詢

F查詢

在上面所有的例子中，我們構造的過濾器都隻是将字段值與某個常量做比較。如果我們要對兩個字段的值做比較，那該怎麼做呢？

Django 提供 F() 來做這樣的比較。F() 的執行個體可以在查詢中引用字段，來比較同一個 model 執行個體中兩個不同字段的值。

示例1：

查詢評論數大于收藏數的書籍

from django.db.models import F
models.Book.objects.filter(commnet_num__lt=F('keep_num'))      

Django 支援 F() 對象之間以及 F() 對象和常數之間的加減乘除和取模的操作。

models.Book.objects.filter(commnet_num__lt=F('keep_num')*2)      

修改操作也可以使用F函數,比如将每一本書的價格提高30元

models.Book.objects.all().update(price=F("price")+30)      

引申：

如果要修改char字段咋辦？

如：把所有書名後面加上(第一版)

>>> from django.db.models.functions import Concat
>>> from django.db.models import Value
>>> models.Book.objects.all().update(title=Concat(F("title"), Value("("), Value("第一版"), Value(")")))      

Q查詢

filter() 等方法中的關鍵字參數查詢都是一起進行“AND” 的。 如果你需要執行更複雜的查詢（例如OR語句），你可以使用Q對象。

示例1：

查詢作者名是小仙女或小魔女的

models.Book.objects.filter(Q(authors__name="小仙女")|Q(authors__name="小魔女"))      

你可以組合& 和|  操作符以及使用括号進行分組來編寫任意複雜的Q 對象。同時，Q 對象可以使用~ 操作符取反，這允許組合正常的查詢和取反(NOT) 查詢。

示例：查詢作者名字是小仙女并且不是2018年出版的書的書名。

>>> models.Book.objects.filter(Q(author__name="小仙女") & ~Q(publish_date__year=2018)).values_list("title")
<QuerySet [('番茄物語',)]>      

查詢函數可以混合使用Q 對象和關鍵字參數。所有提供給查詢函數的參數（關鍵字參數或Q 對象）都将"AND”在一起。但是，如果出現Q

例如：查詢出版年份是2017或2018，書名中帶物語的所有書。

>>> models.Book.objects.filter(Q(publish_date__year=2018) | Q(publish_date__year=2017), title__icontains="物語")
<QuerySet [<Book: 番茄物語>, <Book: 香蕉物語>, <Book: 橘子物語>]>      

事務

import os

if __name__ == '__main__':
    os.environ.setdefault("DJANGO_SETTINGS_MODULE", "BMS.settings")
    import django
    django.setup()

    import datetime
    from app01 import models

    try:
        from django.db import transaction
        with transaction.atomic():
            new_publisher = models.Publisher.objects.create(name="火星出版社")
            models.Book.objects.create(title="橘子物語", publish_date=datetime.date.today(), publisher_id=10)  # 指定一個不存在的出版社id
    except Exception as e:
        print(str(e))      

其他鮮為人知的操作（有個印象即可）

Django ORM執行原生SQL

# extra
# 在QuerySet的基礎上繼續執行子語句
# extra(self, select=None, where=None, params=None, tables=None, order_by=None, select_params=None)

# select和select_params是一組，where和params是一組，tables用來設定from哪個表
# Entry.objects.extra(select={'new_id': "select col from sometable where othercol > %s"}, select_params=(1,))
# Entry.objects.extra(where=['headline=%s'], params=['Lennon'])
# Entry.objects.extra(where=["foo='a' OR bar = 'a'", "baz = 'a'"])
# Entry.objects.extra(select={'new_id': "select id from tb where id > %s"}, select_params=(1,), order_by=['-nid'])

舉個例子：
models.UserInfo.objects.extra(
                    select={'newid':'select count(1) from app01_usertype where id>%s'},
                    select_params=[1,],
                    where = ['age>%s'],
                    params=[18,],
                    order_by=['-age'],
                    tables=['app01_usertype']
                )
                """
                select 
                    app01_userinfo.id,
                    (select count(1) from app01_usertype where id>1) as newid
                from app01_userinfo,app01_usertype
                where 
                    app01_userinfo.age > 18
                order by 
                    app01_userinfo.age desc
                """


# 執行原生SQL
# 更高靈活度的方式執行原生SQL語句
# from django.db import connection, connections
# cursor = connection.cursor()  # cursor = connections['default'].cursor()
# cursor.execute("""SELECT * from auth_user where id = %s""", [1])
# row = cursor.fetchone()

ORM 執行原生SQL的方法      

ORM 執行原生SQL的方法

QuerySet方法大全

##################################################################
# PUBLIC METHODS THAT ALTER ATTRIBUTES AND RETURN A NEW QUERYSET #
##################################################################

def all(self)
    # 擷取所有的資料對象

def filter(self, *args, **kwargs)
    # 條件查詢
    # 條件可以是：參數，字典，Q

def exclude(self, *args, **kwargs)
    # 條件查詢
    # 條件可以是：參數，字典，Q

def select_related(self, *fields)
    性能相關：表之間進行join連表操作，一次性擷取關聯的資料。

    總結：
    1. select_related主要針一對一和多對一關系進行優化。
    2. select_related使用SQL的JOIN語句進行優化，通過減少SQL查詢的次數來進行優化、提高性能。

def prefetch_related(self, *lookups)
    性能相關：多表連表操作時速度會慢，使用其執行多次SQL查詢在Python代碼中實作連表操作。

    總結：
    1. 對于多對多字段（ManyToManyField）和一對多字段，可以使用prefetch_related()來進行優化。
    2. prefetch_related()的優化方式是分别查詢每個表，然後用Python處理他們之間的關系。

def annotate(self, *args, **kwargs)
    # 用于實作聚合group by查詢

    from django.db.models import Count, Avg, Max, Min, Sum

    v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id'))
    # SELECT u_id, COUNT(ui) AS `uid` FROM UserInfo GROUP BY u_id

    v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id')).filter(uid__gt=1)
    # SELECT u_id, COUNT(ui_id) AS `uid` FROM UserInfo GROUP BY u_id having count(u_id) > 1

    v = models.UserInfo.objects.values('u_id').annotate(uid=Count('u_id',distinct=True)).filter(uid__gt=1)
    # SELECT u_id, COUNT( DISTINCT ui_id) AS `uid` FROM UserInfo GROUP BY u_id having count(u_id) > 1

def distinct(self, *field_names)
    # 用于distinct去重
    models.UserInfo.objects.values('nid').distinct()
    # select distinct nid from userinfo

    注：隻有在PostgreSQL中才能使用distinct進行去重

def order_by(self, *field_names)
    # 用于排序
    models.UserInfo.objects.all().order_by('-id','age')

def extra(self, select=None, where=None, params=None, tables=None, order_by=None, select_params=None)
    # 構造額外的查詢條件或者映射，如：子查詢

    Entry.objects.extra(select={'new_id': "select col from sometable where othercol > %s"}, select_params=(1,))
    Entry.objects.extra(where=['headline=%s'], params=['Lennon'])
    Entry.objects.extra(where=["foo='a' OR bar = 'a'", "baz = 'a'"])
    Entry.objects.extra(select={'new_id': "select id from tb where id > %s"}, select_params=(1,), order_by=['-nid'])

 def reverse(self):
    # 倒序
    models.UserInfo.objects.all().order_by('-nid').reverse()
    # 注：如果存在order_by，reverse則是倒序，如果多個排序則一一倒序


 def defer(self, *fields):
    models.UserInfo.objects.defer('username','id')
    或
    models.UserInfo.objects.filter(...).defer('username','id')
    #映射中排除某列資料

 def only(self, *fields):
    #僅取某個表中的資料
     models.UserInfo.objects.only('username','id')
     或
     models.UserInfo.objects.filter(...).only('username','id')

 def using(self, alias):
     指定使用的資料庫，參數為别名（setting中的設定）


##################################################
# PUBLIC METHODS THAT RETURN A QUERYSET SUBCLASS #
##################################################

def raw(self, raw_query, params=None, translations=None, using=None):
    # 執行原生SQL
    models.UserInfo.objects.raw('select * from userinfo')

    # 如果SQL是其他表時，必須将名字設定為目前UserInfo對象的主鍵列名
    models.UserInfo.objects.raw('select id as nid from 其他表')

    # 為原生SQL設定參數
    models.UserInfo.objects.raw('select id as nid from userinfo where nid>%s', params=[12,])

    # 将擷取的到列名轉換為指定列名
    name_map = {'first': 'first_name', 'last': 'last_name', 'bd': 'birth_date', 'pk': 'id'}
    Person.objects.raw('SELECT * FROM some_other_table', translations=name_map)

    # 指定資料庫
    models.UserInfo.objects.raw('select * from userinfo', using="default")

    ################### 原生SQL ###################
    from django.db import connection, connections
    cursor = connection.cursor()  # cursor = connections['default'].cursor()
    cursor.execute("""SELECT * from auth_user where id = %s""", [1])
    row = cursor.fetchone() # fetchall()/fetchmany(..)


def values(self, *fields):
    # 擷取每行資料為字典格式

def values_list(self, *fields, **kwargs):
    # 擷取每行資料為元祖

def dates(self, field_name, kind, order='ASC'):
    # 根據時間進行某一部分進行去重查找并截取指定内容
    # kind隻能是："year"（年）, "month"（年-月）, "day"（年-月-日）
    # order隻能是："ASC"  "DESC"
    # 并擷取轉換後的時間
        - year : 年-01-01
        - month: 年-月-01
        - day  : 年-月-日

    models.DatePlus.objects.dates('ctime','day','DESC')

def datetimes(self, field_name, kind, order='ASC', tzinfo=None):
    # 根據時間進行某一部分進行去重查找并截取指定内容，将時間轉換為指定時區時間
    # kind隻能是 "year", "month", "day", "hour", "minute", "second"
    # order隻能是："ASC"  "DESC"
    # tzinfo時區對象
    models.DDD.objects.datetimes('ctime','hour',tzinfo=pytz.UTC)
    models.DDD.objects.datetimes('ctime','hour',tzinfo=pytz.timezone('Asia/Shanghai'))

    """
    pip3 install pytz
    import pytz
    pytz.all_timezones
    pytz.timezone(‘Asia/Shanghai’)
    """

def none(self):
    # 空QuerySet對象


####################################
# METHODS THAT DO DATABASE QUERIES #
####################################

def aggregate(self, *args, **kwargs):
   # 聚合函數，擷取字典類型聚合結果
   from django.db.models import Count, Avg, Max, Min, Sum
   result = models.UserInfo.objects.aggregate(k=Count('u_id', distinct=True), n=Count('nid'))
   ===> {'k': 3, 'n': 4}

def count(self):
   # 擷取個數

def get(self, *args, **kwargs):
   # 擷取單個對象

def create(self, **kwargs):
   # 建立對象

def bulk_create(self, objs, batch_size=None):
    # 批量插入
    # batch_size表示一次插入的個數
    objs = [
        models.DDD(name='r11'),
        models.DDD(name='r22')
    ]
    models.DDD.objects.bulk_create(objs, 10)

def get_or_create(self, defaults=None, **kwargs):
    # 如果存在，則擷取，否則，建立
    # defaults 指定建立時，其他字段的值
    obj, created = models.UserInfo.objects.get_or_create(username='root1', defaults={'email': '1111111','u_id': 2, 't_id': 2})

def update_or_create(self, defaults=None, **kwargs):
    # 如果存在，則更新，否則，建立
    # defaults 指定建立時或更新時的其他字段
    obj, created = models.UserInfo.objects.update_or_create(username='root1', defaults={'email': '1111111','u_id': 2, 't_id': 1})

def first(self):
   # 擷取第一個

def last(self):
   # 擷取最後一個

def in_bulk(self, id_list=None):
   # 根據主鍵ID進行查找
   id_list = [11,21,31]
   models.DDD.objects.in_bulk(id_list)

def delete(self):
   # 删除

def update(self, **kwargs):
    # 更新

def exists(self):
   # 是否有結果

QuerySet方法大全      

QuerySet方法大全

Django終端列印SQL語句

在Django項目的settings.py檔案中，在最後複制粘貼如下代碼：

LOGGING = {
    'version': 1,
    'disable_existing_loggers': False,
    'handlers': {
        'console':{
            'level':'DEBUG',
            'class':'logging.StreamHandler',
        },
    },
    'loggers': {
        'django.db.backends': {
            'handlers': ['console'],
            'propagate': True,
            'level':'DEBUG',
        },
    }
}      

在Python腳本中調用Django環境

import os

if __name__ == '__main__':
    os.environ.setdefault("DJANGO_SETTINGS_MODULE", "BMS.settings")
    import django
    django.setup()

    from app01 import models

    books = models.Book.objects.all()
    print(books)