天天看點

python --記憶體管理

語言的記憶體管理是語言設計的一個重要方面。它是決定語言性能的重要因素。無論是C語言的手工管理,還是Java的垃圾回收,都成為語言最重要的特征。這裡以Python語言為例子,說明一門動态類型的、面向對象的語言的記憶體管理方式。

指派語句是語言最常見的功能了。但即使是最簡單的指派語句,也可以很有内涵。Python的指派語句就很值得研究。

整數1為一個對象。而a是一個引用。利用指派語句,引用a指向對象1。Python是動态類型的語言(參考動态類型),對象與引用分離。Python像使用“筷子”那樣,通過引用來接觸和翻動真正的食物——對象。

python --記憶體管理

 引用和對象

為了探索對象在記憶體的存儲,我們可以求助于Python的内置函數id()。它用于傳回對象的身份(identity)。其實,這裡所謂的身份,就是該對象的記憶體位址。

在我的計算機上,它們傳回的是:

11246696

'0xab9c68'

分别為記憶體位址的十進制和十六進制表示。

在Python中,整數和短小的字元,Python都會緩存這些對象,以便重複使用。當我們建立多個等于1的引用時,實際上是讓所有這些引用指向同一個對象。

上面程式傳回

可見a和b實際上是指向同一個對象的兩個引用。

為了檢驗兩個引用指向同一個對象,我們可以用is關鍵字。is用于判斷兩個引用所指的對象是否相同。

python --記憶體管理
python --記憶體管理

上面的注釋為相應的運作結果。可以看到,由于Python緩存了整數和短字元串,是以每個對象隻存有一份。比如,所有整數1的引用都指向同一對象。即使使用指派語句,也隻是創造了新的引用,而不是對象本身。長的字元串和其它對象可以有多個相同的對象,可以使用指派語句建立出新的對象。

在Python中,每個對象都有存有指向該對象的引用總數,即引用計數(reference count)。

我們可以使用sys包中的getrefcount(),來檢視某個對象的引用計數。需要注意的是,當使用某個引用作為參數,傳遞給getrefcount()時,參數實際上建立了一個臨時的引用。是以,getrefcount()所得到的結果,會比期望的多1。

python --記憶體管理
python --記憶體管理

由于上述原因,兩個getrefcount将傳回2和3,而不是期望的1和2。

Python的一個容器對象(container),比如表、詞典等,可以包含多個對象。實際上,容器對象中包含的并不是元素對象本身,是指向各個元素對象的引用。

我們也可以自定義一個對象,并引用其它對象:

python --記憶體管理
python --記憶體管理

可以看到,a引用了對象b。

對象引用對象,是Python最基本的構成方式。即使是a = 1這一指派方式,實際上是讓詞典的一個鍵值"a"的元素引用整數對象1。該詞典對象用于記錄所有的全局引用。該詞典引用了整數對象1。我們可以通過内置函數globals()來檢視該詞典。

當一個對象A被另一個對象B引用時,A的引用計數将增加1。

python --記憶體管理
python --記憶體管理

由于對象b引用了兩次a,a的引用計數增加了2。

容器對象的引用可能構成很複雜的拓撲結構。我們可以用objgraph包來繪制其引用關系,比如

python --記憶體管理

objgraph是Python的一個第三方包。安裝之前需要安裝xdot。

objgraph官網

兩個對象可能互相引用,進而構成所謂的引用環(reference cycle)。

即使是一個對象,隻需要自己引用自己,也能構成引用環。

引用環會給垃圾回收機制帶來很大的麻煩,我将在後面詳細叙述這一點。

某個對象的引用計數可能減少。比如,可以使用del關鍵字删除某個引用:

python --記憶體管理
python --記憶體管理

del也可以用于删除容器元素中的元素,比如:

如果某個引用指向對象A,當這個引用被重新定向到某個其他對象B時,對象A的引用計數減少:

python --記憶體管理
python --記憶體管理

吃太多,總會變胖,Python也是這樣。當Python中的對象越來越多,它們将占據越來越大的記憶體。不過你不用太擔心Python的體形,它會乖巧的在适當的時候“減肥”,啟動垃圾回收(garbage collection),将沒用的對象清除。在許多語言中都有垃圾回收機制,比如Java和Ruby。盡管最終目的都是塑造苗條的提醒,但不同語言的減肥方案有很大的差異 (這一點可以對比本文和Java記憶體管理與垃圾回收

)。

python --記憶體管理

從基本原理上,當Python的某個對象的引用計數降為0時,說明沒有任何引用指向該對象,該對象就成為要被回收的垃圾了。比如某個建立對象,它被配置設定給某個引用,對象的引用計數變為1。如果引用被删除,對象的引用計數為0,那麼該對象就可以被垃圾回收。比如下面的表:

del a後,已經沒有任何引用指向之前建立的[1, 2, 3]這個表。使用者不可能通過任何方式接觸或者動用這個對象。這個對象如果繼續待在記憶體裡,就成了不健康的脂肪。當垃圾回收啟動時,Python掃描到這個引用計數為0的對象,就将它所占據的記憶體清空。

然而,減肥是個昂貴而費力的事情。垃圾回收時,Python不能進行其它的任務。頻繁的垃圾回收将大大降低Python的工作效率。如果記憶體中的對象不多,就沒有必要總啟動垃圾回收。是以,Python隻會在特定條件下,自動啟動垃圾回收。當Python運作時,會記錄其中配置設定對象(object allocation)和取消配置設定對象(object deallocation)的次數。當兩者的內插補點高于某個門檻值時,垃圾回收才會啟動。

我們可以通過gc子產品的get_threshold()方法,檢視該門檻值:

傳回(700, 10, 10),後面的兩個10是與分代回收相關的門檻值,後面可以看到。700即是垃圾回收啟動的門檻值。可以通過gc中的set_threshold()方法重新設定。

我們也可以手動啟動垃圾回收,即使用gc.collect()。

Python同時采用了分代(generation)回收的政策。這一政策的基本假設是,存活時間越久的對象,越不可能在後面的程式中變成垃圾。我們的程式往往會産生大量的對象,許多對象很快産生和消失,但也有一些對象長期被使用。出于信任和效率,對于這樣一些“長壽”對象,我們相信它們的用處,是以減少在垃圾回收中掃描它們的頻率。

python --記憶體管理

小家夥要多檢查

Python将所有的對象分為0,1,2三代。所有的建立對象都是0代對象。當某一代對象經曆過垃圾回收,依然存活,那麼它就被歸入下一代對象。垃圾回收啟動時,一定會掃描所有的0代對象。如果0代經過一定次數垃圾回收,那麼就啟動對0代和1代的掃描清理。當1代也經曆了一定次數的垃圾回收後,那麼會啟動對0,1,2,即對所有對象進行掃描。

這兩個次數即上面get_threshold()傳回的(700, 10, 10)傳回的兩個10。也就是說,每10次0代垃圾回收,會配合1次1代的垃圾回收;而每10次1代的垃圾回收,才會有1次的2代垃圾回收。

同樣可以用set_threshold()來調整,比如對2代對象進行更頻繁的掃描。

引用環的存在會給上面的垃圾回收機制帶來很大的困難。這些引用環可能構成無法使用,但引用計數不為0的一些對象。

上面我們先建立了兩個表對象,并引用對方,構成一個引用環。删除了a,b引用之後,這兩個對象不可能再從程式中調用,就沒有什麼用處了。但是由于引用環的存在,這兩個對象的引用計數都沒有降到0,不會被垃圾回收。

python --記憶體管理

孤立的引用環

為了回收這樣的引用環,Python複制每個對象的引用計數,可以記為gc_ref。假設,每個對象i,該計數為gc_ref_i。Python會周遊所有的對象i。對于每個對象i引用的對象j,将相應的gc_ref_j減1。

python --記憶體管理

周遊後的結果

在結束周遊後,gc_ref不為0的對象,和這些對象引用的對象,以及繼續更下遊引用的對象,需要被保留。而其它的對象則被垃圾回收。

Python作為一種動态類型的語言,其對象和引用分離。這與曾經的面向過程語言有很大的差別。為了有效的釋放記憶體,Python内置了垃圾回收的支援。Python采取了一種相對簡單的垃圾回收機制,即引用計數,并是以需要解決孤立引用環的問題。Python與其它語言既有共通性,又有特别的地方。對該記憶體管理機制的了解,是提高Python性能的重要一步。