天天看點

【大創_社群劃分】——PageRank算法的解析與Python實作

一、什麼是pagerank

PageRank的Page可是認為是網頁,表示網頁排名,也可以認為是Larry Page(google 産品經理),因為他是這個算法的發明者之一,還是google CEO(^_^)。PageRank算法計算每一個網頁的PageRank值,然後根據這個值的大小對網頁的重要性進行排序。它的思想是模拟一個悠閑的上網者,上網者首先随機選擇一個網頁打開,然後在這個網頁上呆了幾分鐘後,跳轉到該網頁所指向的連結,這樣無所事事、漫無目的地在網頁上跳來跳去,PageRank就是估計這個悠閑的上網者分布在各個網頁上的機率。

二、最簡單pagerank模型

網際網路中的網頁可以看出是一個有向圖,其中網頁是結點,如果網頁A有連結到網頁B,則存在一條有向邊A->B,下面是一個簡單的示例:

【大創_社群劃分】——PageRank算法的解析與Python實作

這個例子中隻有四個網頁,如果目前在A網頁,那麼悠閑的上網者将會各以1/3的機率跳轉到B、C、D,這裡的3表示A有3條對外連結,如果一個網頁有k條對外連結,那麼跳轉任意一個對外連結上的機率是1/k,同理D到B、C的機率各為1/2,而B到C的機率為0。一般用轉移矩陣表示上網者的跳轉機率,如果用n表示網頁的數目,則轉移矩陣M是一個n*n的方陣;如果網頁j有k個對外連結,那麼對每一個對外連結指向的網頁i,有M[i][j]=1/k,而其他網頁的M[i][j]=0;上面示例圖對應的轉移矩陣如下:

【大創_社群劃分】——PageRank算法的解析與Python實作

初試時,假設上網者在每一個網頁的機率都是相等的,即1/n,于是初試的機率分布就是一個所有值都為1/n的n維列向量V0,用V0去右乘轉移矩陣M,就得到了第一步之後上網者的機率分布向量MV0,(nXn)*(nX1)依然得到一個nX1的矩陣。下面是V1的計算過程:

【大創_社群劃分】——PageRank算法的解析與Python實作

注意矩陣M中M[i][j]不為0表示用一個連結從j指向i,M的第一行乘以V0,表示累加所有網頁到網頁A的機率即得到9/24。得到了V1後,再用V1去右乘M得到V2,一直下去,最終V會收斂,即Vn=MV(n-1),上面的圖示例,不斷的疊代,最終V=[3/9,2/9,2/9,2/9]‘:

【大創_社群劃分】——PageRank算法的解析與Python實作

三、終止點問題

上述上網者的行為是一個馬爾科夫過程的執行個體,要滿足收斂性,需要具備一個條件:

圖是強連通的,即從任意網頁可以到達其他任意網頁:

網際網路上的網頁不滿足強連通的特性,因為有一些網頁不指向任何網頁,如果按照上面的計算,上網者到達這樣的網頁後便走投無路、四顧茫然,導緻前面累計得到的轉移機率被清零,這樣下去,最終的得到的機率分布向量所有元素幾乎都為0。假設我們把上面圖中C到A的連結丢掉,C變成了一個終止點,得到下面這個圖:

【大創_社群劃分】——PageRank算法的解析與Python實作

對應的轉移矩陣為:

【大創_社群劃分】——PageRank算法的解析與Python實作

連續疊代下去,最終所有元素都為0:

【大創_社群劃分】——PageRank算法的解析與Python實作

四、陷阱問題

另外一個問題就是陷阱問題,即有些網頁不存在指向其他網頁的連結,但存在指向自己的連結。比如下面這個圖:

【大創_社群劃分】——PageRank算法的解析與Python實作

上網者跑到C網頁後,就像跳進了陷阱,陷入了漩渦,再也不能從C中出來,将最終導緻機率分布值全部轉移到C上來,這使得其他網頁的機率分布值為0,進而整個網頁排名就失去了意義。如果按照上面圖對應的轉移矩陣為:

【大創_社群劃分】——PageRank算法的解析與Python實作

不斷的疊代下去,就變成了這樣:

【大創_社群劃分】——PageRank算法的解析與Python實作

五、解決終止點問題和陷阱問題

上面過程,我們忽略了一個問題,那就是上網者是一個悠閑的上網者,而不是一個愚蠢的上網者,我們的上網者是聰明而悠閑,他悠閑,漫無目的,總是随機的選擇網頁,他聰明,在走到一個終結網頁或者一個陷阱網頁(比如兩個示例中的C),不會傻傻的幹着急,他會在浏覽器的位址随機輸入一個位址,當然這個位址可能又是原來的網頁,但這裡給了他一個逃離的機會,讓他離開這萬丈深淵。模拟聰明而又悠閑的上網者,對算法進行改進,每一步,上網者可能都不想看目前網頁了,不看目前網頁也就不會點選上面的連接配接,而上悄悄地在位址欄輸入另外一個位址,而在位址欄輸入而跳轉到各個網頁的機率是1/n。假設上網者每一步檢視目前網頁的機率為a,那麼他從浏覽器位址欄跳轉的機率為(1-a),于是原來的疊代公式轉化為:

【大創_社群劃分】——PageRank算法的解析與Python實作

現在我們來計算帶陷阱的網頁圖的機率分布:

【大創_社群劃分】——PageRank算法的解析與Python實作

重複疊代下去,得到:

【大創_社群劃分】——PageRank算法的解析與Python實作

六、用Python實作Page Rank算法