天天看點

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

周末周六兩天,做了鍊家網的爬蟲,可能有很多朋友做過,當然很多人隻是練爬蟲,但沒有對爬取資料進行一些可視化去發現一些比較有意思的東西,今天想要通過抓取的資料進行一些比較有趣的統計分析。

如果你想要這份資料:關注公衆号:(

路人甲TM

),回複(

鍊家資料

今天文章分成兩大部分

  • 對鍊家網的租房資訊資料進行一些簡單統計分析
  1. 探索最高租價房源
  2. 利用距離模拟畫出南京市地鐵路線圖
  3. 南京市的高層建築在哪裡?
  • 解釋鍊家網爬蟲代碼的重要部分
  • 最後鍊家資料的擷取方式
第一大部分:對鍊家的資料進行一些簡單統計分析

1、探索最高租價房源

首先我此次分析的主題是

南京的租房狀況

,是以這裡我先抓取了南京的租房的資訊,資料出來之後放入表格中的樣子是這樣的,包含:小區名、租價、經度、次元、房屋面積、室廳衛、是否整租、樓層高度、房屋方向、到最近地鐵的距離。

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

對于以上的資料,剛拿到我就開心的扔到了tableau裡面,發現有點問題。一開始沒意識到的問題,鍊家中的地理位置資訊使用的是百度地圖的,百度地圖經緯度有所偏移。

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

好在,百度提供了這個接口webapi/guide/changeposition - Wiki ,可以通過這個把經緯度轉成正确的經緯度坐标。有同學有興趣的話可以嘗試寫一個批量轉換的腳本,這裡十分期待你們的腳本。同時,一種偷懶的解決方法:計算出經緯度的校正值,這邊我使用的經緯度校正值是:

經度:0.012774687519
次元:0.00394531687912
           

校正經緯度之後,資料為問題就已經解決了,下面就開始進入統計分析階段。首先放上的就是标題上的圖檔,南京的租房房源數量與房價之間的分布圖檔。

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

紅色越深代表目前區域的平均租房房價越低,藍色越深代表目前漁區的平均租房房價越高。白色區域的租價在3500/月左右,取了最低值1200元/月,最高值10000元/月。

圓圈越大代表目前趨于的房源越多,越小代表房源越少。

圖上的大體分布基本上也是符合南京的房價狀況的,中心地段普遍租價較高,而在橋北等地方租房房價普遍偏低并且房源數量較多。這樣的圖檔看的還是不怎麼清晰,為了讓圖檔更加的通俗易懂,這裡,我分别提取了平均房租高于10000的點。

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

好,先看看這個顔色最深的點,不出意外,看位置在新街口附近,接下來去驗證。

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...
ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

這個經緯度下找到了民族大廈,但是對于這個最高點,我充滿疑惑。很顯然在新街口,這個民族大廈并不是最好的位置,但是為什麼周邊卻沒有高出民族大廈房租的其他 小區呢?我想到的第一個原因是,在此片區域,鍊家上并沒有其他相關的租房資訊,于是我去趕集網檢視了一下此片區域的租房情況。

我們按照關鍵詞新街口地鐵口搜尋:【南京新街口地鐵租房資訊】南京租房網站-南京趕集網,在趕集上我也沒有找到比這個更高的房租,我又查閱了其他幾個網站同樣沒有。

第二個原因:鍊家網上的資訊可能有誤,很多網站會存在這種虛假資訊,于是我去找到了此房源:民族大廈 1室1廳1衛 527平米 40000元

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

沒有一張圖檔,也沒有任何說明,同時發現釋出時間為一年之前,我猜測可能為虛假資訊,但是并不能這麼輕易的下結論,也是為了發現正确資訊,為此我查找了一些資料,發現了以下的圖檔,很顯然民族大廈的租價不可能打到40000元/月,是以判斷為虛假資訊。

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

那麼,到底最高的租房房價在哪裡呢?我們繼續找剛剛的第二個點。按照以上的思路分析,得到最高租價房源為:漣城 2室0廳0衛 191平米 35000元

2、根據據離地鐵的遠近,我們來畫一個地鐵線吧!

這個應該比較有意思呢!我們抓出來的資料中有房源距離地鐵的遠近,那我突然就有個想法。如果我把這些距離較小的點都集中了,那是不是就能簡單繪出地鐵線嗎?這真是很有趣,當然如果每一個距離地鐵的距離能加上幾号線可能繪圖會更加準确,但是這裡我隻保留了距離地鐵的距離,是以這裡畫出的地鐵線會不區分幾号線。

畫出下圖:圓圈大小代表離地鐵的遠近,越小離地鐵越近。我有一個大膽的想法,把這些小點連起來不就是我們想要的地鐵線路嗎?

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

圖檔出來,ok,用一下美圖秀秀~電腦上沒有ps!如下因為圖檔過大,這裡隻能畫市區以及南部地區的路線圖,橋北的無法再現!

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

把所有的小圓圈連結起來即可,很顯然,這個圖是有很大問題的,那麼如何解決這個問題呢?在對抓下來的資料處理過程中,一定要保留是哪一号線地鐵,這樣在連線的過程中有更加有針對性,并且圖像會更加準确!期待大家的作品。

3、南京市的高層建築在哪裡?

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

從上圖中會很好的發現,低層建築很多,同時低層建築中包圍了很多的中高層建築,我認為随着發展,原先的很多低層建築在發展過程中逐漸被中高層取代掉~這些現象在市區附近最為明顯。但是在橋北等地區,不是很明顯。

在橋北地區,一個很明顯的發展現象是:西南方向的中高層建築越來越多,這是不是意味着橋北地區的一個發展趨勢呢?

第二部分:Talk is cheap,Show me your CODE.

很多次在公衆号收到這樣的回複,那麼今天就稍微解釋一下鍊家網的爬蟲,其實是很簡單的。

一部分是抓取,每一頁面上的房源連結

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

另一部分是解析這個房源連結上的内容

ER圖連接配接線上加個圓圈什麼意思_如何拿鍊家網的租房資料做些有意思的事情?...

大概就是這樣!代碼不全,請自行腦補。