天天看點

用Python玩轉時序資料

用Python玩轉時序資料

時間序列是日常生活中最常見的資料類型之一。股票價格、銷售資訊、氣候資料、能源使用,甚至個人身高體重都是可以用來定期收集的資料樣本。幾乎每個資料科學家在工作中都會遇到時間序列,能夠有效地處理這些資料是資料科學領域之中的一項非常重要的技能。

本文簡要介紹了如何從零開始使用Python中的時間序列。這包括對時間序列的簡單定義,以及對利用pandas通路倫敦市居民智能電表所擷取資料的處理。可以點選

此處

擷取本文中所使用的資料。還提供了一些我認為有用的代碼。

讓我們從基礎開始,時間序列的定義是這樣的:

時間序列是按時間的順序進行索引、排列或者繪制的資料點的集合。最常見的定義是,一個時間序列是在連續的相同間隔的時間點上取得的序列,是以它是一個離散時間資料的序列。

時間序列資料是圍繞相對确定的時間戳而組織的。是以,與随機樣本相比,可能包含我們将要嘗試提取的一些相關資訊。

加載和控制時間序列 資料集

讓我們使用一些關于能源消耗計費的資料作為例子,以kWh(每半小時)為機關, 在2011年11月至2014年2月期間,對參與英國電力網絡上司的低碳倫敦項目的倫敦居民樣本資料進行分析。我們可以從繪制一些圖表開始,最好了解一下樣本的結構和範圍,這也将允許我們尋找最終需要糾正的缺失值。

用Python玩轉時序資料

對于本文的其餘部分,我們隻關注DateTime和kWh兩列。

用Python玩轉時序資料
重采樣

讓我們從較簡單的重采樣技術開始。重采樣涉及到更改時間序列觀測的頻率。特征工程可能是你對重新采樣時間序列資料感興趣的一個原因。實際上,它可以用來為監督學習模型提供額外的架構或者是對學習問題的領會角度。pandas中的重采樣方法與GroupBy方法相似,因為你基本上是按照特定時間間隔進行分組的。然後指定一種方法來重新采樣。讓我們通過一些例子來把重采樣技術描述的更具體些。我們從每周的總結開始:

·data.resample()方法将用于對DataFrame的kWh列資料重新取樣;

·“W”表示我們要按每周重新取樣;

·sum()方法用于表示在此時間段計算kWh列的總和;

用Python玩轉時序資料

我們可以對每日的資料也這麼做處理,并且可以使用groupby和mean函數進行按小時處理:

用Python玩轉時序資料
用Python玩轉時序資料

為了進一步進行重新采樣,pandas有許多内置的選項,你甚至還可以定義自己的方法。下面兩個表分别顯示了時間周期選項及其縮寫别名和一些可能用于重采樣的常用方法。

用Python玩轉時序資料
用Python玩轉時序資料
其它探索

這裡還有一些你可以用于處理資料而進行的其它探索:

用Python玩轉時序資料
用Python玩轉時序資料
用Python玩轉時序資料
用Python玩轉時序資料
用Python玩轉時序資料
Prophet 模組化
用Python玩轉時序資料

Facebook Prophet于2017年釋出的,可用于Python,而R.Prophet是設計用于分析在不同時間間隔上顯示模式的日觀測時間序列。Prophet對于資料丢失情況和趨勢的變化具有很強的魯棒性,并且通常能夠很好地處理異常值。它還具有進階的功能,可以模拟假日在時間序列上産生的影響并執行自定義的變更點,但我将堅持使用基本規則來啟動和運作模型。我認為Prophet可能是生産快速預測結果的一個好的選擇,因為它有直覺的參數,并且可以由有良好領域知識背景的但缺乏預測模型的技術技能的人來進行調整。有關Prophet的更多資訊,大家可以點選

這裡

查閱官方文檔。

在使用Prophet之前,我們将資料裡的列重新命名為正确的格式。Date列必須稱為“ds”和要預測值的列為“y”。我們在下面的示例中使用了每日彙總的資料。

用Python玩轉時序資料

然後我們導入Prophet,建立一個模型并與資料相比對。在Prophet中,

changepoint_prior_scale

參數用于控制趨勢對變化的敏感度,越高的值會更敏感,越低的值則敏感度越低。在試驗了一系列值之後,我将這個參數設定為0.10,而不是預設值0.05。

用Python玩轉時序資料

為了進行預測,我們需要建立一個稱為未來資料框(future

dataframe)的東西。我們需要指定要預測的未來時間段的數量(在我們的例子中是兩個月)和預測頻率(每天)。然後我們用之前建立的Prophet模型和未來資料框進行預測。

用Python玩轉時序資料

非常簡單!未來資料框包含了未來兩個月内的預估居民使用電量。我們可以用一個圖表來進行可視化預測展示:

用Python玩轉時序資料

圖中的黑點代表了實際值,藍線則代表了預測值,而淺藍色陰影區域代表不确定性。

如下圖所示,不确定性區域随着我們在之後的進一步變化而擴大,因為初始的不确定性随着時間的推移而擴散和增多。

用Python玩轉時序資料

Prophet還可以允許我們輕松地對整體趨勢群組件模式進行可視化展示:

用Python玩轉時序資料

每年的模式很有趣,因為它看起來表明了居民的電量使用在秋季和冬季會增加,而在春季和夏季則會減少。直覺地說,這正是我們期望要看到的。從每周的趨勢來看,周日的使用量似乎比一周中其它時間都要多。最後,總體的趨勢表明,使用量增長了一年,然後才緩慢地下降。需要進行進一步的調查來解釋這一趨勢。在下一篇文章中,我們将嘗試找出是否與天氣有關。

LSTM

Long

Short-Term Memory

,長短期記憶網絡)預測

LSTM循環神經網絡具有學習長序列觀測值的前景。部落格文章《了解LSTM網絡》,在以一種易于了解的方式來解釋底層複雜性方面做的非常出色。以下是一個描述LSTM内部單元體系結構的示意圖:

用Python玩轉時序資料

來源:

Understanding

LSTM Networks

LSTM似乎非常适合于對時間序列的預測。讓我們再次使用一下每日彙總的資料。

用Python玩轉時序資料

LSTM對輸入資料的大小很敏感,特别是當使用Sigmoid或Tanh這兩個激活函數的時候。通常,将資料重新調整到[0,1]或[-1,1]這個範圍是一個不錯的實踐,也稱為規範化。我們可以使用scikit-learn庫中的MinMaxScaler預處理類來輕松地規範化資料集。

用Python玩轉時序資料

現在我們可以将已排好序的資料集拆分為訓練資料集和測試資料集。下面的代碼計算出了分割點的索引,并将資料拆分為多個訓練資料集,其中80%的觀測值可用于訓練模型,剩下的20%用于測試模型。

用Python玩轉時序資料

我們可以定義一個函數來建立一個新的資料集,并使用這個函數來準備用于模組化的訓練資料集和測試資料集。

用Python玩轉時序資料

LSTM網絡要求輸入的資料以如下的形式提供特定的數組結構:[樣本、時間間隔、特征]。

資料目前都規範成了[樣本,特征]的形式,我們正在為每個樣本設計兩個時間間隔。可以将準備好的分别用于訓練和測試的輸入資料轉換為所期望的結構,如下所示:

用Python玩轉時序資料

就是這樣,現在已經準備好為示例設計和設定LSTM網絡了。

用Python玩轉時序資料

從下面的損失圖可以看出,該模型在訓練資料集和測試資料集上都具有可比較的表現。

用Python玩轉時序資料

在下圖中,我們看到LSTM在拟合測試資料集方面做得非常好。

用Python玩轉時序資料
聚類( Clustering

最後,我們還可以使用示例的資料進行聚類。執行聚類有很多不同的方式,但一種方式是按結構層次來形成聚類。你可以通過兩種方式形成一個層次結構:從頂部開始來拆分,或從底部開始來合并。我決定先看看後者。

讓我們從資料開始,隻需簡單地導入原始資料,并為某年中的某日和某日中的某一小時添加兩列。

用Python玩轉時序資料
用Python玩轉時序資料
Linkage Dendrograms

linkage函數根據對象的相似性,将距離資訊和對象對分組放入聚類中。這些新形成的聚類随後互相連接配接,以建立更大的聚類。這個過程将會進行疊代,直到在原始資料集中的所有對象在層次樹中都連接配接在了一起。

對資料進行聚類:

用Python玩轉時序資料

完成了!!!這難道不是很簡單嗎?

當然很簡單了,但是上面代碼中的“ward”在那裡意味着什麼呢?這實際上是如何執行的?正如scipy linkage文檔上告訴我們的那樣,“ward”是可以用來計算新形成的聚類之間距離的一個方法。關鍵字“ward”讓linkage函數使用Ward方差最小化算法。其它常見的linkage方法,如single、complete、average,還有不同的距離度量标準,如euclidean、manhattan、hamming、cosine,如果你想玩玩的話也可以使用一下。

現在讓我們來看看這個稱為dendogram的分層聚類圖。dendogram圖是聚類的層次圖,其中那些條形的長度表示到下一個聚類中心的距離。

用Python玩轉時序資料

如果這是你第一次看到dendrogram圖,那看起來挺複雜的,但是别擔心,讓我們把它分解來看:

·在x軸上可以看到一些标簽,如果你沒有指定任何其它内容,那麼這些标簽就是X上樣本的索引;

·在y軸上,你可以看到那些距離長度(在我們的例子中是ward方法);

·水準線是聚類的合并;

·那些垂線告訴你哪些聚類或者标簽是合并的一部分,進而形成了新的聚類;

·水準線的高度是用來表示需要被“橋接”以形成新聚類的距離;

即使有解釋說明,之前的dendogram圖看起來仍然不明顯。我們可以減少一點,以便能更好地檢視資料。

用Python玩轉時序資料

建議查找

聚類文檔

以便能了解更多内容,并嘗試使用不同的參數。

本文由北郵

@愛可可-愛生活

 老師推薦,

阿裡雲雲栖社群

組織翻譯。

文章原标題《Playing with time series data in python》

譯者:Mags,審校:袁虎。

文章為簡譯,更為詳細的内容,請檢視

原文