天天看點

Python常用機器學習庫

計算機視覺、人工智能、數學、天文等。

它同樣适用于機器學習也是意料之中的事。

這篇文章就列舉并描述Python的最有用的機器學習工具和庫。

這個清單中,我們不要求這些庫是用Python寫的,隻要有Python接口就夠了。

我們的目的不是列出Python中所有機器學習庫(搜尋“機器學習”時Python包索引(PyPI)傳回了139個結果),

而是列出我們所知的有用并且維護良好的那些。

另外,盡管有些子產品可以用于多種機器學習任務,

我們隻列出主要焦點在機器學習的庫。

比如,雖然Scipy1包含一些聚類算法,但是它的主焦點不是機器學習而是全面的科學計算工具集。

是以我們排除了Scipy(盡管我們也使用它!)。

另一個需要提到的是,我們同樣會根據與其他科學計算庫的內建效果來評估這些庫,

因為機器學習(有監督的或者無監督的)也是資料處理系統的一部分。

如果你使用的庫與資料處理系統其他的庫不相配,

你就要花大量時間建立不同庫之間的中間層。在工具集中有個很棒的庫很重要,

但這個庫能與其他庫良好內建也同樣重要。

如果你擅長其他語言,但也想使用Python包,

我們也簡單地描述如何與Python進行內建來使用這篇文章列出的庫。

Scikit-Learn

Scikit Learn7是我們在CB Insights選用的機器學習工具。

我們用它進行分類、特征選擇、特征提取和聚集。

我們最愛的一點是它擁有易用的一緻性API,并提供了很多開箱可用的求值、

診斷和交叉驗證方法(是不是聽起來很熟悉?Python也提供了“電池已備(譯注:指開箱可用)”的方法)。

錦上添花的是它底層使用Scipy資料結構,

與Python中其餘使用Scipy、Numpy、Pandas和Matplotlib進行科學計算的部分适應地很好。

是以,如果你想可視化分類器的性能(比如,使用精确率與回報率(precision-recall)圖表,

或者接收者操作特征(Receiver Operating Characteristics,ROC)曲線),

Matplotlib可以幫助進行快速可視化。

考慮到花在清理和構造資料的時間,使用這個庫會非常友善,

因為它可以緊密內建到其他科學計算包上。

另外,它還包含有限的自然語言處理特征提取能力,

以及詞袋(bag of words)、tfidf(Term Frequency Inverse Document Frequency算法)、預處理(停用詞/stop-words,自定義預處理,分析器)。

此外,如果你想快速對小資料集(toy dataset)進行不同基準測試的話,

它自帶的資料集子產品提供了常見和有用的資料集。你還可以根據這些資料集建立自己的小資料集,

這樣在将模型應用到真實世界中之前,你可以按照自己的目的來檢驗模型是否符合期望。

對參數最優化和參數調整,它也提供了網格搜尋和随機搜尋。

如果沒有強大的社群支援,或者維護得不好,這些特性都不可能實作。

我們期盼它的第一個穩定釋出版。

Statsmodels

Statsmodels是另一個聚焦在統計模型上的強大的庫,主要用于預測性和探索性分析。如果你想拟合線性模型、進行統計分析,或者預測性模組化,那麼Statsmodels非常适合。它提供的統計測試相當全面,覆寫了大部分情況的驗證任務。

如果你是R或者S的使用者,它也提供了某些統計模型的R文法。它的模型同時也接受Numpy數組和Pandas資料幀,讓中間資料結構成為過去!

PyMC

PyMC是做貝葉斯曲線的工具。它包含貝葉斯模型、統計分布和模型收斂的診斷工具,也包含一些層次模型。如果想進行貝葉斯分析,你應該看看。

Shogun

Shogun1是個聚焦在支援向量機(Support Vector Machines, SVM)上的機器學習工具箱,用C++編寫。它正處于積極開發和維護中,提供了Python接口,也是文檔化最好的接口。但是,相對于Scikit-learn,我們發現它的API比較難用。而且,也沒提供很多開箱可用的診斷和求值算法。但是,速度是個很大的優勢。

Gensim

Gensim被定義為“人們的主題模組化工具(topic modeling for humans)”。它的首頁上描述,其焦點是狄利克雷劃分(Latent Dirichlet Allocation, LDA)及變體。不同于其他包,它支援自然語言處理,能将NLP和其他機器學習算法更容易組合在一起。

如果你的領域在NLP,并想進行聚集和基本的分類,你可以看看。目前,它們引入了Google的基于遞歸神經網絡(Recurrent Neural Network)的文本表示法word2vec。這個庫隻使用Python編寫。

Orange

Orange是這篇文章列舉的所有庫中唯一帶有圖形使用者界面(Graphical User Interface,GUI)的。對分類、聚集和特征選擇方法而言,它是相當全面的,還有些交叉驗證的方法。在某些方面比Scikit-learn還要好(分類方法、一些預處理能力),但與其他科學計算系統(Numpy, Scipy, Matplotlib, Pandas)的适配上比不上Scikit-learn。

但是,包含GUI是個很重要的優勢。你可以可視化交叉驗證的結果、模型和特征選擇方法(某些功能需要安裝Graphviz)。對大多數算法,Orange都有自己的資料結構,是以你需要将資料包裝成Orange相容的資料結構,這使得其學習曲線更陡。

PyMVPA

PyMVPA是另一個統計學習庫,API上與Scikit-learn很像。包含交叉驗證和診斷工具,但是沒有Scikit-learn全面。

深度學習

盡管深度學習是機器學習的一個子節,我們在這裡建立單獨一節的原因是,它最新吸引了Google和Facebook人才招聘部門的很多注意。

Theano

Theano是最成熟的深度學習庫。它提供了不錯的資料結構(張量,tensor)來表示神經網絡的層,對線性代數來說很高效,與Numpy的數組類似。需要注意的是,它的API可能不是很直覺,使用者的學習曲線會很高。有很多基于Theano的庫都在利用其資料結構。它同時支援開箱可用的GPU程式設計。

PyLearn

還有另外一個基于Theano的庫,PyLearn2,它給Theano引入了子產品化和可配置性,你可以通過不同的配置檔案來建立神經網絡,這樣嘗試不同的參數會更容易。可以說,如果分離神經網絡的參數和屬性到配置檔案,它的子產品化能力更強大。

Decaf

Decaf是最近由UC Berkeley釋出的深度學習庫,在Imagenet分類挑戰中測試發現,其神經網絡實作是很先進的(state of art)。

Nolearn

如果你想在深度學習中也能使用優秀的Scikit-learn庫API,封裝了Decaf的Nolearn會讓你能夠更輕松地使用它。它是對Decaf的包裝,與Scikit-learn相容(大部分),使得Decaf更不可思議。

OverFeat

OverFeat是最近貓vs.狗(kaggle挑戰)4的勝利者,它使用C++編寫,也包含一個Python包裝器(還有Matlab和Lua)。通過Torch庫使用GPU,是以速度很快。也赢得了ImageNet分類的檢測和本地化挑戰。如果你的領域是計算機視覺,你可能需要看看。

Hebel

Hebel是另一個帶有GPU支援的神經網絡庫,開箱可用。你可以通過YAML檔案(與Pylearn2類似)決定神經網絡的屬性,提供了将神級網絡和代碼友好分離的方式,可以快速地運作模型。由于開發不久,就深度和廣度上說,文檔很匮乏。就神經網絡模型來說,也是有局限的,因為隻支援一種神經網絡模型(正向回報,feed-forward)。

但是,它是用純Python編寫,将會是很友好的庫,因為包含很多實用函數,比如排程器和螢幕,其他庫中我們并沒有發現這些功能。

Neurolab

NeuroLab是另一個API友好(與Matlabapi類似)的神經網絡庫。與其他庫不同,它包含遞歸神經網絡(Recurrent Neural Network,RNN)實作的不同變體。如果你想使用RNN,這個庫是同類API中最好的選擇之一。

與其他語言內建

你不了解Python但是很擅長其他語言?不要絕望!Python(還有其他)的一個強項就是它是一個完美的膠水語言,你可以使用自己常用的程式設計語言,通過Python來通路這些庫。以下适合各種程式設計語言的包可以用于将其他語言與Python組合到一起:

R -> RPython

Matlab -> matpython

Java -> Jython

Lua -> Lunatic Python

Julia -> PyCall.jl

不活躍的庫

這些庫超過一年沒有釋出任何更新,我們列出是因為你有可能會有用,但是這些庫不太可能會進行BUG修複,特别是未來進行增強。

MDP2MlPy

FFnet

PyBrain

更多資料加群: 313074041

進群密碼(Y1)