這是一篇很難寫的文章,因為我希望這篇文章能對學習者有所啟發。我在空白頁前坐下,并且問自己了一個很難的問題:什麼樣的庫、課程、論文和書籍對于機器學習的初學者來說是最好的。
文章裡到底寫什麼、不寫什麼,這個問題真的讓我很煩惱。我必須把自己當做一個程式員和一個機器學習的初學者,站在這個角度去考慮最合适的資源。
我找出了每個類型中最适合的資源。如果你是一個真正的初學者,并且樂意于開始了解機器學習領域的相關知識,我希望,你可以在我的文章中找到有用的資料。我的建議是,從中挑出一件來,一本書或者是一個庫,反複閱讀或者認真學習所有的相關教程。挑出一個并且堅持學習,直到你完全掌握,再重新選擇一個,重複這個學習過程。現在就讓我們開始吧!
Programming Libraries 程式設計庫資源
我是一個“學習要敢于冒險和嘗試”觀念的倡導者。這是我學習程式設計的方式,我相信很多人也是這樣學習程式設計的。先了解你的能力極限,然後去拓展你的能力。如果你了解如何程式設計,可以将程式設計經驗很快借鑒到深入學習機器學習上。在你實作一個實際的産品系統之前,你必須遵循一些規則、學習相關數學知識。
找到一個庫并且仔細閱讀相關文檔,根據教程,開始嘗試實作一些東西。下面列出的是開源的機器學習庫中最好的幾種。我認為,并不是他們中的每一種都适合用在你的系統中,但是他們是你學習、探索和實驗的好材料。
你可以從一個由你熟悉的語言編寫的庫開始學習,然後再去學習其他功能強大的庫。如果你是一個優秀的程式員,你會知道怎樣從一種語言,簡單合理地遷移到另一種語言。語言的邏輯都是相同的,隻是文法和API稍有不同。
- R Project for Statistical Computing :這是一個開發環境,采用一種近似于Lisp的腳本語言。在這個庫中,所有你想要的與統計相關的功能都通過R語言提供,包括一些複雜的圖示。CRAN(你可以認為是機器學弟的第三方包)中的機器學習目錄下的代碼,是由統計技術方法和其他相關領域中的領軍人物編寫的。如果你想做實驗,或是快速拓展知識,R語言都是必須學習的。但它可能不是你學習的第一站。
- WEKA :這是一個資料挖掘工作平台,為使用者提供數一系列據挖掘全過程的API、指令行和圖形化使用者接口。你可以準備資料、可視化、建立分類、進行回歸分析、建立聚類模型,同時可以通過第三方插件執行其他算法。除了WEKA之外, Mahout 是Hadoop中為機器學習提供的一個很好的JAVA架構,你可以自行學習。如果你是機器學習和大資料學習的新手,那麼堅持學習WEKA,并且全心全意地學習一個庫。
- Scikit Learn :這是用Python編寫的,基于NumPy和SciPy的機器學習庫。如果你是一個Python或者Ruby語言程式員,這是适合你用的。這個庫很使用者接口友好,功能強大,并且配有詳細的文檔說明。如果你想試試别的庫,你可以選擇Orange。
- Octave :如果你很熟悉MatLab,或者你是尋求改變的NumPy程式員,你可以考慮 Octave。這是一個數值計算環境,與MatLab像是,借助Octave你可以很友善地解決線性和非線性問題,比如機器學習算法底層涉及的問題。如果你有工程背景,那麼你可以由此入手。
- BigML :可能你并不想進行程式設計工作。你完全可以不通過代碼,來使用 WEKA那樣的工具。你通過使用BigMLS的服務來進行更加深入的工作。BigML通過Web頁面,提供了機器學習的接口,是以你可以通過浏覽器來建立模型。
挑選出一個平台,并且在你實際學習機器學習的時候使用它。不要紙上談兵,要去實踐!
Video Courses視訊課程
很多人都是通過視訊資源開始接觸機器學習的。我在YouTube和VideoLectures上看了很多于機器學習相關的視訊資源。這樣做的問題是,你可能隻是觀看視訊而并不實際去做。我的建議是,你在觀看視訊的時候,應該多記筆記,及時後來你會抛棄你的筆記。同時,我建議你将學到的東西付諸實踐。
坦白講,我沒有看見特别合适初學者的視訊資源。視訊資源都需要你掌握一定的線性代數、機率論等知識。Andrew Ng在斯坦福的講解可能是最适合初學者的,下面是我推薦的一些視訊資源。
- Stanford Machine Learning 斯坦福的機器學習課程:可以在Coursera上觀看,這門課是由 Andrew Ng講解的。隻要注冊,你可以随時觀看所有的課程視訊,從 Stanford CS229 course 下載下傳講義和筆記。這門課包括了家庭作業和小測試,課程主要講解了線性代數的知識,使用Octave庫。
- Caltech Learning from Data 加利福尼亞理工學院的資料分析課程:你可以在edX上學習這門課程,課程是由Yaser Abu-Mostafa講解的。所有的課程視訊和資料都在加利福尼亞理工學院的網站上。與斯坦福的課程類似,你可以根據自己的情況安排學習進度,完成家庭作業和小論文。它與斯坦福的課程主題相似,關注更多的細節和數學知識。對于初學者來說,家庭作業可能稍有難度。
- Machine Learning Category on VideoLectures.Net 網站中的機器學習目錄:這是個很容易令人眼花缭亂的資源庫。你可以找出比較感興趣的資源,并且深入學習。不要糾結于不适合你的視訊,或者對于感興趣的内容你可以做筆記。我自己會一直重複深入學習一些問題,同時發現新的話題進行學習。此外,在這個網站上你可以發現是這個領域的大師是什麼樣的。
- “Getting In Shape For The Sport Of Data Science” – 由Jeremy Howard 講授:這是與機器學習競賽者的對話,他們是一些實踐中的R語言使用者。這是非常珍貴的資源,因為很少有人會讨論研究一個問題的完整過程和究竟怎樣做。我曾經幻想過在網上找到一個TV秀,記錄機器學習競賽的全過程。這就是我開始學習機器學習的經曆!
Overview Papers綜述論文
如果你并不習慣閱讀科研論文,你會發現論文的語言非常晦澀難懂。一篇論文就像是一本教科書的片段,但是論文會介紹一個實驗或者是領域中其他的前沿知識。然而,如果你準備從閱讀論文開始學習機器學習的話,你還是可以找到一些很有意思的文章的。
- The Discipline of Machine Learning 機器學習中的規則:這是由Tom Mitchell編著的白皮書,其中定義了機器學習的規則。Mitchell在說服CMU總裁為一個百年内都存在的問題建立一個獨立的機器學習部門時,也用到了這本書中的觀點。
- A Few Useful Things to Know about Machine Learning
:這是一篇很好的論文,因為它以詳細的算法為基礎,又提出了一些很重要的問題,比如:選擇特征的一般化,模型簡化等。
我隻是列出了兩篇重要的論文,因為閱讀論文會讓你陷入困境。
Beginner Machine Learning Books給機器學習初學者的書
關于機器學習的書有很多,但是幾乎沒有為初學者量身定做的。什麼樣的人才是初學者呢?最有可能的情況是,你從另外一個完全不同的領域比如:計算機科學、程式設計或者是統計學,來到機器學習領域。那麼,大部分的書籍要求你有一定的線性代數和機率論的基礎。
但是,還有一些書通過講解最少的算法來鼓勵程式員學習機器學習,書中會介紹一些可以使用工具、程式設計函數庫來讓程式員嘗試。其中最有代表性的書是:《Programming Collective Intelligence》,《Machine Learning for Hackers》,《Hackersand Data Mining: Practical Machine Learning Tools and Techniques》(Python版, R版, 以及Java版)。如果感到迷惑的話,你可以選擇其中一本開始學習。

- Programming Collective Intelligence: Building Smart Web 2.0 Applications :這本書是為程式員寫的。書中簡略介紹相關理論,重點以程式為例,介紹web中的實際問題和解決辦法。你可以買來這本書,閱讀,并且做一些練習。
- Machine Learning for Hackers (中文版: 機器學習:實用案例解析 ):我建議你在閱讀了《Programming Collective Intelligence》一書之後,再閱讀這本書。這本書中也提供了很多實踐練習,但是涉及更多的資料分析,并且使用R語言。我個人很喜歡這本書!
- Machine Learning: An Algorithmic Perspective :這本書是《Programming Collective Intelligence》的進階版本。它們目的相同(讓程式員開始了解機器學習),但是這本書包括一些數學知識,參考樣例和phython程式片段。如果你有興趣的話,我建議你在看完《Programming Collective Intelligence》之後來閱讀這本書。
- 資料挖掘:實用機器學習工具與技術(英文版·第3版) :我自己是從這本書開始了解機器學習的,那時是2000年這本書還是第一版。我那時是Java程式員,這本書和WEKA庫為我的學習和實踐提供了一個很好的環境。我通過這樣的平台和一些插件,實作我的算法,并且真正開始實踐機器學習和資料挖掘的過程。我強烈推薦這本書,和這樣的學習過程。
- Machine Learning 計算機科學叢書:機器學習
):這是一本很老的書,包括了一些規則和很多參考資料。這是一本教科書,為每個算法提供了相關講解。
有一些人認為那些經典的機器學習教科書很了不起。 我也贊同,那些書的确非常好。但是,我認為,對于初學者來說,這些書可能并不合适。
Further Reading 繼續閱讀
在寫這篇文章時,我認真思考了相關問題,同時也參考了其他人推薦的資料,以確定我沒有遺漏任何重要參考資料。為了確定文章的完整性,下面也列出了一些網上流行的,可以供初學者使用的材料。.
- A List of Data Science and Machine Learning Resources :這是一份仔細整理的清單。你可以花一些時間,點選連結,仔細閱讀作者的建議。值得一讀!
- What are some good resources for learning about machine learning Why :這個問題的第一個答案令人吃驚。每次我閱讀這篇文章的時候,都會做好筆記,并且插入新的書簽。答案中對我最有啟發的部分是機器學習課程清單,以及相應的課程筆記和問答網站。
- Overwhelmed by Machine Learning: is there an ML101 book :這是StackOverflow上的問題。并且提供了一系列機器學習推薦書籍。Jeff Moser提供的第一個答案是很有用的,其中有課程視訊和講座的連結。
你是不是以及讀過或者用過上面的一些資源了呢?你怎麼看這個問題?
我是不是如願為那些對機器學習有興趣的初學者提供了重要、有用的資源呢?請留下你的建議,讓我們分享!