天天看點

小白不知從何入手認知機器學習?Shakir Mohamed 授你錦囊妙計

如何讓機器學習從環境中自主學習和思考是科學家們正努力探索的目标。本文的一些想法說不定可以為研究帶來一絲靈感。

注:本文譯自 the spectator,作者為 shakir mohamed 。文中所有觀點均為原作者提出,不代表本網站和本人觀點。shakir mohamed 是研究統計機器學習方面的科學家。主攻貝葉斯推理,變分推理,深度學習,強化學習。

小白不知從何入手認知機器學習?Shakir Mohamed 授你錦囊妙計

機器學習中最不缺的東西就是靈感來源。至少對我來說是這樣的,它使機器學習變成了有價值且令人興奮的領域。我們從統計學方面傳統的相鄰領域擷取靈感,如信号處理、控制工程、資訊理論,和統計實體。我們的運氣一直都很好,且我們可以從很多其它科學領域獲得更多的靈感,如生物和進化系統,以及對其來說重要的東西,認知社會學、心理學和神經科學。

我以前探索機器學習的重要靈感來源是神經科學、解密預測所扮演的角色、稀疏性,以及搭建學習系統時的子產品化和互補學習。除了學習系統外,也有其他技能可以在更高層次的對其進行更好地了解,從認知科學的角度進行研究。

在該系列中我想探索的主題有四個,且我認為是其中最重要的探索是:

1.因果推理。我們怎樣才可以建立能從因果和影響中學習,并檢測因果關系的機器學習系統。人類在這方面的能力非常強,我們将探讨認知系統中因果感應,反事實推理和因果學習的方方面面。在機器學習中我們可以将其聯想為影響圖中的推理,和有向非循環圖中的推理。

2.科學家一樣的代理。對于人類來說,我們在不斷探索和學習周圍的事物。我們産生假設,驗證它,并從中學習。賦予機器學習這樣的偵查能力,它将引領我們檢驗溯因推理,主動學習,貝葉斯優化,和 bandits 。

3.認知語義。人類是如何學習意義并建立知識、對象和關系的概念。我們可以将了解從認知科學結合到統計學關系 ai,更為廣泛的關系學習、子產品和社群發現。

4.形成思想的理論。人類身處社會,并從中學習和擷取知識。我們的認知工具包括歸因論、意向代理論和理論論。我們可以将其與經濟學,博弈論和多智能體系統中廣泛的思維結合起來。

小白不知從何入手認知機器學習?Shakir Mohamed 授你錦囊妙計

為了更好地描述認知的概念,以及它們與機器學習之間的關系,我将把讨論分成兩部分。第一部分将處理認知科學,并提供以下描述:

→  認知觀察。首先,顯而易見的是我們會觀察衆多認知任務中的一個,并從人生經驗和觀察到的東西找到證據。

→  認知靈感。我們将精煉認知的證據以形成認知原則,這也将是研究機器學習系統的啟示之一。

第二部分将探讨機器學習,這一塊我将使用模型推理算法的架構,這也正是我在每一篇部落格文章中慣用的形式:

→  機率模型。我們用屬性具體化機率模型,結構化假設出我們認為是該問題的最佳描述,和最期望看到結果的原始資訊。

→ 推理原則。模型的選擇、假設的類型、近似、計算和精度,限制了我們必須有效的選擇推理原則,我們用其連接配接模型中所觀察的具體化資料

→ 算法。任何選擇的模型和推理都可以用許多不同的方式實作,描述特定建築元件的算法也一樣,所使用的計算類型,以及如何利用計算平台。

我将使用的描述架構簡單的結合了認知科學和機器學習,以友善對其進行描述。但認知科學有着豐富的概念架構,它有助于了解不同的認知現象。其中有三個架構總能提供靈感:

在1976年,newell 和 simon 通過三級層次解密了這種複雜的認知過程,它們被稱為分級結構。其三級結構是:

1.知識層。通過推動目标和分析實作所需要的知識庫解釋代理的行為。

2.象征層。代理的知識和目标将被編碼到象征結構中,它可以用不同的方式連接配接,并操縱以實作目标。

3.物質層。象征層結構和它們的操縱被放入到實體結構中。

小白不知從何入手認知機器學習?Shakir Mohamed 授你錦囊妙計

marr's levels 的影響力非常大,且我發現在探索神經科學與機器學習之間的聯系時,它非常有效。marr's levels 與 newell 和 simon 的理論非常相似:

1.計算。處理需要通過代理來實作的高層次的任務。

2.算法。指定如何解決計算問題。

3.實施。确定的解決方案必須可以在大腦中實作。

小白不知從何入手認知機器學習?Shakir Mohamed 授你錦囊妙計

該架構主要集中于認知現象而不隻是個架構,并鼓舞我們從整體上在實體和社會學兩個層次思考代理和其環境之間的關系。我們可以使用四種現象的層次結構:

1.社會學。集體行為代理非常很重要,該層次解釋了代理之間的關系和社會文化程序。

2.心理學。重點是個體代理的行為、信念、知識、概念和它們擁有的技能。

3.成分學。認知功能由幾個元件組成。我們可以指定一個認知結構(例如,act-r,clarion,,nef),計算範式(例如,符号,聯結,貝葉斯),和可以考慮到的潛在生物限制。

4.生理學。實作生物基質中任何确定的元件。

還有其他的架構,抽象的認知結構和合理分析也很常用。

認知科學是一大市場,我們可以把機器學習和統計結合到神經科學,甚至是哲學。還有很多其它的東西,我希望在這一系列的過程中,可用提煉出很多的想法,以作為未來機器學習系統的強大靈感源泉。

推薦閱讀:

<a href="http://www.leiphone.com/news/201608/nmgfdck8du7y4p6h.html">什麼是機器學習?為什麼它如此重要?</a>

<a href="http://www.leiphone.com/news/201609/ffuy0kwpkuwtvpwx.html">ai 熱潮注定會失敗?機器學習智能才是王道?</a>

本文作者:章敏

繼續閱讀