天天看點

什麼是深度學習(Deep Learning)1 The Development of Deep Learning2. 機器學習3. 深度學習與傳統神經網絡的差別

Author: LiChong0309

Label: Deep Learning 、Artificial Intelligence

  • 1 The Development of Deep Learning
    • 1.1 Turing Testing (圖靈測試)
    • 1.2 醫學上的發現
    • 1.3 Deep Learning的出現
  • 2. 機器學習
  • 3. 深度學習與傳統神經網絡的差別

Artificial Intelligence —-> Machine Learning —–>Deep Learning

在人工智能(Artificial intelligence )研究領域中,有一個研究方向和實作方法是機器學習(Machine Learning),在機器學習中,有一類算法是深度學習(Deep Learning ).

1 The Development of Deep Learning

1.1 Turing Testing (圖靈測試)

圖靈測試是人工智能是否真正能夠成功的一個标準,“計算機科學之父”、“人工智能之父”英國數學家圖靈在1950年的論文《機器會思考嗎》中提出了圖靈測試的概念。即把一個人和一台計算機分别放在兩個隔離的房間中,房間外的一個人同時詢問人和計算機相同的問題,如果房間外的人無法分别哪個是人,哪個是計算機,就能夠說明計算機具有人工智能。

1.2 醫學上的發現

1981年的諾貝爾将頒發給了David Hubel和Torsten Wiesel,以及Roger Sperry。他們發現了人的視覺系統處理資訊是分級的。

從視網膜(Retina)出發,經過低級的V1區提取邊緣特征,到V2區的基本形狀或目标的局部,再到高層的整個目标(如判定為一張人臉),以及到更高層的PFC(前額葉皮層)進行分類判斷等。也就是說高層的特征是低層特征的組合,從低層到高層的特征表達越來越抽象和概念化,也即越來越能表現語義或者意圖。

邊緣特征 —–> 基本形狀和目标的局部特征——>整個目标

這個過程其實和我們的常識是相吻合的,因為複雜的圖形,往往就是由一些基本結構組合而成的。同時我們還可以看出:大腦是一個深度架構,認知過程也是深度的。

什麼是深度學習(Deep Learning)1 The Development of Deep Learning2. 機器學習3. 深度學習與傳統神經網絡的差別
什麼是深度學習(Deep Learning)1 The Development of Deep Learning2. 機器學習3. 深度學習與傳統神經網絡的差別

1.3 Deep Learning的出現

低層次特征 - - - - (組合) - - ->抽象的高層特征

深度學習,恰恰就是通過組合低層特征形成更加抽象的高層特征(或屬性類别)。例如,在計算機視覺領域,深度學習算法從原始圖像去學習得到一個低層次表達,例如邊緣檢測器、小波濾波器等,然後在這些低層次表達的基礎上,通過線性或者非線性組合,來獲得一個高層次的表達。此外,不僅圖像存在這個規律,聲音也是類似的。比如,研究人員從某個聲音庫中通過算法自動發現了20種基本的聲音結構,其餘的聲音都可以由這20種基本結構來合成!

2. 機器學習

機器學習是實作人工智能的一種手段,也是目前被認為比較有效的實作人工智能的手段,目前在業界使用機器學習比較突出的領域很多,例如:計算機視覺、自然語言處理、推薦系統等等。大家生活中經常用到的比如高速上的ETC的車牌識别,今日頭條的新聞推薦,天貓上的評價描述。

機器學習是人工智能的一個分支,而在很多時候,幾乎成為人工智能的代名詞。簡單來說,機器學習就是通過算法,使得機器能從大量曆史資料中學習規律,進而對新的樣本做智能識别或對未來做預測。

3. 深度學習與傳統神經網絡的差別

深度學習可以認為是傳統神經網絡的發展。 在神經網絡剛剛發展的初期,機器學習的方法都是淺層學習。

深度學習與傳統的神經網絡有很多相似的之處,都是利用與神經網絡相似的分層結構,都是有輸出層、輸入層和中間的隐層構成。相鄰層之間的節點有連接配接,同一層的節點之間無連接配接。不同的是,神經網絡中隐層隻有一層,而在深度學習中,隐層卻有很多層。

什麼是深度學習(Deep Learning)1 The Development of Deep Learning2. 機器學習3. 深度學習與傳統神經網絡的差別

繼續閱讀