BP神經網絡分類器
摘要
本文主要介紹了BP神經網絡的分類器使用方法，結合USPS手寫數字集，對該資料集進行了訓練和分類，對結果做了分析。
手寫體數字識别是模式識别中一個非常重要和活躍的研究領域，數字識别也不是一項孤立的技術，它所涉及的問題是模式識别的其他領域都無法回避的；應用上，作為一種資訊處理手段，字元識别有廣闊的應用背景和巨大的市場需求。是以，對數字識别的研究具有理論和應用的雙重意義。
語音識别分為說話人識别和語義識别，這裡介紹說話人識别，說話人識别提取出特征參數之後，需要采用分類器對特征空間進行分類。
人工神經網絡識别方法是近年該研究領域的一種新方法，該方法具有一些傳統技術所沒有的優點：良好的容錯能力、分類能力強、并行處理和自學習能力，并且是離線訓練和線上識别的。這些優點使它在手寫體字元的識别中能對大量資料進行快速實時處理，并達到良好的識别效果。
本文主要介紹了BP神經網絡的分類器使用方法，結合USPS手寫數字集，語音識别一節他人論文。
關鍵詞： USPS手寫數字，BP人工神經網絡，語音識别
1 人工神經網絡
人工神經網絡(Artificial Neural Networks，NN)是由大量的、簡單的處理單元(稱為神經元)廣泛地互相連接配接而形成的複雜網絡系統，它反映了人腦功能的許多基本特征，是一個高度複雜的非線性動力學系統。神經網絡具有大規模并行、分布式存儲和處理、自組織、自适應和自學習能力，特别适合處理需要同時考慮許多因素和條件的、不精确和模糊的資訊處理問題。神經網絡的發展與神經科學、數理科學、認知科學、計算機科學、人工智能、資訊科學、控制論、機器人學、微電子學、心理學、微電子學、心理學、光計算、分子生物學等有關，是一門新興的邊緣交叉學科。
神經網絡具有非線性自适應的資訊處理能力，克服了傳統人工智能方法對于直覺的缺陷，因而在神經專家系統、模式識别、智能控制、組合優化、預測等領域得到成功應用。神經網絡與其他傳統方法相組合，将推動人工智能和資訊處理技術不斷發展。近年來，神經網絡在模拟人類認知的道路上更加深入發展，并與模糊系統、遺傳算法、進化機制等組合，形成計算智能，成為人工智能的一個重要方向。
1 人工神經網絡的研究背景和意義
人工神經網絡是由具有适應性的簡單單元組成的廣泛并行互連的網絡，它的組織能夠模拟生物神經系統對真實世界物體所作出的互動反應[5]。
人工神經網絡就是模拟人思維的一種方式，是一個非線性動力學系統，其特色在于資訊的分布式存儲和并行協同處理。雖然單個神經元的結構極其簡單，功能有限，但大量神經元構成的網絡系統所能實作的行為卻是極其豐富多彩的。
近年來通過對人工神經網絡的研究，可以看出神經網絡的研究目的和意義有以下三點：(1)通過揭示實體平面與認知平面之間的映射，了解它們互相聯系和互相作用的機理，進而揭示思維的本質，探索智能的本源。(2)争取構造出盡可能與人腦具有相似功能的計算機，即神經網絡計算機。(3)研究仿照腦神經系統的人工神經網絡，将在模式識别、組合優化和決策判斷等方面取得傳統計算機所難以達到的效果。
人工神經網絡特有的非線性适應性資訊處理能力，克服了傳統人工智能方法對于直覺，如模式、語音識别、非結構化資訊處理方面的缺陷，使之在神經專家系統、模式識别、智能控制、組合優化、預測等領域得到成功應用。人工神經網絡與其它傳統方法相結合，将推動人工智能和資訊處理技術不斷發展。近年來，人工神經網絡正向模拟人類認知的道路上更加深入發展，與模糊系統、遺傳算法、進化機制等結合，形成計算智能，成為人工智能的一個重要方向，将在實際應用中得到發展。将資訊幾何應用于人工神經網絡的研究，為人工神經網絡的理論研究開辟了新的途徑。神經計算機的研究發展很快，已有産品進入市場。光電結合的神經計算機為人工神經網絡的發展提供了良好條件。
2 BP神經網絡
2.1 神經元與網絡結構
人工神經網絡(artificial neural network，ANN)是模仿生物神經網絡功能的一種經驗模型。生物神經元受到傳入的刺激，其反應又從輸出端傳到相聯的其它神經元，輸入和輸出之間的變換關系一般是非線性的。神經網絡是由若幹簡單(通常是自适應的)元件及其層次組織，以大規模并行連接配接方式構造而成的網絡，按照生物神經網絡類似的方式處理輸入的資訊。模仿生物神經網絡而建立的人工神經網絡，對輸入信号有功能強大的反應和處理能力。
歸納一下生物神經元傳遞資訊的過程：生物神經元是一個多輸入、單輸出單元。常用的人工神經元模型可用圖2.2模拟。
圖2.2 人工神經元(感覺器)示意圖
當神經元j有多個輸入xi(i=1，2,…,m)和單個輸出yj時，輸入和輸出的關系可表示為:
(2.3)
其中j為門檻值，wij為從神經元i到神經元j的連接配接權重因子，f(