天天看點

灰色神經網絡的預測算法_數字金融與算法研究(二十一)—改進的神經網絡股價預測...

灰色神經網絡的預測算法_數字金融與算法研究(二十一)—改進的神經網絡股價預測...

改進的神經網絡股價預測

前文介紹了BP神經網絡在股價預測方面的應用,其具有較強的非線性逼近能力以及自學習自适應等特性,對股價預測的研究影響頗深。然而BP神經網絡也存在着缺陷,比如容易陷入局部最優解,收斂速度慢等,是以,國内學者針對這些缺陷,通過算法之間的結合運用,有效的優化了BP神經網絡預測股價的精度。以下為一些基于改進算法的股價預測模型。

1

LM遺傳神經網絡

1.1 LM算法

針對BP神經網絡存在的一些缺陷,此方案通過LM算法改進BP神經網絡裡的梯度下降法并利用遺傳算法優化網絡的初始權值和門檻值,進而提高網絡的收斂速度以及搜尋全局最優值的能力。

傳統BP神經網絡采用的是最速下降法進行疊代,即

灰色神經網絡的預測算法_數字金融與算法研究(二十一)—改進的神經網絡股價預測...

其中,η為疊代步長,-gk表示為負梯度方向。梯度下降法在尋找目标函數極小值時,是沿着反梯度方向進行尋找的。梯度的定義就是指向标量場增長最快的方向,在尋找極小值時,先随便定初始點(x0,y0)然後進行疊代不斷尋找直到梯度的模達到預設的要求。但是梯度下降法的缺點之處在于:在遠離極小值的地方下降很快,而在靠近極小值的地方下降很慢。

高斯—牛頓法是一種非線性最小二乘最優化方法。其利用了目标函數的泰勒展開式把非線性函數的最小二乘化問題化為每次疊代的線性函數的最小二乘化問題,其公式為:

灰色神經網絡的預測算法_數字金融與算法研究(二十一)—改進的神經網絡股價預測...

其中Jk為Jacobi矩陣。高斯牛頓法的缺點在于:若初始點距離極小值點過遠,疊代步長過大會導緻疊代下一代的函數值不一定小于上一代的函數值。

LM算法是一種非線性最小二乘算法,其應用相當廣泛,其特點是能使每次疊代的過程不僅僅沿着負梯度的方向,而是讓誤差能夠沿着梯度上升的方向搜尋,這就能夠使得模型不易陷入局部最優解。同時可以通過梯度下降法以及牛頓高斯法之間的自适應調整來優化網絡權值,進而提高網絡收斂速度。

而LM算法結合了梯度下降法以及高斯—牛頓法的特點,其公式為:

灰色神經網絡的預測算法_數字金融與算法研究(二十一)—改進的神經網絡股價預測...

其中Jk為Jacobi矩陣,I是機關矩陣。LM算法在高斯牛頓法中加入了因子μ,當μ大時相當于梯度下降法,μ小時相當于高斯牛頓法。在使用LM算法時,先設定一個比較小的μ值,當發現目标函數反而增大時,将μ增大使用梯度下降法快速尋找,然後再将μ減小使用牛頓法進行尋找。LM的權值修正公式為:

灰色神經網絡的預測算法_數字金融與算法研究(二十一)—改進的神經網絡股價預測...

其中,Wij(t+1)為t+1次疊代時網絡的權值,Wij(t)為第t次疊代時網絡權值,J為誤差對權值微分的Jacobi矩陣,μ為取值大于零的常量,可以自适應調節,e為誤差向量。

1.2遺傳算法

遺傳算法是一種借鑒生物界自然選擇以及遺傳機制的随機搜尋算法,采用群體搜尋政策。其思想來源于生物遺傳學中适者生存的自然法則,通過群體中個體之間的資訊交換,使得本身具有較強的全局搜尋能力。将遺傳算法與BP神經網絡相結合,尋找BP網絡的初始權值和門檻值,這樣能将搜尋範圍擴至全局,使算法快速高效。遺傳算法一般從3個方面優化神經網絡:①利用遺傳算法訓練神經網絡的權值和門檻值;②利用遺傳算法确定神經網絡的拓撲結構;③二者結合進行。遺傳算法優化神經網絡權值的過程如下:

(1)生成初始化種群:初始化種群大小、遺傳代數、交叉機率和變異機率

(2)編碼:對随機産生的連接配接權值和門檻值進行編碼,文中采用實數編碼方法。

(3)适應度函數計算和選擇:以每個樣本的誤差函數值的倒數作為适應度函數值,選擇适應度大的個體進入下一代。

(4)交叉:對從步驟(3)中選出的個體用一定的交叉機率執行部分基因交換産生新個體。

(5)變異:随機挑選對交叉後的個體,讓其子代基因産生小機率的變化來保持群體多樣性。

(6)算法結束:完成了預定的進化代數或者種群中的最優個體在連續的若幹代中沒有改進,則輸出新種群中适應度最大的個體作為最優解,算法終止。否 則傳回步驟(3)繼續計算。

個體編碼采用二進制編碼,每個個體均是一個二進制數串,由輸入層與隐含層連接配接權值、隐含層門檻值、隐含層與輸出層連接配接權值以及輸出層門檻值4部分組成,本文個體編碼長度為:S=R*S1+S1*S2+S1+S2。其中,R為輸入層節點個數,S1為隐含層節點個數,S2為輸出層節點個數。

适應度函數可自行定義,比如神經網絡輸出值與目标值間的誤差平方和的倒數:

灰色神經網絡的預測算法_數字金融與算法研究(二十一)—改進的神經網絡股價預測...

其中yi為BP神經網絡第i個節點的實際輸出,oi為第i個節點的期望輸出。

2

主成分分析法神經網絡

2.1 主成分分析法

主成分分析(principalcomponentanalysis,PCA)是一種統計方法,它對多變量表示資料點集合尋找盡可能少的正交矢量表征資料資訊特征,在保證資訊資料丢失最少的原則下對高維資料進行降維,進而消除資料的備援資訊。其主要的算法步驟如下:

(1)對n*p的X原始資料矩陣進行标準化處理得到資料矩陣Y,消除量綱、正逆名額的影響。

(2)根據标準化矩陣Y計算其相關系數矩陣R,R=Y'Y。

(3)求出相關系數矩陣的特征根及對應的特征向量。

(4)确定主成分,并計算各主成分得分。

2.2 PCA-BP模型

PCA-BP模型是将主成分分析與BP神經網絡模型相結合,組成聯合模型。運用PCA對原始輸入資料進行降維,減少BP神經網絡模型的輸入變量個數,能夠顯著提升模型訓練速度,減少屬性資訊之間的相關性,提升模型預測精度。運用PCA-BP組合模型進行股票價格預測的主要步驟如下:

(1)首先對資料進行标準化。

(2)其次對名額資料進行主成分分析,得到各個主成分的因子得分。

(3)選取适當的主成分,将其得分作為BP神經網絡的輸入值。

(4)建構三層的BP神經網絡,設定相關參數,并對輸入資料進行訓練。

(5)最後,調整相關參數,反複訓練幾次,得到理性的結果。

(6)運用訓練好的PCA-BP模型進行股票價格預測。

3

總結

以上兩種BP神經網絡改進方案通過實證檢驗得到的效果比傳統的BP神經網絡有明顯的提升,方案一有效的克服了傳統BP神經網絡收斂慢,容易陷入局部最優解等問題,方案二中的主成分分析法可以對BP神經網絡模型的輸入資料進行降維重構,在保留影響因子最大資訊量的前提下,有效地降低輸入資料的維數,簡化了網絡結構,很大程度上加快了模型的訓練速度,提高了預測精度。

免責資訊:本資訊中的資訊均來源于公開可獲得資料,作者力求準确可靠,但對這些資訊的準确性及完整性不做任何保證,據此投資,責任自負。

主筆︱陳偉

指導︱翠山︱安歌︱周一

灰色神經網絡的預測算法_數字金融與算法研究(二十一)—改進的神經網絡股價預測...