0 引言
基于LSTM進行時間序列預測方法簡單有效。LSTM的出現為時間序列預測提供了一個新的研究方向。然而，與大部分網絡模型一樣，LSTM效果受其超參數設定的影響。為此，本文采用爬行動物搜尋Reptile Search Algorithm (RSA)優化LSTM網絡超參數，建立RSA-LSTM模型 , 執行個體驗證表明 , RSA-LSTM 模型的預測效果明顯提高。
1 原理
1.1 LSTM原理
1.2 爬行動物搜尋算法
爬行動物搜尋Reptile Search Algorithm (RSA)是由Laith Abualigah等人于 2020年提出的一種新的nature-inspired meta-heuristic optimizer，其靈感啟發來源于鳄魚在自然界中的社會行為，主要包含兩個主要機制：包圍機制、和狩獵機制。對這兩種機制建立數學模型即提出了RSA算法。RSA算法是一種基于種群的無梯度方法，可以用來解決帶特定限制的複雜或簡單的優化問題。具體理論請參考文獻《Reptile Search Algorithm (RSA): A novel nature-inspired meta-heuristic optimizer》
1.3 SMA優化LSTM原理
以最小化LSTM網絡的誤差為适應度函數，RSA的作用就是盡量去找一組最優超參數使得網絡誤差最小化。本文中LSTM的主要幾個超參數分别是：學習率lr，batchsize，訓練次數K，兩個隐含層的節點數L1和L2。
2 代碼實作
基于MATLAB2020b，進行模型搭建與優化。資料結構為時間序列，我們采用前n個時刻的值為輸入，n+1時刻 的值為輸出這樣來進行滾動模組化。
2.1 LSTM結果
2.2 RSA-LSTM結果
下圖為不同超參數的變化曲線：
利用上述最優參數建立的RSA-LSTM模型結果為：
2.3 方法對比
3 結論
從以上分析可以看出，優化後的LSTM具有更好的精度。