天天看点

基于爬行动物搜索RSA优化LSTM的时间序列预测   0 引言1 原理2 代码实现3 结论

   0 引言

        基于LSTM进行时间序列预测方法简单有效。LSTM的出现为时间序列预测提供了一个新的研究方向。然而,与大部分网络模型一样,LSTM效果受其超参数设置的影响。为此,本文采用爬行动物搜索Reptile Search Algorithm (RSA)优化LSTM网络超参数,建立RSA-LSTM模型 ,  实例验证表明 , RSA-LSTM 模型的预测效果明显提高。

1 原理

1.1 LSTM原理

1.2 爬行动物搜索算法

        爬行动物搜索Reptile Search Algorithm (RSA)是由Laith Abualigah等人于 2020年提出的一种新的nature-inspired meta-heuristic optimizer,其灵感启发来源于鳄鱼在自然界中的社会行为,主要包含两个主要机制:包围机制、和狩猎机制。对这两种机制建立数学模型即提出了RSA算法。RSA算法是一种基于种群的无梯度方法,可以用来解决带特定约束的复杂或简单的优化问题。具体理论请参考文献《Reptile Search Algorithm (RSA): A novel nature-inspired meta-heuristic optimizer》

 1.3 SMA优化LSTM原理

        以最小化LSTM网络的误差为适应度函数,RSA的作用就是尽量去找一组最优超参数使得网络误差最小化。本文中LSTM的主要几个超参数分别是:学习率lr,batchsize,训练次数K,两个隐含层的节点数L1和L2。

2 代码实现

        基于MATLAB2020b,进行模型搭建与优化。数据结构为时间序列,我们采用前n个时刻的值为输入,n+1时刻 的值为输出这样来进行滚动建模。

2.1 LSTM结果

基于爬行动物搜索RSA优化LSTM的时间序列预测   0 引言1 原理2 代码实现3 结论

2.2 RSA-LSTM结果

 下图为不同超参数的变化曲线:

基于爬行动物搜索RSA优化LSTM的时间序列预测   0 引言1 原理2 代码实现3 结论

 利用上述最优参数建立的RSA-LSTM模型结果为:

基于爬行动物搜索RSA优化LSTM的时间序列预测   0 引言1 原理2 代码实现3 结论

 2.3 方法对比

基于爬行动物搜索RSA优化LSTM的时间序列预测   0 引言1 原理2 代码实现3 结论

3 结论

        从以上分析可以看出,优化后的LSTM具有更好的精度。

继续阅读