深度学习应用于一维时间序列时，如何探索其可解释性？
最简单的方法就是通过可视化图以直观地看出模型在做出分类决策时对于不同波形特征的依赖权重，为模型的可解释性提供依据，进而提高模型的可信度。以模型梯度类激活映射为例，数据为地震时间序列数据。
４种模型识别地震事件的可视化图如下，每个子图显示了模型做出分类决策所依赖的波形特 征，波 形特征的 grad-cam权重值越大，代表模型做出决策时更加依赖此波形特征，每个波形图的标题显示了波形的真实类别、预测类别以及预测概率，输入波形的真实类别为地震时间序列。四个模型分别为CNN模型，Inception10模型，vgg16模型和resnet18模型。
CNN模型在识别地震波形时主要依赖于Ｐ波和Ｓ波，权值在Ｓ波之后显著下降。vgg16模型和CNN模型相似，同样将注意力放在Ｐ波和Ｓ波的震相上面，对于其他位置的关注度很低。resnet18模型模型更关注Ｓ波，对于Ｐ波的依赖较小。Inception10模型对于Ｓ波的关注度较大，分类时对于其他波段的关注度较小。
