深度學習應用于一維時間序列時，如何探索其可解釋性？
最簡單的方法就是通過可視化圖以直覺地看出模型在做出分類決策時對于不同波形特征的依賴權重，為模型的可解釋性提供依據，進而提高模型的可信度。以模型梯度類激活映射為例，資料為地震時間序列資料。
４種模型識别地震事件的可視化圖如下，每個子圖顯示了模型做出分類決策所依賴的波形特 征，波 形特征的 grad-cam權重值越大，代表模型做出決策時更加依賴此波形特征，每個波形圖的标題顯示了波形的真實類别、預測類别以及預測機率，輸入波形的真實類别為地震時間序列。四個模型分别為CNN模型，Inception10模型，vgg16模型和resnet18模型。
CNN模型在識别地震波形時主要依賴于Ｐ波和Ｓ波，權值在Ｓ波之後顯著下降。vgg16模型和CNN模型相似，同樣将注意力放在Ｐ波和Ｓ波的震相上面，對于其他位置的關注度很低。resnet18模型模型更關注Ｓ波，對于Ｐ波的依賴較小。Inception10模型對于Ｓ波的關注度較大，分類時對于其他波段的關注度較小。
