當元學習遇上故障診斷 Meta-learning in fault diagnosis
- 引言
- 全文概覽
- 基本知識
故障診斷元學習綜述文章 Meta-learning as a promising approach for few-shot cross-domain fault diagnosis: Algorithms, applications, and prospects 為西安交大陳景龍團隊最新學術研究成果。本文是對該綜述的翻譯及闡述，均得到論文作者之同意。
- 原文連結：Meta-learning as a promising approach for few-shot fault dianosis …
- CodeChina位址：https://codechina.csdn.net/weixin_43543177/MetaFD
- Gitee位址：https://gitee.com/fyancy/MetaFD
- GitHub位址：https://github.com/fyancy/MetaFD
引言
裝置安全事故一般與結構損傷、故障發生和功能失效的連續發生密切相關，最終往往造成嚴重的人員傷亡和經濟損失。尤其是對于重大裝備而言，其自動化、內建化、複雜化、高速化、智能化的特點，使得機械對于故障的容忍度愈來愈低，微弱故障就能導緻重大事故的發生。近年來，一系列的故障診斷技術相繼出現。
- 基于信号處理的方法從原始信号中提取故障特征，如快速傅裡葉變換(FFT)，短時傅裡葉變換(STFT)，小波變換等。然而，如圖1所示，(a)過多的人為幹預使其難以滿足現代裝置對于診斷準确性和效率的要求。
- 機器學習是智能故障診斷的前沿技術，可以實作對機械信号特征的自動識别，經典的故障診斷方法如支援向量機方法、随機森林方法、 k 最近鄰方法等得到了廣泛的應用。(b)但仍受制于繁瑣的特征工程。
- 最近，深度學習(DL)進一步擴充了智能診斷的概念，使得從原始信号到診斷的端到端的自動化過程成為可能。多層深度結構賦予網絡強大的非線性轉換能力，以提取更多的抽象特征，如卷積神經網絡(CNN)，長短期記憶(LSTM)，深度自動編碼器(DAE) ，生成對抗性網絡(GAN)，以及圖形神經網絡(GNN)。盡管如此，這些方法仍受限于繁瑣的手動調參和昂貴的計算資源成本。
作者認為，故障診斷對象從基本零件(軸承、齒輪、轉軸等)到大型裝置(風力發電機、航天發動機、高速列車等)的演變，導緻了更苛刻的診斷場景: (1)資料匮乏；(2)工況多變；(3)資料品質差等。是以，需要尋求一種超參數優化少、訓練資料量小、泛化能力強的方法，以滿足快速、準确的故障診斷的要求。元學習，可以作為一種值得考慮的算法。
元學習(Meta-Learning)，也稱學習之學習(Learning to learn)，指的是如下一種學習技術：通過幾個可用樣本就可以快速适應新任務。也就是說，模型設計者不需要在意訓練資料量，使用者也不用關心專家經驗，如圖1所示。這是受人類學習的啟發。當人類遇到一系列任務時，我們學習如何處理它們，同時歸納出該學習過程的抽象知識，這樣我們就可以快速地學習相關的新任務，并很好地應對它們。元學習尋求給定任務的基本規則，即元知識。高水準的元知識能使下遊任務中的模型能夠快速學習，為其提供全局共享的經驗，而不是從頭開始學習。遷移學習也具有類似的能力(例如，參數微調)，但是遷移效果和訓練資料量要求都不令人滿意。
作者還講述了元學習的背景及其在其它領域的應用，此處不贅述。
文章結構如下圖所示。全文從經典的分類方法出發，将元學習方法分為基于優化、度量和模型三類，原因作者也在文中闡明。究其根本，對于啟發性綜述而言，故障診斷中元學習文獻的品質和數量決定了綜述布局，而現階段的元學習在本領域的應用還處于起步階段，是以經典的分類法足以。左邊是元學習的基本架構，元學習器和基礎學習器是模型的抽象表述，元學習器負責對元參數、元知識的更新，用于指導基礎學習器在下遊任務或者具體的新任務上的快速學習。圖中，相同顔色的内容之間互相關聯。如，基于優化的方法為藍青色，而左邊圖中反向傳播流程與之對應，紫色對應于左邊元學習器對于基礎學習器的指導等。
文章創新點：
- 自數學優化的角度引入元學習概念，使得三類元學習之間更容易歸納總結；
- 從深度學習與故障診斷兩個次元進行闡述，理論與實踐結合、具體的案例展示等都使得本文論述更加合理；
- 多角度、多層次展示(主要指最後的application部分)；
- 指出故障診斷元學習方法的挑戰、靈感、未來工作等。
全文概覽
值得一看的是下面這張圖。圖中分别展示了元學習在深度學習領域中(主要是CV)的發展和在機械故障診斷中的應用發展。可以看到，1) 同樣方法的出現和應用，故障診斷領域要慢3年甚至4年，這其中當然有深度學習(Deep learning, DL)發展太快、攻城獅們不善于程式設計等方面的緣故，還有深層次的原因，新技術在新領域的磨合。因為大家在觀望、在對比，
要是CNN就能解決的問題，要什麼遷移學習，要什麼GAN，要什麼元學習？
當然，随着智能診斷算法的發展，學者們發現，DL對于某些更貼近實際條件下的診斷場景效果大打折扣(如前所述)，于是，我們訴諸元學習方法。言歸正傳，DL領域最新的元學習算法并未在故障診斷得到應用，多為經典方法的應用。
基本知識
元知識 Meta-knowledge
元知識 ω \boldsymbol{\omega} ω 是關于如何指導模型在新任務上快速學習的，且融合了模型在多個任務上學習過程的，高層級知識，如初始學習率、優化器等。它比通過預定義 ω \boldsymbol{\omega} ω 的監督式學習獲得的正常知識 θ \theta θ 更進階、更抽象，因為它的目的是指導後者的優化過程 g ( ⋅ ) g(\cdot) g(⋅)，亦即 θ = g ω ( D ) \theta=g_{\boldsymbol{\omega}}(\mathcal{D}) θ=gω(D).
支援集 Support set
查詢集 Query set
元任務 Meta-task
元學習 Meta-learning
持續更新中 …