天天看點

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

作者:測繪學報
資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

本文内容來源于《測繪學報》2023年第11期(審圖号GS京(2023)2269号)

高光譜影像少樣例分類的無監督元學習方法

高奎亮1

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

, 劉冰1

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

, 餘岸竹1, 徐佰祺2, 胡偉3, 胡家玮3

1. 資訊工程大學, 河南 鄭州 450001;

2. 31016部隊, 北京 100089;

3. 中國人民武裝警察部隊甘肅省總隊, 甘肅 蘭州 730046

基金項目:河南省自然科學基金(222300420387)

摘要:針對高光譜影像少樣例分類問題, 本文提出了一種無監督元學習方法。該方法能夠利用無标記樣本進行無監督元學習, 在顯著減少深度學習模型對大量标記樣本依賴的同時有效提高高光譜影像少樣例分類精度。首先, 基于自監督學習思想利用主成分分析和資料增強方法構造同一樣本的不同增強特征, 以形成大量不同的任務并對模型進行元訓練。然後, 分别利用目标影像中随機選擇的少量标記樣本和全部樣本對模型進行微調和分類測試, 評估模型在少樣例條件下的分類性能, 并在微調和分類過程中引入投票政策進一步提高分類精度。本文方法能夠在零标記樣本的條件下對模型進行充分的無監督元訓練, 突破了監督元學習方法需要大量源标記樣本的瓶頸和限制。3組公開資料集上的試驗結果表明, 本文方法在少樣例條件下能夠獲得較現有方法更為優異的分類結果。

關鍵詞:高光譜影像分類 少樣例分類 無監督元學習 深度學習 投票政策

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期
資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

高奎亮, 劉冰, 餘岸竹, 等. 高光譜影像少樣例分類的無監督元學習方法[J]. 測繪學報,2023,52(11):1941-1952. DOI: 10.11947/j.AGCS.2023.20220410

GAO Kuiliang, LIU Bing, YU Anzhu, et al. An unsupervised meta learning method for hyperspectral images few-shot classification[J]. Acta Geodaetica et Cartographica Sinica, 2023, 52(11): 1941-1952. DOI: 10.11947/j.AGCS.2023.20220410

閱讀全文:http://xb.chinasmp.com/article/2023/1001-1595/20231111.htm

引 言

随着光譜成像技術、深度學習理論和高性能計算裝置的不斷發展,基于深度學習模型進行資料驅動的高光譜影像分類已經成為了遙感影像智能解譯中的重要研究方向之一[1-2]。與傳統高光譜影像分析方法相比,深度學習模型能夠根據目标函數自動地從高光譜資料中學習到判别性和穩健性強的深度特征,進而有效提高地物識别和探測的準确率。

卷積神經網絡(convolutional neural network, CNN)是高光譜影像分析中最為常用的深度學習模型之一[3-5]。與其他模型相比,CNN能夠更好地适應高光譜資料的三維立方體結構并充分利用影像中的空譜聯合資訊。文獻[6]首先将二維CNN應用于高光譜影像分類,取得了較傳統機器學習方法更高的分類精度。文獻[7]分别探究了一維、二維和三維CNN在高光譜影像深度特征提取中的效果,并進行了詳細的比較和分析。随後,一系列基于CNN的高光譜影像分類模型如雨後春筍般出現,并與注意力機制[8]、密集連接配接[9]、孿生網絡[10]及生成式對抗網絡[11]等結構相結合,進一步提高了分類結果的準确率和穩定性。與CNN相比,膠囊網絡的向量計算模式和動态資訊傳遞機制使其具有更強的特征表示能力,是以在高光譜影像分類中也得到了廣泛應用[12-13]。深度膠囊網絡是代表性算法之一,其基于三維膠囊、殘差連接配接和反卷積層建構端到端的深度學習模型,能夠有效利用影像中的深層次空譜特征[14]。此外,遷移學習[15]、半監督學習[16-18]、無監督特征提取[19-20]及對比學習[21]等先進學習方法被陸續引入,通過利用源域樣本或無标記樣本中潛在的特征資訊輔助訓練,進一步提升了分類效果。

一方面,随着光譜成像技術的不斷進步和航空航天平台數量的持續增加,高光譜影像資料量飛速增長;另一方面,逐像素進行精确的地物标注仍然需要大量專家經驗和實地勘測等工作,擷取高品質的标記樣本費時費力。是以,如何利用少量标記樣本(例如,每類5個标記樣本)實作優異的分類結果,即實作準确的高光譜影像少樣例分類,更具有研究意義和實際應用價值[22-23]。然而,基于深度學習模型的高光譜影像分類方法往往需要選擇每類數十或者數百個标記樣本用于模型訓練,在少樣例條件下無法獲得令人滿意的分類結果,這無疑增加了在實際應用中的工作量和困難程度。

元學習方法為提高高光譜影像少樣例分類精度提供了新的思路和方向。其核心思想是利用預收集的大量相關任務對模型進行元訓練,使模型獲得更強的泛化能力,進而能夠在少樣例條件下快速适應新的任務[24]。是以,引入元學習方法可以使在源影像上訓練得到的模型獲得更強的少樣例學習能力,通過對少量标記樣本的學習實作對目标影像的準确分類。文獻[25—26]對監督元學習方法在高光譜影像分類中的效果進行了初步探究,獲得了較深度學習模型更高的分類精度。然而,監督元學習方法需要預先收集大量标記影像并建構标記源資料集,費時費力。例如,文獻[25]利用4幅預收集影像建構了一個包括55種類别和11 000個标記樣本的源資料集,模型的分類效果仍然依賴于大量人工标記資訊,無法利用較容易擷取的無标記影像提升目标影像上的少樣例分類效果。

為此,本文基于自監督思想和元學習思想提出一種無監督元學習方法,利用無标記影像進行充分的元訓練并進一步提高目标高光譜影像的少樣例分類精度。本文方法遵循“元訓練、微調、分類預測”的典型元學習過程,通過建構同一樣本的大量增強特征實作零标記樣本條件下的無監督元學習。另外,結合高光譜影像光譜高維的資料特點,引入投票政策進一步提高分類精度。試驗結果表明,本文方法在少樣例條件下能夠獲得較現有方法更為優異的分類結果。

1 本文方法

1.1 整體架構

本文方法的整體工作架構如圖 1所示,共包括無監督元訓練、微調和分類3個階段。首先,利用預收集的多幅無标記高光譜影像建構無标記源資料集,并對設計的深度學習模型進行充分的元訓練。然後,利用目标高光譜影像中随機選取的少量标記樣本對模型進行微調,使模型快速适應新的地物類别和分類場景。最後,利用目标影像中的全部樣本評估模型的少樣例分類性能。預收集的源影像具有不同的地物類别、地面分辨率和光譜覆寫範圍,能夠有效提高源資料集中樣本的多樣性,提升元訓練效果。目标影像與源影像具有完全不同的标記空間;而微調資料集和測試資料集均是目标影像的子集,享有相同的标記空間。與深度學習模型相比,本文方法能夠利用源影像中的大量無标記樣本進行基于任務的元訓練,對于不同目标影像具有更強的泛化能力和少樣例學習能力。與監督元學習方法相比,本文方法能夠在零标記樣本的條件下進行充分的無監督元訓練,在顯著減少必需标記樣本數量的同時進一步提高分類精度。

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期
圖 1 本文方法整體架構Fig. 1 Framework of the proposed method
圖選項

1.2 樣本增強特征

與監督元學習方法不同,無監督元學習方法能夠利用無标記源資料集進行元訓練,使模型能夠從大量無标記樣本中學習到更為通用的特征知識。是以,如何利用無标記樣本構造用于元訓練的任務是無監督元學習必須解決的關鍵問題。

借鑒自監督學習方法中建構正負樣本對的思想,本文提出了一種主成分分析(principal comp-onent analysis, PCA)與資料增強方法相結合的增強特征生成方法,在充分适應高光譜影像資料特點的同時建構大量用于元訓練的任務。如圖 2所示,對于任意無标記樣本,首先利用PCA算法将其降維至3個波段,在保留主要光譜特征的同時減少波段備援資訊。然後,利用裁剪、翻轉、旋轉、切割等資料增強方法對空間資訊進行變換,生成樣本的增強特征。在元訓練過程中,同一樣本的增強特征被視為屬于同一類别的不同樣本,進而為任務構造提供僞标簽資訊。提出的增強特征生成方法不僅能夠有效地擴大源資料集規模,而且能夠為無監督元訓練過程提供标記樣本支撐。

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期
圖 2 樣本增強特征Fig. 2 Generating augmentation features of samples
圖選項

1.3 深度殘差關系網絡

為了充分利用影像中的空譜聯合資訊,并進行高效的基于任務的模型訓練,本文基于關系網絡[27]和殘差網絡[28]設計了一種用于高光譜影像少樣例分類的深度殘差關系網絡模型。如圖 3所示,整個模型具有端到端的結構,以支援集和查詢集作為輸入,以關系得分向量作為輸出,主要包括特征提取和關系學習兩個核心子產品。其中,支援集和查詢集分别記為S={(xi, yi)}i=1C×K和Q={(xj, yj)}j=1C×N(C表示類别數量,K和N分别表示支撐集和查詢集中每類地物包含的樣本數量)。

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期
圖 3 深度殘差關系網絡Fig. 3 Deep residual relation network
圖選項

在訓練過程中,支撐樣本xi的類别标記視為監督資訊,查詢樣本xj的類别标記視為未知,模型通過優化其在查詢樣本上的預測結果實作參數更新。具體地,特征學習子產品f負責将資料空間中的樣本xi和xj映射為特征空間中的向量f(xi)和f(xj),并将其在通道次元上進行連接配接,記為Con(f(xi), f(yi))。關系學習子產品g将每個連接配接向量映射為一個代表樣本間相似性的關系得分ri, j=g[Con(f(xi), f(yi))]。最後,由關系得分向量R={ri, j}中分值最大的連接配接向量對應的支撐樣本決定查詢樣本xj的類别。模型以均方誤差(mean square error, MSE)作為損失函數。如式(1)所示

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

(1)

如果支撐樣本和查詢樣本屬于同一類别,即yi=yj,關系分數ri, j将被優化為1,否則為0。在MSE函數的限制下,模型能夠進行有效的關系學習,即為同類樣本的連接配接向量賦予高分值,為不同類樣本之間的連接配接向量賦予低分值。模型訓練完成後,能夠通過比較支撐樣本和查詢樣本之間關系分值的方式進行類别預測。

表 1列出了特征提取子產品和關系學習子產品的具體網絡結構。特征提取子產品以經典的深度學習模型Resnet18[28]為基礎進行改進,共包括一個卷積層、一個最大池化層和8個卷積殘差塊。為了對影像中深度特征進行更為充分的學習,将模型的卷積核數量從原Resnet18中的(64, 128, 256, 512)增加至(128, 256, 512, 1024),其餘網絡結構均與Resnet18保持相同。試驗表明,卷積核數量的增加能夠有效提升模型的特征學習效果和影像分類精度。關系學習子產品基于1×1卷積和全連接配接層進行建構,并引入批量歸一化、ReLU激活函數和dropout操作,進一步提高模型的收斂速度和泛化能力。如表 1所示,卷積層中卷積核數量為512,兩個全連接配接層中神經元數量分别設定為128和1。

表 1 深度殘差關系網絡具體結構Tab. 1 Structure of the deep residual relation network

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

本文方法基于關系網絡和殘差網絡進行設計,融合了二者不同的優勢:關系網絡通過相似性比較的方式進行關系學習,能夠學習到“同類聚集、異類分類”的深度特征;殘差網絡能夠充分融合不同層次上的深度空譜聯合特征,進一步提高分類精度。與傳統網絡模型相比,本文模型通過比較關系分值的方式确定樣本類别,能夠适應包含任意類别數量的分類任務并有效泛化至不同目标影像。另外,基于任務的訓練方式使本文模型具有更強的泛化能力和少樣例學習能力。

1.4 投票政策

一方面,本文方法在元訓練階段基于大量不同的樣本增強特征進行參數學習,微調和分類階段中的輸入樣本應與樣本增強特征在資料次元上保持一緻;另一方面,高光譜影像不可避免地存在着光譜備援的問題。是以,本文提出了一種基于投票政策的微調和分類方法。如圖 4所示,對目标影像随機選擇3個波段并重複10次,分别進行10次微調和分類,目标影像的最終分類結果由10次分類的投票情況決定,詳細步驟如下:①随機選取目标影像的第i1、j1和k1波段并進行模型微調和分類預測,得到分類結果Ⅰ;②步驟①重複10次,分别得到10個分類結果Ⅰ, Ⅱ, …, Ⅹ;③目标影像不同像素位置的最終分類結果由10次分類結果中相應位置出現次數最多的類别确定。該方法具有以下3點優勢:首先,多次波段随機選擇的方式能夠確定不同光譜範圍内的地物屬性資訊和跨光譜範圍的波段關系得到充分利用;其次,巧妙地解決了不同影像間波段數量不一緻的問題,對于具有任意波段數量的目标影像,均可以利用波段随機選取和投票的方式進行分類;最後,投票政策實際上是一種內建學習方法,通過內建不同波段上的分類結果能夠在利用影像光譜資訊的同時進一步提高分類精度。

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期
圖 4 基于投票政策進行微調和分類Fig. 4 Fine-tuning and classification based on the voting strategy
圖選項

2 試驗結果與分析

2.1 試驗資料

本文選擇Houston 2013 (HS13)、Botswana (BO)、Kennedy Space Center (KSC)和Chikusei (CH) 4幅高光譜影像作為預收集的無标記源影像,選擇University of Pavia (UP)、Salinas (SA),以及一幅近年來新擷取的影像HanChuan (HC)[29]作為目标影像。如表 2所示,4幅源影像具有不同的光譜範圍、像素分辨率和地物類别,能夠有效提高源資料集中樣本的多樣性,進而提升元訓練效果。試驗中,選擇像素周圍28×28像素的鄰域資料作為輸入樣本,并從4幅源影像中随機選擇40 000個樣本建構源資料集,以充分利用影像中的空譜聯合資訊。對于每個無标記樣本,随機生成20個增強特征。是以,建構的無标記源資料集的次元可表示為(40 000, 20, 28, 28, 3)。3幅目标影像由不同傳感器擷取,主要覆寫場景分别為大學、山谷農田及城鄉接合區域,能夠為分類試驗提供不同場景和地物類别。

表 2 試驗資料Tab. 2 Experimental datasets

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

2.2 試驗設定

試驗的硬體環境為:Intel(R) Xeon(R) Gold 6152處理器,256 GB記憶體,Nvidia A100 PCIE顯示卡。試驗中所有程式均在Ubuntu系統上基于Python語言和Pytorch、sklearn等深度學習依賴庫進行開發。

在無監督元訓練過程中,學習率設定為0.000 1,疊代次數設定為40 000,以確定模型進行充分的元訓練。實際上,模型通過對一個任務的學習即實作了一次訓練疊代,是以,利用源資料集随機采樣生成的任務的數量為40 000。參照現有文獻[26]和預試驗結果,每個任務的具體設定為(C=20, K=5, N=15),即從構造的無标記源資料集中每次随機選擇20個類别,每個類别均随機選擇5個和15個樣本建構支撐集和查詢集。在微調階段,學習率同樣設定為0.000 1,疊代次數設定為1000,任務設定為(C=Ctarget, K=2, N=3)。其中,Ctarget為目标影像中包含的類别數量,UP資料集中Ctarget為9,SA和HC資料中Ctarget為16。元訓練和微調階段均采用Adam算法進行參數優化,dropout層中随機丢棄機率設定為50%。為了定量評價不同方法的分類結果,選取總體分類精度(OA)、平均分類精度(AA)和Kappa系數作為評價名額。另外,為了減輕樣本随機選擇導緻的分類結果不穩定的問題,利用不同方法進行10次試驗并将試驗結果的平均值和标準差作為最終分類結果。

2.3 試驗結果與分析

為驗證本文方法的有效性,選取6種不同分類方法進行比較,包括經典的半監督分類器TSVM、擴充形态學輪廓(extended morphological profile, EMP)與TSVM相結合的方法、先進的半監督深度學習模型EMP+GCN[30]、結合過采樣政策的生成式對抗網絡3D-HyperGAMO[11],以及兩種監督元學習方法DFSL+SVM[25]和RN-FSC[26]。兩種傳統半監督分類方法中,TSVM均以徑向基函數作為核函數,懲罰系數和超參數分别設定為1024和1.0。提取EMP特征時首先利用PCA算法進行降維,并在前3個主成分上利用交叉形元素進行形态學處理,開閉運算半徑分别設定為3、5、7、9。其餘4種深度分類模型的參數設定均與原文獻保持一緻:GCN模型由具有8個節點的隐藏層構成,學習率和疊代次數分别為0.001和2000;3D-HyperGAMO由三維卷積和二維轉置卷積構成,學習率和疊代次數分别為0.000 2和8000;DFSL+SVM中特征提取網絡包括兩個三維卷積殘差塊和一個二維卷積層,卷積核數量分别為8、16和32,學習率和疊代次數分别為0.001和10 000;RN-FSC基于三維卷積塊、Relu激活函數和最大池化層建構,學習率和疊代次數分别為0.001和10 000。對于前4種分類方法(TSVM、EMP-TSVM、EMP+GCN和3D-HyperGAMO),均随機選擇目标影像中每類5個标記樣本進行模型訓練。對于兩種監督元學習方法和本文方法,均首先利用預收集的源影像進行元訓練,然後利用目标影像中每類5個标記樣本進行微調。另外,為所有分類方法均設定相同的随機數種子,以保證所有方法在利用完全相同标記樣本的條件下進行公平比較。

表 3—表 5列出了不同方法在3幅目标影像上的分類結果,可以發現:①半監督分類器TSVM無法利用影像中的深層次特征,分類精度明顯低于其他深度學習模型,而EMP特征的引入能夠有效改善TSVM的分類效果;②深度分類模型EMP+GCN能夠同時利用标記樣本和無标記樣本中的空間和光譜資訊進行半監督學習,而3D-HyperGAMO則能夠利用大量合成樣本對網絡進行輔助訓練,是以其在目标影像上的分類精度較TSVM方法而言均有明顯提高;③兩種監督元學習方法均首先利用大量源标記樣本對模型進行元訓練,并利用學習到的特征知識指導模型在目标影像上的分類任務,是以其分類效果進一步提升;④本文方法在所有對比方法中取得了最為優異的分類結果,其總體分類精度在3幅目标影像上較第二名分類提高了3.28%、0.43%和3.21%,Kappa系數在3幅目标影像上較第二名分類提高了0.037 9、0.004 7和0.034 8。本文方法在少樣例條件下的優異分類表現可以總結為以下3個原因:首先,本文方法通過生成每個樣本的增強特征來建構任務,能夠使模型利用無标記影像進行充分的元訓練;然後,建構的深度殘差關系網絡通過相似性比較的方式進行樣本間關系學習,在充分利用空間和光譜資訊的同時能夠提取到可分性更強的深層次特征;最後,投票政策的采用能夠通過內建學習的方式進一步提高分類結果的精度。

表 3 不同方法在UP資料集上的分類結果Tab. 3 Classification results of different methods on the UP data set

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

表 4 不同方法在SA資料集上的分類結果Tab. 4 Classification results of different methods on the SA data set

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

表 5 不同方法在HC資料集上的分類結果Tab. 5 Classification results of different methods on the HC data set

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

分類圖是高光譜影像分類的直接産品,能夠反映不同地物目标的空間分布特征。為了直覺觀察不同方法的分類結果并進行定性評價,圖 5—圖 7展示了不同方法在3幅目标影像上的分類圖。可以看出,随着分類精度的不斷提高,分類圖中的噪聲和誤分類現象逐漸減少。與其他方法相比,本文方法能夠獲得最為準确的分類圖,且與真實地面标記最為接近,從可視化角度再次驗證了本文方法在高光譜影像少樣例分類中的有效性。

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期
圖 5 不同方法在UP資料集上的分類Fig. 5 Classification of different methods on the UP data set
圖選項
資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期
圖 6 不同方法在SA資料集上的分類Fig. 6 Classification of different methods on the SA data set
圖選項
資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期
圖 7 不同方法在HC資料集上的分類Fig. 7 Classification of different methods on the HC data set
圖選項

2.4 網絡結構分析

本文以改進後的Resnet18網絡作為特征提取子產品,并結合關系學習子產品設計了一種用于高光譜影像少樣例分類的深度殘差關系網絡。關系學習子產品實際上是一個包括卷積層和全連接配接層的淺層網絡,特征提取子產品則是本文方法的骨幹網絡。是以,為了驗證本文方法較傳統網絡模型的優勢,本小節在試驗環境完全相同的條件下對本文方法與Resnet18網絡的分類結果進行了比較。與本文方法相同,Resnet18網絡首先利用建構的源資料集進行訓練,然後利用目标影像中每類5個标記樣本進行微調。表 6的結果表明,本文方法在3幅目标影像上的分類結果均優于Resnet18網絡,驗證了其在高光譜影像少樣例分類上的有效性。與Resnet18網絡相比,本文方法通過相似性比較的方式進行基于任務的關系學習,在泛化至不同目标影像時表現出了更強的少樣例學習能力。

表 6 本文網絡模型與傳統Resnet18模型的分類結果Tab. 6 Classification results of the designed model and the traditional Resnet18 model

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

進一步地,本小節通過改變設計模型中的卷積核數量探究網絡具體結構對分類結果的影響。參照大多數深度學習模型的一般規律,采用逐漸加倍的方式确定不同層次上卷積核的具體數量,即(M, 2M, 4M, 8M)。圖 8展示了M取值分别為32、64、128和512時提出方法在3幅目标影像上的分類精度。可以看到,随着M取值不斷提高,本文模型的分類精度呈現出先上升後趨于穩定的趨勢,且當M取值為128時提出方法能夠獲得最高的分類精度。

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期
圖 8 卷積核數量對分類精度的影響Fig. 8 Classification maps of different methods on the HC data set
圖選項

2.5 投票政策分析

基于投票政策進行微調和分類實際上是采用內建學習思想進一步提高模型的少樣例分類效果。投票次數的設定直接影響着高光譜影像分類精度。圖 9展示了不同的投票次數設定下本文方法在3幅目标影像上的分類結果,可以看出,随着投票次數的不斷增加,總體分類精度逐漸提升并趨于穩定。當投票次數設定為10~20次時,模型均能夠取得較為理想的分類結果,但投票次數過大無疑會導緻微調和分類時間的增加。是以,綜合考慮分類精度與執行效率,本文方法中投票政策的最優設定為10次。

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期
圖 9 投票次數對分類精度的影響Fig. 9 Influence of the times of the voting strategy on classification accuracy
圖選項

2.6 元訓練階段分析

如圖 1所示,本文方法的訓練過程可分為無監督元訓練和微調兩個階段。無監督元訓練能夠利用大量不同的無标記樣本對深度學習模型進行充分的基于任務的預訓練,使其能夠積累大量的先驗知識并獲得更強的泛化能力。是以,元訓練是本文方法的關鍵步驟之一。為了驗證元訓練階段的有效性,本小節進行試驗探究了元訓練階段對分類結果的影響。由表 7的結果可以看出,不進行元訓練的模型隻能利用微調資料集中的少量标記樣本進行監督訓練,分類效果較差。在3幅目标影像上,深度學習模型在元訓練後的分類精度分别提高了8.46%、2.96%和9.48%,充分驗證了元訓練階段在本文方法中的有效性。

表 7 元訓練階段分析Tab. 7 Analysis on the meta-training phase

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

2.7 元學習方法綜合比較

表 8列出了3種元學習方法在必需标記樣本數量、執行效率和總體分類精度方面的綜合比較。必需标記樣本包括元訓練和微調階段中需要的标記樣本。3種元學習方法在目标影像上的執行時間均可以分為微調和分類兩個階段。在必需标記樣本數量方面,DFSL+SVM和RN-FSC在元訓練階段均需要大量标記樣本建構标記源資料集,是以二者需要的标記樣本數量最多,而本文方法能夠利用無标記樣本進行無監督元訓練。是以,本文方法在元訓練階段必需的标記樣本數量為0,突破了監督元學習方法需要大量源标記樣本的瓶頸和限制。執行時間方面,DFSL+SVM采用核支援向量機進行微調和分類,是以所需時間明顯少于其他方法。本文方法利用投票政策确定樣本類别,對每一幅目标影像實際運作了10次微調和分類。是以,與其他元學習方法相比,本文方法需要更長的微調和分類時間。分類效果方面,本文方法在3幅目标影像的總體分類精度均明顯高于其他兩種監督元學習方法,直接表明了本文方法在高光譜影像少樣例分類中的有效性。

表 8 元學習方法綜合比較Tab. 8 Comprehensive comparison on different meta learning methods

資訊工程大學高奎亮:高光譜影像少樣例分類的無監督元學習方法 |《測繪學報》2023年11期

3 總結與展望

為有效減少監督元學習方法在元訓練階段對大量标記樣本的依賴,并進一步提高高光譜影像少樣例分類精度,本文提出了一種高光譜影像無監督元學習方法。與監督元學習方法不同,該方法僅利用無标記高光譜影像即可實作有效的元學習。針對源資料集中的每個無标記樣本,采用主成分分析和資料增強的方式生成多個樣本增強特征,并随機建構大量用于元訓練的任務。建構的深度殘差關系網絡首先利用無标記影像進行無監督元學習,然後基于投票政策在目标影像上進行微調和分類性能評估。試驗結果表明,本文方法能夠顯著減少訓練階段中必需标記樣本的數量,且在少樣例條件下能夠獲得較現有方法更好的分類結果。

雖然本文方法能夠有效提高高光譜影像少樣例分類精度,但仍然沒有考慮到源影像與目标影像之間的資料分布差異。未來的工作将在本文方法的基礎上結合域适應技術,以期在減少影像間域差異的同時進一步提高少樣例分類結果的準确性和穩健性。

作者簡介

第一作者簡介:高奎亮(1996-), 男, 博士生, 主要研究方向為深度學習與遙感影像處理。E-mail: [email protected]

通信作者:劉冰, E-mail: [email protected]

初審:張 琳複審:宋啟凡

終審:金 君

資訊

繼續閱讀