天天看点

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

作者:测绘学报
信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

本文内容来源于《测绘学报》2023年第11期(审图号GS京(2023)2269号)

高光谱影像少样例分类的无监督元学习方法

高奎亮1

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

, 刘冰1

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

, 余岸竹1, 徐佰祺2, 胡伟3, 胡家玮3

1. 信息工程大学, 河南 郑州 450001;

2. 31016部队, 北京 100089;

3. 中国人民武装警察部队甘肃省总队, 甘肃 兰州 730046

基金项目:河南省自然科学基金(222300420387)

摘要:针对高光谱影像少样例分类问题, 本文提出了一种无监督元学习方法。该方法能够利用无标记样本进行无监督元学习, 在显著减少深度学习模型对大量标记样本依赖的同时有效提高高光谱影像少样例分类精度。首先, 基于自监督学习思想利用主成分分析和数据增强方法构造同一样本的不同增强特征, 以形成大量不同的任务并对模型进行元训练。然后, 分别利用目标影像中随机选择的少量标记样本和全部样本对模型进行微调和分类测试, 评估模型在少样例条件下的分类性能, 并在微调和分类过程中引入投票策略进一步提高分类精度。本文方法能够在零标记样本的条件下对模型进行充分的无监督元训练, 突破了监督元学习方法需要大量源标记样本的瓶颈和限制。3组公开数据集上的试验结果表明, 本文方法在少样例条件下能够获得较现有方法更为优异的分类结果。

关键词:高光谱影像分类 少样例分类 无监督元学习 深度学习 投票策略

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期
信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

高奎亮, 刘冰, 余岸竹, 等. 高光谱影像少样例分类的无监督元学习方法[J]. 测绘学报,2023,52(11):1941-1952. DOI: 10.11947/j.AGCS.2023.20220410

GAO Kuiliang, LIU Bing, YU Anzhu, et al. An unsupervised meta learning method for hyperspectral images few-shot classification[J]. Acta Geodaetica et Cartographica Sinica, 2023, 52(11): 1941-1952. DOI: 10.11947/j.AGCS.2023.20220410

阅读全文:http://xb.chinasmp.com/article/2023/1001-1595/20231111.htm

引 言

随着光谱成像技术、深度学习理论和高性能计算设备的不断发展,基于深度学习模型进行数据驱动的高光谱影像分类已经成为了遥感影像智能解译中的重要研究方向之一[1-2]。与传统高光谱影像分析方法相比,深度学习模型能够根据目标函数自动地从高光谱数据中学习到判别性和稳健性强的深度特征,从而有效提高地物识别和探测的准确率。

卷积神经网络(convolutional neural network, CNN)是高光谱影像分析中最为常用的深度学习模型之一[3-5]。与其他模型相比,CNN能够更好地适应高光谱数据的三维立方体结构并充分利用影像中的空谱联合信息。文献[6]首先将二维CNN应用于高光谱影像分类,取得了较传统机器学习方法更高的分类精度。文献[7]分别探究了一维、二维和三维CNN在高光谱影像深度特征提取中的效果,并进行了详细的比较和分析。随后,一系列基于CNN的高光谱影像分类模型如雨后春笋般出现,并与注意力机制[8]、密集连接[9]、孪生网络[10]及生成式对抗网络[11]等结构相结合,进一步提高了分类结果的准确率和稳定性。与CNN相比,胶囊网络的向量计算模式和动态信息传递机制使其具有更强的特征表示能力,因此在高光谱影像分类中也得到了广泛应用[12-13]。深度胶囊网络是代表性算法之一,其基于三维胶囊、残差连接和反卷积层构建端到端的深度学习模型,能够有效利用影像中的深层次空谱特征[14]。此外,迁移学习[15]、半监督学习[16-18]、无监督特征提取[19-20]及对比学习[21]等先进学习方法被陆续引入,通过利用源域样本或无标记样本中潜在的特征信息辅助训练,进一步提升了分类效果。

一方面,随着光谱成像技术的不断进步和航空航天平台数量的持续增加,高光谱影像数据量飞速增长;另一方面,逐像素进行精确的地物标注仍然需要大量专家经验和实地勘测等工作,获取高质量的标记样本费时费力。因此,如何利用少量标记样本(例如,每类5个标记样本)实现优异的分类结果,即实现准确的高光谱影像少样例分类,更具有研究意义和实际应用价值[22-23]。然而,基于深度学习模型的高光谱影像分类方法往往需要选择每类数十或者数百个标记样本用于模型训练,在少样例条件下无法获得令人满意的分类结果,这无疑增加了在实际应用中的工作量和困难程度。

元学习方法为提高高光谱影像少样例分类精度提供了新的思路和方向。其核心思想是利用预收集的大量相关任务对模型进行元训练,使模型获得更强的泛化能力,从而能够在少样例条件下快速适应新的任务[24]。因此,引入元学习方法可以使在源影像上训练得到的模型获得更强的少样例学习能力,通过对少量标记样本的学习实现对目标影像的准确分类。文献[25—26]对监督元学习方法在高光谱影像分类中的效果进行了初步探究,获得了较深度学习模型更高的分类精度。然而,监督元学习方法需要预先收集大量标记影像并构建标记源数据集,费时费力。例如,文献[25]利用4幅预收集影像构建了一个包括55种类别和11 000个标记样本的源数据集,模型的分类效果仍然依赖于大量人工标记信息,无法利用较容易获取的无标记影像提升目标影像上的少样例分类效果。

为此,本文基于自监督思想和元学习思想提出一种无监督元学习方法,利用无标记影像进行充分的元训练并进一步提高目标高光谱影像的少样例分类精度。本文方法遵循“元训练、微调、分类预测”的典型元学习过程,通过构建同一样本的大量增强特征实现零标记样本条件下的无监督元学习。另外,结合高光谱影像光谱高维的数据特点,引入投票策略进一步提高分类精度。试验结果表明,本文方法在少样例条件下能够获得较现有方法更为优异的分类结果。

1 本文方法

1.1 整体框架

本文方法的整体工作框架如图 1所示,共包括无监督元训练、微调和分类3个阶段。首先,利用预收集的多幅无标记高光谱影像构建无标记源数据集,并对设计的深度学习模型进行充分的元训练。然后,利用目标高光谱影像中随机选取的少量标记样本对模型进行微调,使模型快速适应新的地物类别和分类场景。最后,利用目标影像中的全部样本评估模型的少样例分类性能。预收集的源影像具有不同的地物类别、地面分辨率和光谱覆盖范围,能够有效提高源数据集中样本的多样性,提升元训练效果。目标影像与源影像具有完全不同的标记空间;而微调数据集和测试数据集均是目标影像的子集,享有相同的标记空间。与深度学习模型相比,本文方法能够利用源影像中的大量无标记样本进行基于任务的元训练,对于不同目标影像具有更强的泛化能力和少样例学习能力。与监督元学习方法相比,本文方法能够在零标记样本的条件下进行充分的无监督元训练,在显著减少必需标记样本数量的同时进一步提高分类精度。

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期
图 1 本文方法整体框架Fig. 1 Framework of the proposed method
图选项

1.2 样本增强特征

与监督元学习方法不同,无监督元学习方法能够利用无标记源数据集进行元训练,使模型能够从大量无标记样本中学习到更为通用的特征知识。因此,如何利用无标记样本构造用于元训练的任务是无监督元学习必须解决的关键问题。

借鉴自监督学习方法中构建正负样本对的思想,本文提出了一种主成分分析(principal comp-onent analysis, PCA)与数据增强方法相结合的增强特征生成方法,在充分适应高光谱影像数据特点的同时构建大量用于元训练的任务。如图 2所示,对于任意无标记样本,首先利用PCA算法将其降维至3个波段,在保留主要光谱特征的同时减少波段冗余信息。然后,利用裁剪、翻转、旋转、切割等数据增强方法对空间信息进行变换,生成样本的增强特征。在元训练过程中,同一样本的增强特征被视为属于同一类别的不同样本,从而为任务构造提供伪标签信息。提出的增强特征生成方法不仅能够有效地扩大源数据集规模,而且能够为无监督元训练过程提供标记样本支撑。

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期
图 2 样本增强特征Fig. 2 Generating augmentation features of samples
图选项

1.3 深度残差关系网络

为了充分利用影像中的空谱联合信息,并进行高效的基于任务的模型训练,本文基于关系网络[27]和残差网络[28]设计了一种用于高光谱影像少样例分类的深度残差关系网络模型。如图 3所示,整个模型具有端到端的结构,以支持集和查询集作为输入,以关系得分向量作为输出,主要包括特征提取和关系学习两个核心模块。其中,支持集和查询集分别记为S={(xi, yi)}i=1C×K和Q={(xj, yj)}j=1C×N(C表示类别数量,K和N分别表示支撑集和查询集中每类地物包含的样本数量)。

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期
图 3 深度残差关系网络Fig. 3 Deep residual relation network
图选项

在训练过程中,支撑样本xi的类别标记视为监督信息,查询样本xj的类别标记视为未知,模型通过优化其在查询样本上的预测结果实现参数更新。具体地,特征学习模块f负责将数据空间中的样本xi和xj映射为特征空间中的向量f(xi)和f(xj),并将其在通道维度上进行连接,记为Con(f(xi), f(yi))。关系学习模块g将每个连接向量映射为一个代表样本间相似性的关系得分ri, j=g[Con(f(xi), f(yi))]。最后,由关系得分向量R={ri, j}中分值最大的连接向量对应的支撑样本决定查询样本xj的类别。模型以均方误差(mean square error, MSE)作为损失函数。如式(1)所示

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

(1)

如果支撑样本和查询样本属于同一类别,即yi=yj,关系分数ri, j将被优化为1,否则为0。在MSE函数的约束下,模型能够进行有效的关系学习,即为同类样本的连接向量赋予高分值,为不同类样本之间的连接向量赋予低分值。模型训练完成后,能够通过比较支撑样本和查询样本之间关系分值的方式进行类别预测。

表 1列出了特征提取模块和关系学习模块的具体网络结构。特征提取模块以经典的深度学习模型Resnet18[28]为基础进行改进,共包括一个卷积层、一个最大池化层和8个卷积残差块。为了对影像中深度特征进行更为充分的学习,将模型的卷积核数量从原Resnet18中的(64, 128, 256, 512)增加至(128, 256, 512, 1024),其余网络结构均与Resnet18保持相同。试验表明,卷积核数量的增加能够有效提升模型的特征学习效果和影像分类精度。关系学习模块基于1×1卷积和全连接层进行构建,并引入批量归一化、ReLU激活函数和dropout操作,进一步提高模型的收敛速度和泛化能力。如表 1所示,卷积层中卷积核数量为512,两个全连接层中神经元数量分别设置为128和1。

表 1 深度残差关系网络具体结构Tab. 1 Structure of the deep residual relation network

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

本文方法基于关系网络和残差网络进行设计,融合了二者不同的优势:关系网络通过相似性比较的方式进行关系学习,能够学习到“同类聚集、异类分类”的深度特征;残差网络能够充分融合不同层次上的深度空谱联合特征,进一步提高分类精度。与传统网络模型相比,本文模型通过比较关系分值的方式确定样本类别,能够适应包含任意类别数量的分类任务并有效泛化至不同目标影像。另外,基于任务的训练方式使本文模型具有更强的泛化能力和少样例学习能力。

1.4 投票策略

一方面,本文方法在元训练阶段基于大量不同的样本增强特征进行参数学习,微调和分类阶段中的输入样本应与样本增强特征在数据维度上保持一致;另一方面,高光谱影像不可避免地存在着光谱冗余的问题。因此,本文提出了一种基于投票策略的微调和分类方法。如图 4所示,对目标影像随机选择3个波段并重复10次,分别进行10次微调和分类,目标影像的最终分类结果由10次分类的投票情况决定,详细步骤如下:①随机选取目标影像的第i1、j1和k1波段并进行模型微调和分类预测,得到分类结果Ⅰ;②步骤①重复10次,分别得到10个分类结果Ⅰ, Ⅱ, …, Ⅹ;③目标影像不同像素位置的最终分类结果由10次分类结果中相应位置出现次数最多的类别确定。该方法具有以下3点优势:首先,多次波段随机选择的方式能够确保不同光谱范围内的地物属性信息和跨光谱范围的波段关系得到充分利用;其次,巧妙地解决了不同影像间波段数量不一致的问题,对于具有任意波段数量的目标影像,均可以利用波段随机选取和投票的方式进行分类;最后,投票策略实际上是一种集成学习方法,通过集成不同波段上的分类结果能够在利用影像光谱信息的同时进一步提高分类精度。

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期
图 4 基于投票策略进行微调和分类Fig. 4 Fine-tuning and classification based on the voting strategy
图选项

2 试验结果与分析

2.1 试验数据

本文选择Houston 2013 (HS13)、Botswana (BO)、Kennedy Space Center (KSC)和Chikusei (CH) 4幅高光谱影像作为预收集的无标记源影像,选择University of Pavia (UP)、Salinas (SA),以及一幅近年来新获取的影像HanChuan (HC)[29]作为目标影像。如表 2所示,4幅源影像具有不同的光谱范围、像素分辨率和地物类别,能够有效提高源数据集中样本的多样性,从而提升元训练效果。试验中,选择像素周围28×28像素的邻域数据作为输入样本,并从4幅源影像中随机选择40 000个样本构建源数据集,以充分利用影像中的空谱联合信息。对于每个无标记样本,随机生成20个增强特征。因此,构建的无标记源数据集的维度可表示为(40 000, 20, 28, 28, 3)。3幅目标影像由不同传感器获取,主要覆盖场景分别为大学、山谷农田及城乡接合区域,能够为分类试验提供不同场景和地物类别。

表 2 试验数据Tab. 2 Experimental datasets

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

2.2 试验设置

试验的硬件环境为:Intel(R) Xeon(R) Gold 6152处理器,256 GB内存,Nvidia A100 PCIE显卡。试验中所有程序均在Ubuntu系统上基于Python语言和Pytorch、sklearn等深度学习依赖库进行开发。

在无监督元训练过程中,学习率设置为0.000 1,迭代次数设置为40 000,以确保模型进行充分的元训练。实际上,模型通过对一个任务的学习即实现了一次训练迭代,因此,利用源数据集随机采样生成的任务的数量为40 000。参照现有文献[26]和预试验结果,每个任务的具体设置为(C=20, K=5, N=15),即从构造的无标记源数据集中每次随机选择20个类别,每个类别均随机选择5个和15个样本构建支撑集和查询集。在微调阶段,学习率同样设置为0.000 1,迭代次数设置为1000,任务设置为(C=Ctarget, K=2, N=3)。其中,Ctarget为目标影像中包含的类别数量,UP数据集中Ctarget为9,SA和HC数据中Ctarget为16。元训练和微调阶段均采用Adam算法进行参数优化,dropout层中随机丢弃概率设置为50%。为了定量评价不同方法的分类结果,选取总体分类精度(OA)、平均分类精度(AA)和Kappa系数作为评价指标。另外,为了减轻样本随机选择导致的分类结果不稳定的问题,利用不同方法进行10次试验并将试验结果的平均值和标准差作为最终分类结果。

2.3 试验结果与分析

为验证本文方法的有效性,选取6种不同分类方法进行比较,包括经典的半监督分类器TSVM、扩展形态学轮廓(extended morphological profile, EMP)与TSVM相结合的方法、先进的半监督深度学习模型EMP+GCN[30]、结合过采样策略的生成式对抗网络3D-HyperGAMO[11],以及两种监督元学习方法DFSL+SVM[25]和RN-FSC[26]。两种传统半监督分类方法中,TSVM均以径向基函数作为核函数,惩罚系数和超参数分别设置为1024和1.0。提取EMP特征时首先利用PCA算法进行降维,并在前3个主成分上利用交叉形元素进行形态学处理,开闭运算半径分别设置为3、5、7、9。其余4种深度分类模型的参数设置均与原文献保持一致:GCN模型由具有8个节点的隐藏层构成,学习率和迭代次数分别为0.001和2000;3D-HyperGAMO由三维卷积和二维转置卷积构成,学习率和迭代次数分别为0.000 2和8000;DFSL+SVM中特征提取网络包括两个三维卷积残差块和一个二维卷积层,卷积核数量分别为8、16和32,学习率和迭代次数分别为0.001和10 000;RN-FSC基于三维卷积块、Relu激活函数和最大池化层构建,学习率和迭代次数分别为0.001和10 000。对于前4种分类方法(TSVM、EMP-TSVM、EMP+GCN和3D-HyperGAMO),均随机选择目标影像中每类5个标记样本进行模型训练。对于两种监督元学习方法和本文方法,均首先利用预收集的源影像进行元训练,然后利用目标影像中每类5个标记样本进行微调。另外,为所有分类方法均设置相同的随机数种子,以保证所有方法在利用完全相同标记样本的条件下进行公平比较。

表 3—表 5列出了不同方法在3幅目标影像上的分类结果,可以发现:①半监督分类器TSVM无法利用影像中的深层次特征,分类精度明显低于其他深度学习模型,而EMP特征的引入能够有效改善TSVM的分类效果;②深度分类模型EMP+GCN能够同时利用标记样本和无标记样本中的空间和光谱信息进行半监督学习,而3D-HyperGAMO则能够利用大量合成样本对网络进行辅助训练,因此其在目标影像上的分类精度较TSVM方法而言均有明显提高;③两种监督元学习方法均首先利用大量源标记样本对模型进行元训练,并利用学习到的特征知识指导模型在目标影像上的分类任务,因此其分类效果进一步提升;④本文方法在所有对比方法中取得了最为优异的分类结果,其总体分类精度在3幅目标影像上较第二名分类提高了3.28%、0.43%和3.21%,Kappa系数在3幅目标影像上较第二名分类提高了0.037 9、0.004 7和0.034 8。本文方法在少样例条件下的优异分类表现可以总结为以下3个原因:首先,本文方法通过生成每个样本的增强特征来构建任务,能够使模型利用无标记影像进行充分的元训练;然后,构建的深度残差关系网络通过相似性比较的方式进行样本间关系学习,在充分利用空间和光谱信息的同时能够提取到可分性更强的深层次特征;最后,投票策略的采用能够通过集成学习的方式进一步提高分类结果的精度。

表 3 不同方法在UP数据集上的分类结果Tab. 3 Classification results of different methods on the UP data set

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

表 4 不同方法在SA数据集上的分类结果Tab. 4 Classification results of different methods on the SA data set

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

表 5 不同方法在HC数据集上的分类结果Tab. 5 Classification results of different methods on the HC data set

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

分类图是高光谱影像分类的直接产品,能够反映不同地物目标的空间分布特征。为了直观观察不同方法的分类结果并进行定性评价,图 5—图 7展示了不同方法在3幅目标影像上的分类图。可以看出,随着分类精度的不断提高,分类图中的噪声和误分类现象逐渐减少。与其他方法相比,本文方法能够获得最为准确的分类图,且与真实地面标记最为接近,从可视化角度再次验证了本文方法在高光谱影像少样例分类中的有效性。

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期
图 5 不同方法在UP数据集上的分类Fig. 5 Classification of different methods on the UP data set
图选项
信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期
图 6 不同方法在SA数据集上的分类Fig. 6 Classification of different methods on the SA data set
图选项
信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期
图 7 不同方法在HC数据集上的分类Fig. 7 Classification of different methods on the HC data set
图选项

2.4 网络结构分析

本文以改进后的Resnet18网络作为特征提取模块,并结合关系学习模块设计了一种用于高光谱影像少样例分类的深度残差关系网络。关系学习模块实际上是一个包括卷积层和全连接层的浅层网络,特征提取模块则是本文方法的骨干网络。因此,为了验证本文方法较传统网络模型的优势,本小节在试验环境完全相同的条件下对本文方法与Resnet18网络的分类结果进行了比较。与本文方法相同,Resnet18网络首先利用构建的源数据集进行训练,然后利用目标影像中每类5个标记样本进行微调。表 6的结果表明,本文方法在3幅目标影像上的分类结果均优于Resnet18网络,验证了其在高光谱影像少样例分类上的有效性。与Resnet18网络相比,本文方法通过相似性比较的方式进行基于任务的关系学习,在泛化至不同目标影像时表现出了更强的少样例学习能力。

表 6 本文网络模型与传统Resnet18模型的分类结果Tab. 6 Classification results of the designed model and the traditional Resnet18 model

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

进一步地,本小节通过改变设计模型中的卷积核数量探究网络具体结构对分类结果的影响。参照大多数深度学习模型的一般规律,采用逐渐加倍的方式确定不同层次上卷积核的具体数量,即(M, 2M, 4M, 8M)。图 8展示了M取值分别为32、64、128和512时提出方法在3幅目标影像上的分类精度。可以看到,随着M取值不断提高,本文模型的分类精度呈现出先上升后趋于稳定的趋势,且当M取值为128时提出方法能够获得最高的分类精度。

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期
图 8 卷积核数量对分类精度的影响Fig. 8 Classification maps of different methods on the HC data set
图选项

2.5 投票策略分析

基于投票策略进行微调和分类实际上是采用集成学习思想进一步提高模型的少样例分类效果。投票次数的设置直接影响着高光谱影像分类精度。图 9展示了不同的投票次数设置下本文方法在3幅目标影像上的分类结果,可以看出,随着投票次数的不断增加,总体分类精度逐渐提升并趋于稳定。当投票次数设置为10~20次时,模型均能够取得较为理想的分类结果,但投票次数过大无疑会导致微调和分类时间的增加。因此,综合考虑分类精度与执行效率,本文方法中投票策略的最优设置为10次。

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期
图 9 投票次数对分类精度的影响Fig. 9 Influence of the times of the voting strategy on classification accuracy
图选项

2.6 元训练阶段分析

如图 1所示,本文方法的训练过程可分为无监督元训练和微调两个阶段。无监督元训练能够利用大量不同的无标记样本对深度学习模型进行充分的基于任务的预训练,使其能够积累大量的先验知识并获得更强的泛化能力。因此,元训练是本文方法的关键步骤之一。为了验证元训练阶段的有效性,本小节进行试验探究了元训练阶段对分类结果的影响。由表 7的结果可以看出,不进行元训练的模型只能利用微调数据集中的少量标记样本进行监督训练,分类效果较差。在3幅目标影像上,深度学习模型在元训练后的分类精度分别提高了8.46%、2.96%和9.48%,充分验证了元训练阶段在本文方法中的有效性。

表 7 元训练阶段分析Tab. 7 Analysis on the meta-training phase

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

2.7 元学习方法综合比较

表 8列出了3种元学习方法在必需标记样本数量、执行效率和总体分类精度方面的综合比较。必需标记样本包括元训练和微调阶段中需要的标记样本。3种元学习方法在目标影像上的执行时间均可以分为微调和分类两个阶段。在必需标记样本数量方面,DFSL+SVM和RN-FSC在元训练阶段均需要大量标记样本构建标记源数据集,所以二者需要的标记样本数量最多,而本文方法能够利用无标记样本进行无监督元训练。因此,本文方法在元训练阶段必需的标记样本数量为0,突破了监督元学习方法需要大量源标记样本的瓶颈和限制。执行时间方面,DFSL+SVM采用核支持向量机进行微调和分类,因此所需时间明显少于其他方法。本文方法利用投票策略确定样本类别,对每一幅目标影像实际运行了10次微调和分类。因此,与其他元学习方法相比,本文方法需要更长的微调和分类时间。分类效果方面,本文方法在3幅目标影像的总体分类精度均明显高于其他两种监督元学习方法,直接表明了本文方法在高光谱影像少样例分类中的有效性。

表 8 元学习方法综合比较Tab. 8 Comprehensive comparison on different meta learning methods

信息工程大学高奎亮:高光谱影像少样例分类的无监督元学习方法 |《测绘学报》2023年11期

3 总结与展望

为有效减少监督元学习方法在元训练阶段对大量标记样本的依赖,并进一步提高高光谱影像少样例分类精度,本文提出了一种高光谱影像无监督元学习方法。与监督元学习方法不同,该方法仅利用无标记高光谱影像即可实现有效的元学习。针对源数据集中的每个无标记样本,采用主成分分析和数据增强的方式生成多个样本增强特征,并随机构建大量用于元训练的任务。构建的深度残差关系网络首先利用无标记影像进行无监督元学习,然后基于投票策略在目标影像上进行微调和分类性能评估。试验结果表明,本文方法能够显著减少训练阶段中必需标记样本的数量,且在少样例条件下能够获得较现有方法更好的分类结果。

虽然本文方法能够有效提高高光谱影像少样例分类精度,但仍然没有考虑到源影像与目标影像之间的数据分布差异。未来的工作将在本文方法的基础上结合域适应技术,以期在减少影像间域差异的同时进一步提高少样例分类结果的准确性和稳健性。

作者简介

第一作者简介:高奎亮(1996-), 男, 博士生, 主要研究方向为深度学习与遥感影像处理。E-mail: [email protected]

通信作者:刘冰, E-mail: [email protected]

初审:张 琳复审:宋启凡

终审:金 君

资讯

继续阅读