公开SAR图像目标数据集及其在深度学习中的应用综述

2022-04-28 03:46郑彤雷鹏王俊
航空科学技术 2022年3期
关键词:深度学习

郑彤 雷鹏 王俊

摘要:由于合成孔径雷达(SAR)图像可读性较差,所以对其进行目标检测与识别处理的难度也较大。近年来,随着深度学习(DL)方法的不断发展,许多学者将其引入SAR图像目标检测与识别研究中。该类方法以数据为驱动。其中,监督学习方法更以已标注的数据为基础。但是,SAR图像目标的标注通常是昂贵且耗时的。鉴于此,本文对已公开的SAR图像目标数据集进行了归纳总结。首先,对典型的SAR系统平台进行了介绍,具体包括星载SAR和机载SAR。其次,按照是否包含目标类型信息将已公开的SAR图像目标数据集分为两类,并分别对其进行了介绍。最后,为了说明上述数据集的建立具有现实意义,对近年来基于DL方法的SAR图像目标数据集的应用情况进行了总结。这也从侧面说明国内外公开的SAR图像目标数据集可助力基于DL的SAR图像目标检测与识别方法的研究。本文能够为后续展开基于DL方法的SAR图像目标的检测与识别方法研究提供数据和研究思路的参考。

关键词:深度学习;合成孔径雷达图像;SAR目标检测与识别;监督学习;SAR图像目标数据集

中图分类号:TN953文献标识码:ADOI:10.19452/j.issn1007-5453.2022.03.001

合成孔径雷达(SAR)具有全天时、全天候的观测能力,且在一定波段条件下可穿透云雾的遮挡。因此,SAR被广泛应用于军事、民用等领域[1-5]。但是,SAR图像的可读性较差,难以进行有效的信息提取。因此,SAR图像目标检测与识别研究显得至关重要。

在传统方法中,研究人员需通过人工提取SAR图像特征来支持后续工作。近些年,深度学习(DL)在各个行业得到广泛应用,也引起了SAR图像目标检测与识别领域研究人员的关注[6-7]。该类方法可以利用多层网络结构实现特征的高维空间表达,且其层数越深,对应提取到的特征越接近语义级别。进而,该类方法可提升特征表达的完整性,并克服人工特征提取的局限性。因此,DL方法在SAR图像目标检测与识别领域得到了日益广泛的关注。但是,DL方法大部分属于数据驱动方法。其对应的网路结构越复杂,模型过拟合的可能性越大。而数据量的增加可有效避免模型过拟合。因此,DL方法对数据量的需求较高。此外,DL中的监督学习方法需要大量已标注的数据辅助模型训练。对于SAR图像,其标注过程是昂贵且耗时的。因此,样本量是影响该研究发展的重要因素之一。本文将已公开的SAR图像数据集情况进行总结归纳,为基于DL的SAR图像处理提供研究基础。

本文首先对已公开SAR图像数据集的采集平台进行概述,主要包括星载SAR和机载SAR两种。进而,介绍已公开数据集的情况,包括不同数据集中所包含的数据量、SAR图像分辨率等信息。最后,总结分析基于DL方法的已公开SAR图像数据集的应用情况。

1 SAR系统平台概述

SAR系统已广泛应用于灾害评估、海洋特性研究等民用领域[1-4],以及战场目标监测等军用领域[5]。根据搭载平台的不同,主要可分为机载SAR系统与星载SAR系统。其中,机载SAR易于实现,成像分辨率较高,在多模式方面优势明显;星载SAR由于运行轨道高,对应作用距离较长,所以运行稳定。本节分别对典型机载SAR系统以及星载SAR卫星平台进行归纳总结。

1.1机载SAR发展概述

SAR可搭载于飞机(包含无人机)平台。机载SAR具备受限条件少、易于实现、更具灵活性、能够实时成像等特点。机载SAR系统的研制工作起始于1955年,发展至90年代逐步进入应用阶段。

1985年,美国喷气推进实验室(JPL)作为首个研制出機载SAR的团队,将SAR搭载于CV990上进行试验,并于1988年研究获得10m分辨率的雷达成像结果。在此之后,许多国家开启了机载SAR的研制,包括中国、德国、法国等。其中,德国宇航中心(DLR)研制出搭载在Dornier DO 228飞机上的E-SAR。应用该机载SAR数据,不仅可以作为信号处理算法有效性验证的基础,同时还可以作为地质、农业、森林等实际应用场景的研究工具。2006年,DLR研发了F-SAR系统。其作为对E-SAR系统的升级,分辨率提升了10倍。此外,法国国家空间研究中心(ONERA)研制的安装在TRANSALL C16上的RAMSES机载SAR系统可在多波段、多模式下工作。2013年,ONERA利用上述系统开展了高分辨率的多视角SAR融合成像研究。而我国机载SAR技术起步较晚,最早于20世纪70年代由中科院电子所开展机载SAR技术的研究,并且于1994年和2004年分别研制出分辨率为10m和1m的机载SAR图像。2016年前后,由中科院电子所,中电科14所、38所,航天504所等研制出超高分辨率SAR成像系统样机。该样机可获得分辨率为0.1m的SAR图像。由多个国家研制的典型机载SAR情况汇总见表1[8]。

1.2星载SAR发展概述

历史上,首颗携带SAR系统的卫星是1978年由美国国家航空航天局(NASA)发射的SEASAT,距今有40多年的历史。此后,多个国家进行相关研究并发射携带SAR系统的卫星。具体卫星的发射时间以及发射地如图1所示。其中,典型的星载SAR载体,即卫星包括TerraSAR-X[9]、TanDeM-X[10]、RADARSAT-2[11]、Sentinel-1[12]、GF-3[13]等。图2为上述卫星的示意图。其中,TerraSAR-X、TanDeM-X卫星均由德国发射。其中,TerraSAR-X卫星SAR工作波段为X波段,成像模式包括聚束模式、条带模式和宽扫模式。并且,对应成像模式不同,成像分辨率也有不小差距。TerraSAR-X与其“姊妹”卫星TanDeM-X编队飞行在太空,形成首个SAR干涉仪。此外,由加拿大太空署与MDA公司合作发射了RADARSAT-2卫星。对应星载SAR包含11种波束模式,这使得该SAR卫星数据携带更多信息。由欧洲航天局(ESA)发射的Sentinel-1卫星具体包括两颗卫星,即Sentinel-1A和Sentinel-1B。其中,SAR可实现全天时、全天候观测,并实现干涉测量,工作波段为C波段。如今,Sentinel-1A卫星SAR数据已用于抗洪救灾、海洋、监测、森林。此外,我国也进行了星载SAR的相关研究,并于2016年发射了GF-3卫星。该卫星作为首颗分辨率达到1m的C波段多极化SAR成像卫星。

2国内外公开的SAR目标数据集

截至目前,国内外多个团队搭建并公开了SAR目标数据集。本节重点介绍已搭建数据集的情况,具体包括MSTAR数据集[14]、OpenSARShip系列[15-16]、SAR舰船检测数据集(SSDD)[17-18]、中国科学院空天信息创新研究院的SAR舰船检测数据集(AIR-SARShip)[19]、SAR图像船舶检测数据集(SARShip dataset)[20]、高分辨率SAR图像数据集(HRSID)[21]、FUSAR[22]数据集。

2.1含目标类型信息的数据集

由美国国防高级研究计划局(DARPA)和空军研究实验室(ADRL)联合资助构建了MSTAR数据集。该数据集为SAR ATR领域中应用最为广泛的数据集之一。其SAR图像切片采集自X波段机载SAR成像结果,且目标包括BMP2、BRDM2、BTR60、BTR70、D7、T62、T72、ZIL131、ZSU234、2S1共10类。该数据集中SAR图像分辨率为0.3m×0.3m,且大部分目标图像大小为128px×128px。其中,俯仰角分别为15°和17°的数据得以被大量学者所使用,表2显示了在该两组俯仰角情况下10种类型的目标切片数量。

上海交通大学智能感知与识别重点实验室分别于2017年和2019年公开了OpenSARShip数据集和OpenSAR Ship2.0数据集,复旦大学电磁波信息科学重点实验室于2020年公开了FUSAR数据集,二者均为舰船目标数据集,且均包含舰船目标类型的信息,可用于目标识别研究。虽然上述数据集均包含目标类型信息,但在其他方面仍有一定的差异。

首先,在卫星选择方面,OpenSARShip系列SAR图像采集自Sentinel-1A卫星,而FUSAR数据采集自GF-3卫星。这直接导致了两个数据集的SAR图像分辨率存在很大差异。OpenSARShip系列数据集中包含两类数据,对应的分辨率包括20m×22m、(2.7~3.5m)×22m;FUSAR中数据分辨率较高,为(1.7~1.754m)×1.124m。此外,两数据集包含的SAR图像数量、舰船目标数量、舰船目标切片数量均有所不同。OpenSARShip数据集从41景SAR原始图像中获取了11346个舰船切片,OpenSARShip2.0则从87景SAR原始图像中获取了34528个舰船切片。FUSAR是从128景原始SAR图像中获取了5243个舰船切片。显而易见,OpenSARShip系列数据集中包含的舰船切片数量明显较多。在切片尺寸方面,OpenSARShip系列数据集中切片尺寸是根据实际舰船目标尺寸而定,且每个切片仅包含一个目标。首先,取出目标在方位向和距离向上投影的最大值l;之后,以目标中心点O为中心,截取切片,且保证切片的长、宽均为4l。而FUSAR中,每个切片尺寸均为512px×512px,即其中每个切片中可能不止包含一个舰船目标。在目标的类型方面,两个数据集也有一定差异。其中,OpenSARShip系列数据集总共包含17类舰船目标,包括Cargo、Tanker、Tug等。而FUSAR包含15类舰船目标,包括Cargo、DiveVessel、Tanker等。这15类舰船目标内部又可分为98个小类别。在文件存储方面,图3显示了两个数据集的样本存储情况。可以明显看出,OpenSARShip针对每个原始SAR图像进行单独存储,其中包含Patch文件夹、Patch_Uint8文件夹、Patch_RGB文件夹、Patch_Cal文件夹以及Ship.xml、Metedata.xml、Readme.pdf。Patch文件夹存储的是直接对原始SAR图像进行截取的目标切片,并运用MATLAB将原始图像进行0~255的灰度化处理,得到结果存储到Patch_Uint8文件夹中。此外,该团队对原始图像使用SNAP3.0[23]工具进行辐射校准,结果存储到Patch_Cal文件夹中。通过MATLAB对校准后图像进行处理,得到的伪彩色图像存储到Patch_RGB文件夹中。其目标切片类别通过每个文件的命名情况可以进行区分,例如,Carge_x162_y 7916文件对应的目标类别为“Cargo”,即货船。此外,两个xml文件分别记录了舰船目标的詳细信息以及对应SAR原始图像的信息,包括用于确定舰船类型的自动识别系统(AIS)信息以及SAR成像过程中涉及的数据采集时间、物理位置、俯仰角情况等信息。对于FUSAR数据集而言,其根据不同类别进行文件夹划分,一级文件夹包括Cargo、Fishing、Dredger、Passenger等,总共15类目标,对应15个一级文件夹。在每个一级文件夹下又有小类的细分,例如,在Cargo文件夹下包含Aggregates Carrier、BulkCarrier、ContainerShip等。而在每个小类文件夹内部则包含该类目标切片,且所有切片尺寸均固定为512px×512px。

2.2无目标类型信息的数据集

本部分主要总结无舰船目标类型信息的SAR图像目标数据集。这些数据集中包含具体的目标位置信息,因此可用于SAR图像目标检测算法的研究。它们主要包括由海军航空航天大学公开的SSDD系列、中国科学院遥感与数字地球研究所数字地球科学重点实验室公开的SARShip dataset、中国科学院空天信息创新研究院公开的AIRSARShip系列以及电子科技大学公开的HRSID。其中,AIR-SARShip系列数据集中的数据采集自单一GF-3卫星,其他数据集均包含采集自多个卫星的数据。

2019年和2020年,中国科学院空天信息创新研究院先后公开了AIR-SARShip1.0和AIR-SARShip2.0数据集。其中,AIR-SARShip1.0包含31景SAR原始图像,每幅图像尺寸约为3000px×3000px,分辨率包含1m和3m两种情况。其按照PASCAL VOC数据格式进行标注,保存为.xml文件格式,如图4(a)所示。可以看出,该.xml文件明确记录了每个舰船目标的边框坐标情况。可根据标注结果截取出等尺寸的舰船目标切片,如图4(b)所示。AIR-SARShip2.0中包含300景尺寸为1000px×1000px的SAR原始图像,其中包含7678个舰船目标,且目标标注信息同样保存到.xml文件中。

基于多源SAR图像的公开数据集情况见表3。可以看出,由于这些数据集的数据采集自多个卫星,单个数据集内部数据的分辨率差异较大,且在每个数据集内部并未标注每个切片对应的分辨率情况,这可能因信息不足导致后续检测算法性能受到影响。其中,SSDD系列主要包含最初发布的SSDD数据集,以及后续SSDD+数据集。该SSDD+数据集将SSDD数据中垂直目标边框做了旋转,得到旋转后的目标位置标注,使标注信息更加准确。

3基于公开SAR目标数据集的DL方法应用

上述公开数据集已被广泛应用于以DL方法为基础的SAR图像目标检测与识别领域。本节分别总结了不同数据集在DL方法研究中的应用情况。

3.1 MSTAR数据集的DL应用

MSTAR数据集相较于其他已公开的数据集而言,具有分辨率较高的特点,且其公开的时间较早。因此,MSTAR数据集成为SAR图像目标检测与识别研究中应用最广泛的数据集。

针对SAR目标图像小样本量的特点会影响DL方法应用的问题,航天工程大学研究生院团队和复旦大学团队分别提出通过生成对抗网络(GAN)以及对抗自编码器(AAE)进行MSTAR数据集的数据增强[24-25]。与上述数据增强方式不同,上海交通大学团队提出一种名为排序损失模块(RLM)的自动学习方式。该方法可自主筛选出值得应用的数据,并使用对数据量需求较小的低复杂度DL方法进行识别处理[26]。

此外,为了提升目标识别准确率,针对MSTAR数据集进行的相关应用研究,主要包括DL模型的改进、迁移学习的引入和相位信息的引入。

在DL模型改进方面,主要的改进方向包含特征提取、损失函数、分类器和网络学习策略等部分。其中,在特征提取中,为了使得网络学习能够兼顾多分辨率图像的特征提取,研究人员提出通过多级特征融合的方式替代经典逐层处理的模式。例如,中科院团队提出一个轻量的双流CNN[27]。其在该网络的特征提取部分,先通过三个交替的卷积层和最大池化层提取低层特征,然后利用一个通道进行全局最大池化获得局部特征,另一通道使用大步长卷积核提取全局特征,最后将两通道特征进行融合。据此,该网络实现了多级特征的融合。基于MSTAR数据集得到的测试准确率高达99.71%,且其网络参数量最多占该领域其他CNN模型的1/5。此外,在损失函数方面,为了使得网路结构更适应SAR图像情况,北京理工大学团队提出利用一种判别损失函数代替经典CNN中常用的损失函数。在测试过程中,该方法获得的识别率较经典稠密连接CNN有2%左右的提升[28]。在分类器选择方面,北京航空航天大學、上海交通大学等团队均展开了相关研究。其中,大部分研究是将支持向量机(SVM)引入其中[29-30]。最后,在网络学习策略改进中,国防科技大学和电子科技大学为典型的研究团队[31-33]。其中,参考文献[33]提出基于异质CNN的SAR目标识别方法,通过集成学习理论有效地结合异构网络结构,使得泛化能力和识别性能均有所提升,且其所需训练样本量有所减少。

此外,在迁移学习的引入方面,参考文献[34]指出常见迁移方法是将基于光学图像训练的网络迁移至SAR图像。但是,光学图像一般表现为三通道图像,而与单通道SAR图像有所差异,为迁移学习带来了一定的困难。据此,该文献提出通过子孔径分解算法,将单通道SAR图像分解为三通道伪图像形式,有助于其适应预训练网络的结构。基于 MSTAR数据集进行10类目标分类,该方法获得的识别准确率高达99.88%。

在利用复数数据结构的相位信息方面,中科院团队[35]提出复数CNN模型,实现在SAR图像的复值域。并且,在通道间通过学习的方式确定同一层、不同通道特征的重要程度。从而,根据该重要程度提升有用特征,抑制无用特征,有效地提升了基于MSTAR数据集的10类目标分类准确率。

3.2 SSDD系列数据集的DL应用

由于SSDD数据集在舰船目标数据集中公开时间较早,近些年基于DL的SAR图像舰船目标处理大部分通过SSDD数据集进行验证。其主要的研究方向包括SAR图像舰船目标分割[36]和检测两部分。其中,在基于SSDD数据集进行的研究中,舰船目标检测研究占绝大多数。例如,有学者以SSDD数据集为基础,对多个基于CNN模型的检测器进行性能评估[37]。但是,对于大场景SAR图像进行舰船目标检测存在较多困难。例如,由于SAR图像分辨率的不同导致同一目标尺寸差距较大;再者,由于实际场景情况复杂,对于不同场景采集到的样本量难以达到平衡。针对这些问题,分别有学者基于SSDD数据集展开研究。

对于多尺度问题,国防科技大学和电子科技大学分别在2019年提出将注意力机制引入DL模型[38-39],辅助解决多尺度数据对检测性能的影响。此外,电子科技大学团队提出基于稠密注意金字塔网络(DAPN)进行SAR舰船目标检测[40-41]。该网络能将自顶向下提取到的多级特征进行基于卷积模块注意模型(CBAM)的稠密连接,进而将融合的特征图输入检测子网中,最终实现了多尺度舰船检测。

對于数据不平衡问题,电子科技大学团队在近两年发表多篇文章,进行了相关内容研究。例如,参考文献[42]提出一种基于平衡场景的近岸舰船检测学习机制。该学习机制主要包括三部分:(1)在无监督学习基础上,采用GAN提取SAR图像的场景特征;(2)使用这些特征,由K-means聚类方法进行场景二值聚类,即包括近岸和近海;(3)通过复制、旋转或添加噪声来增加小样本数据量,以平衡另一个近海的大样本集,从而消除场景学习偏差,并获得均衡的学习表达能力,增强学习效果和检测精度。

3.3 OpenSARShip系列数据集的DL应用

基于OpenSARShip系列数据集开展的研究主要集中在目标检测与识别准确率的提升、基于半监督学习的目标识别方法以及基于迁移学习的目标识别方法。

首先,在目标检测、识别准确率提升方面,国防科技大学[43]和哈尔滨工业大学[44]为该研究的典型团队。其中,国防科技大学团队为了克服SAR舰船目标识别中标注样本量少以及目标稀疏的问题,提出一个SAR图像舰船目标检测方法。其创新点在于其主干网络由多个稠密连接模块组成,增加辅助的监督信息;此外,使用交叉熵损失函数解决前景与背景样本量失衡的问题;进而,通过特征图得分进行位置编码,获取舰船建议区域。将该方法与经典方法进行比较,召回率有至少2%的提升。

针对SAR图像已标注目标样本数量较少导致复杂网络过拟合的问题,有学者研究基于半监督学习方法进行SAR目标识别算法研究。例如,参考文献[45]提出了一种基于GAN的半监督学习方法。分别使用OpenSARShip数据集中80%、60%、40%、20%的标记数据进行试验,该方法较随机初始化方法相比识别精度至少提升23.58%。

此外,有学者采用迁移学习的方式,将基于光学图像训练的网络迁移至SAR图像。其中,国防科技大学团队[46]较早地在SAR图像目标识别领域使用了该方法。其运用MSTAR数据集训练一个基于CNN模型的目标识别网络。此外,中科院团队[47]针对基于SAR图像的迁移学习有了更深入的研究。研究内容包括:(1)适于迁移到SAR图像处理中的网络结构和源任务的特点;(2)适于迁移到SAR图像处理中学习层的特点;(3)有效地进行SAR目标识别迁移。在此基础上,该团队提出了一种多源数据迁移方法,减小源数据与SAR目标之间的差异。该研究同样以OpenSARShip数据集为基础进行试验分析。

3.4其他公开数据集的DL应用

由于其他几组数据集公开时间较晚,其对应已发表的研究成果比较少。对于SARShip dataset来说,该数据集的制作团队进行了基于该数据集的相关研究。例如,参考文献[48]提出运用RetinaNet目标检测器进行SAR图像目标检测。首先,利用FPN提取多尺度特征;然后,将局部损失用于解决类别失衡问题,并在训练过程中增加难例的影响。此外,基于AIR-SARShip数据集,中科院团队[49]进行了SAR舰船目标检测研究。考虑到SAR图像中舰船目标的稀疏性,提出一种名为特征平衡和细化的网络(feature balancing and refinement network, FBR-Net)。该方法首先通过直接学习编码边界框的通用无锚框策略消除锚框的影响。其次,利用注意引导的平衡金字塔去平衡不同水平的多语义特征,帮助检测器更多地学习复杂场景下小尺度舰船的信息。试验表明该方法的检测准确率提升8%以上,召回率提升3%以上,F1指标提升5%以上。针对HRSID数据集,参考文献[50]提出通过样本迁移和知识迁移两个模块,生成模拟SAR图像,增加了数据量,并用于进行SAR舰船目标的检测。另外,参考文献[51]提出的Tiny YOLO-Lite网络包含主干网络和网络剪枝实现。其中,剪枝处理增强了通道级别的稀疏性,并生成了一个紧凑的模型。该方法还通过知识蒸馏来弥补由于网络剪枝造成的性能下降。为了适应复杂背景,该文献引入注意力机制,并将其附加到蒸馏特征中,以增强其特征表达能力。该处理使模型的参数量与多个经典CNN模型相比至少下降5倍,而检测准确率并未下降。

4结束语

数据是基于DL的SAR图像目标检测与识别研究的重要基础。本文旨在对已公开的SAR图像目标数据集情况进行归纳总结。首先,本文对SAR系统平台的发展情况进行了概述。无论是机载SAR系统还是星载SAR系统均可作为SAR图像采集源头,为SAR图像目标数据集的建立提供了基础。其中,机载SAR系统更易实现,且成像分辨率更高;星载SAR系统运行轨道较高,且运行更为稳定。其次,对已公开的SAR图像目标数据集情况进行了归纳总结。本文根据是否包含目标类型的信息,将这些数据集分成两类。其中,MSTAR、OpenSARShip、FUSAR数据集均为包含目标类型信息的数据集。并且,MSTAR为车辆目标数据集,OpenSARShip系列、FUSAR为舰船目标数据集。另外,SSDD、SARShip dataset、AIR-SARShip系列、HRSID均为不包含目标类型信息的典型SAR舰船目标数据集。在这部分数据集中,仅AIR-SARShip系列数据集的数据采集自单一源。最后,本文还对这些典型SAR图像目标数据集的相关应用进行了总结。可以看出,对于包含目标类型信息的数据集可进行目标检测与识别方法的研究,而对于无目标类型信息的数据集仅可进行目标检测方法的研究。这些应用也进一步证明了SAR图像目标数据集的建立为基于DL的SAR图像目标检测与识别方法研究提供了数据支持。据此,本文所综述内容为后续基于DL的SAR图像目标检测与识别提供数据和研究思路的参考。

参考文献

[1]Ran L,Liu Z,Li T,et al. Extension of map-drift algorithm for highly squinted SAR autofocus[J]. IEEE Journal of Selected Topics in Applied Earth Observations & Remote Sensing,2017,10(9):4032-4044.

[2]Xie Y,Yang C,Yang X,et al. Finite word length optimization for spaceborne SAR imaging systems[C]// IEEE Radar Conference,2015.

[3]Shi L,Karvonen J,Cheng B,et al. Sea ice thickness retrieval from SAR imagery over Bohai sea[C]// IEEE International Geoscience and Remote Sensing Symposium(IGARSS),2014.

[4]Singh G,Venkataraman G,Yamaguchi Y,et al. Capability assessment of fully polarimetric ALOS PALSAR data for discriminating wet snow from other scattering types in mountainous regions[J]. IEEE Transactions on Geoscience and Remote Sensing,2014,52(2):1177-1196.

[5]Srinivas U,Monga V,Raj R G.SAR automatic target recognition using discriminative graphical models[C]// IEEE International Conference on Image Processing,2011.

[6]宋婷,賀丰收,程宇峰.深度学习技术在雷达目标检测中的研究进展[J].航空科学技术, 2020, 31(10):12-20. Song Ting, He Fengshou, Cheng Yufeng. Research progress of deeplearningtechnologyinradartargetdetection[J]. Aeronautical Science & Technology, 2020, 31(10):12-20. (in Chinese)

[7]徐顶国,魏子豪,骆盛,等.低RCS目标雷达散射特性增强方法研究[J].航空科学技术, 2021, 32(5):39-43. Xu Dingguo, Wei Zihao, Luo Sheng, et al. Study on the method to enhance the scattering characteristics of the low RCS targets[J]. Aeronautical Science & Technology, 2021, 32(5):39-43. (in Chinese)

[8]曲长文,何友,龚沈光.机载SAR发展概况[J].现代雷达, 2002, 24(1):1-10. Qu Changwen, He You, Gong Shenguang. A survey of airborne SAR development[J]. Modern Radar, 2002, 24(1): 1-10. (in Chinese)

[9]Moreira A,Krieger G,Hajnsek I,et al. TanDEM-X:a TerraSAR-X add-on satellite for single-pass SAR interferometry[C]// IEEE International Geoscience and Remote Sensing Symposium(IGARSS),2004.

[10]Hajnsek I,Krieger G,Werner M,et al. TanDEM-X:A satellite formation for high-resolution SAR interferometry[J]. IEEE Transactions on Geoscience and Remote Sensing,2007,45(11):3317-3341.

[11]Qi Z,Yeh G O,Li X,et al. A novel algorithm for land use and land cover classification using RADARSAT-2 polarimetric SAR data[J]. Remote Sensing of Environment,2012,118:21-39.

[12]Zbyněk M,Rott H,Cihlar J,et al. Sentinels for science:Potential of Sentinel-1,-2,and -3 missions for scientific observations of ocean,cryosphere,and land[J]. Remote Sensing of Environment,2012,120:91-101.

[13]张庆君.高分三号卫星总体设计与关键技术[J].测绘学报, 2017(3):269-277. Zhang Qingjun. System design and key technologies of the GF-3 satellite[J]. Acta Geodaetica et Cartographica Sinica, 2017(3): 269-277. (in Chinese)

[14]The sensor data management system,MSTAR public dataset[EB/OL]. [2009-04-04]. Https://www.sdms.afrl.af.mil/index. php?collection=mstar.

[15]Huang L,Liu B,Li B,et al. OpenSARShip:a dataset dedicated to Sentinel-1 ship interpretation[J]. IEEE Journal of Selected Topic in Applied Earth Observations and Remote Sensing,2018,11:195-208.

[16]Li B,Liu B,Huang L,et al. OpenSARShip 2.0:A largevolume dataset for deeper interpretation of ship targets in Sentinel-1 imagery[C]// SAR in Big Data Era:Models,Methods andApplications(BIGSARDATA),2017.

[17]Li J,Qu C,Shao J. Ship detection in SAR images based on an improved faster R-CNN[C]// SAR in Big Data Era:Models,Methods andApplications(BIGSARDATA),2017.

[18]李健偉,曲长文,邵嘉琦,等.基于深度学习的SAR图像舰船检测数据集及性能分析[C]//第五届高分辨率对地观测学术年会, 2018. Li Jianwei, Qu Changwen, Shao Jiaqi, et al. Dataset and performance analysis of ship detection methods based on deep learning[C]// The Fifth Annual Conference on High Resolution Earth Observation, 2018. (in Chinese)

[19]孙显,王智睿,孙元睿,等. AIR-SARShip-1.0:高分辨率SAR舰船检测数据集[J].雷达学报, 2019, 8(6):852-862. Sun Xian, Wang Zhirui, Sun Yuanrui, et al.AIR-SARShip-1.0: High-resolution SAR ship detection dataset[J]. Journal of Radars, 2019, 8(6):852-862. (in Chinese)

[20]Wang Y,Wang C,Zhang H,et al. A SAR dataset of ship detection for deep learning under complex backgrounds[J].Remote Sensing,2019,11(7):765.

[21]Wei S,Zeng X,Qu Q,et al. HRSID:A high-resolution SAR images dataset for ship detection and Instance segmentation[J]. IEEEAccess,2020,8:120234-120254.

[22]Hou X,Wei A,Song Q,et al. FUSAR-Ship:Building a highresolution SAR-AIS matchup dataset of Gaofen-3 for ship detection and recognition[J]. Science China,2020,63(4):36-54.

[23]ESA Cookie Policy,Copernicus Open Access Hub[EB/OL].[2014-08-01]. Https://scihub.copernicus.eu/.

[24]Lu Q,Li G,Jiang H,et al. Data augmentation method of SAR image dataset based on Wasserstein generative adversarial[C]// International Conference on Electronic Engineering and Informatics(EEI),2019.

[25]Song Q,Xu F,Zhu X,et al. Learning to generate SAR images with adversarial autoencoder[J]. IEEE Transactions on Geoscience and Remote Sensing,2021,10:1-15.

[26]Zhou Y,Jiang X,Li Z,et al. SAR target classification with limited data via data driven active learning[C]//IEEE InternationalGeoscienceandRemoteSensingSymposium(IGARSS),2020.

[27]Huang X,Yang Q,Qiao H,Lightweight two-stream convolutional neural network for SAR target recognition[J]. IEEE Geoscience and Remote Sensing Letters,2020,99:1-5.

[28]Long Y,Jiang X,Liu X,et al. SAR ATR with rotated region based on convolution neural network[C]// IEEE International Geoscience and Remote Sensing Symposium(IGARSS),2019.

[29]Wu T,Yen Y,Wang J H,et al.Automatic target recognition in SAR images based on a combination of CNN and SVM[C]// International Workshop on Electromagnetics:Applications and Student Innovation Competition(iWEM),2020.

[30]Xia X,Yuan Y. Combination of multi-scale convolutional networks and SVM for SAR ATR[C]// IEEE Advanced Information Management,Communicates,Electronic and Automation Control Conference(IMCEC),2018.

[31]Zhang Y,Guo X,Ren H,et al. Multi-view fusion based on expectation maximization for SAR target recognition[C]// IEEE International Geoscience and Remote Sensing Symposium(IGARSS),2020.

[32]Pan Z,Bao X,Zhang Y,et al. Siamese network based metric learning for SAR target classification[C]// IEEE International Geoscience and Remote Sensing Symposium(IGARSS),2019.

[33]Xue Y,Pei J,Huang Y,et al. Target recognition for SAR images based on heterogeneous CNN ensemble[C]// IEEE Radar Conference,2018.

[34]Wang Z,Fu X,Xia K. Target classification for single-channel SAR images based on transfer learning with subaperture decomposition[J]. IEEE Geoscience and Remote Sensing Letters,2020,99:1-5.

[35]Sun Z,Xu X,Pan Z. SAR ATR using complex-valued CNN[C]//Asia-Pacific Conference on Image Processing,Electronics and Computers(IPEC),2020.

[36]蘇浩.基于深度学习的遥感图像目标检测方法[D].成都:电子科技大学,2020. Su Hao. Object detection method for remote sensing imagery based on deep learning[D]. Chengdu: University of Electronic Science and Technology of China, 2020. (in Chinese)

[37]Han L,Zheng T,Ye W,et al. Analysis of detection performance to CNN based SAR ship detectors[C]// Information Communication Technologies Conference(ICTC),2020.

[38]Chen C,He C,Hu C,et al. A deep neural network based on an attention mechanism for SAR ship detection in multiscale and complex scenarios[J]. IEEE Access,2019,7:104848-104863.

[39]Gui Y,Li X,Xue L,et al. A scale transfer convolution network for small ship detection in SAR images[C]// IEEE 8th Joint International Information Technology and Artificial Intelligence Conference(ITAIC),2019.

[40]Li Q,Min R,Cui Z,et al. Multiscale ship detection based on dense attention pyramid network in SAR images[C]// IEEE International Geoscience and Remote Sensing Symposium(IGARSS),2019.

[41]Cui Z,Li Q,Cao Z,et al. Dense attention pyramid networks for multi-scale ship detection in SAR images[J]. IEEE Transactions on Geoscience and Remote Sensing,2019,57(11):8983-8997.

[42]Zhang T,Zhang X,Shi J,et al. Balance scene learning mechanism for offshore and inshore ship detection in SAR images[J]. IEEE Geoscience and Remote Sensing Letters,2020,99:1-5.

[43]Deng Z,Sun H,Zhou S,et al. Learning deep ship detector in SAR images from scratch[J]. IEEE Transactions on Geoscience and Remote Sensing,2019,57(6):4021-4039.

[44]Li Y,Li X,Sun Q,et al. SAR image classification using CNN embeddings and metric learning[J]. IEEE Geoscience and Remote Sensing Letters,2020,99:1-5.

[45]Zhang W,Zhu Y,Fu Q. Semi-supervised deep transfer learning-based on adversarial feature learning for label limited SAR target recognition[J]. IEEE Access,2019,7:152412-152420.

[46]Cheng P,Malhi M. Transfer learning with convolutional neural networks for classification of abdominal ultrasound images[J]. Journal of Digital Imaging,2017,30:234-243.

[47]Huang Z,Pan Z,Lei B. What,where,and how to transfer in SAR target recognition based on deep CNNs[J]. IEEE Transac tions on Geoscience and Remote Sensing,2020,58(4):2324- 2336.

[48]Wang Y,Wang C,Zhang H,et al. Automatic ship detection based on RetinaNet using multi-resolution Gaofen-3 imagery[J]. Remote Sensing,2019,11(5),531:1-14.

[49]Fu J,Sun X,Wang Z,et al. An anchor-free method based on feature balancing and refinement network for multiscale ship detection in SAR images[J]. IEEE Transactions on Geoscience and Remote Sensing,2021,59(2):1331-1344.

[50]Zhu C,Zhao D,Qi J,et al. Cross domain transfer for ship instance segmentation in SAR images[C]// IEEE International Geoscience and Remote Sensing Symposium(IGARSS),2021.

[51]Chen S,Zhan R,Wang W,et al. Learning slimming SAR ship object detector through network pruning and knowledge distillation[J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing,2021,14:1267-1282.

A Survey of Open SAR Image Target Datasets and Their Applications in Deep Learning

Zheng Tong,Lei Peng,Wang Jun

Beihang University,Beijing 100191,China

Abstract: The target detection and recognition using synthetic aperture radar (SAR) imagery is a challenging subject because of its low readability. In recent years deep learning (DL) methods have attracted much attention and also been applied into the SAR target detection and recognition task. As a typical kind of such approaches, the supervised learning algorithms are generally data-driven, and require massive labeled SAR images. However, the labeling of SAR images is expensive and time-consuming. This paper surveys major open SAR image target datasets as well as their application with DL. Firstly, typical airborne and spaceborne SAR systems are introduced. Then some widelyused open SAR image target datasets are described from two categories, namely, those with and without class labels. Finally, recent work on the application of those datasets with DL is summarized. The open SAR image target datasets could help promote the development of DL based target detection and recognition techniques using SAR imagery. This paper may be useful for future studies in such area.

Key Words: deep learning; synthetic aperture radar image; SAR target detection and recognition; supervised learning; SAR image target datasets

猜你喜欢
深度学习
从合坐走向合学:浅议新学习模式的构建
面向大数据远程开放实验平台构建研究
基于自动智能分类器的图书馆乱架图书检测
搭建深度学习的三级阶梯
有体验的学习才是有意义的学习
电子商务中基于深度学习的虚假交易识别研究
利用网络技术促进学生深度学习的几大策略
MOOC与翻转课堂融合的深度学习场域建构
大数据技术在反恐怖主义中的应用展望
深度学习算法应用于岩石图像处理的可行性研究