深度学习在图像识别及骨龄评估中的优势及应用前景

胡婷鸿 ，万 雷 ，刘太昂 ，汪茂文 ，陈 腾 ，王亚辉

（1.西安交通大学医学部法医学院，陕西 西安 710061；2.司法鉴定科学研究院 上海市法医学重点实验室上海市司法鉴定专业技术服务平台，上海 200063；3.上海帆阳信息科技有限公司，上海 200444）

法医学骨骼年龄研究从20世纪的计数法、百分位计数法、G-P图谱法、计分法，到21世纪的CHN法、TW3法、计测法、中国青少年儿童手腕骨成熟度和评价方法以及多元回归法[1]，历时近百年。期间，还有学者曾致力于通过超声[2]、骨密度法[3]、骨皮质厚度及髓腔直径变化[4]等进行骨龄评估。上述研究方法均是基于人工操作来完成骨骺形态的识别和骨发育程度的评估，需要通过人工方法进行阅片、分析、骨龄推断等。然而，人工阅片识别效率有限，不同阅片者的水平及能力不尽相同，因此，读片的一致性会受到质疑。而阅片结果的可靠性通常决定了骨龄推断的准确性，可以说阅片技能是法医学骨龄鉴定的核心技术。随着计算机科学技术的不断更新与进步，有学者[5-6]提出一种用于搜索图像中某一特定类型对象的方法——活动形状模型（active shape model，ASM），将 CHN 骨龄评价标准中的相关文字描述转化为数字特征，采用多层次、分步骤的方法进行最终的骨龄自动评估。

深度学习以及神经网络模型是近年来机器学习及人工智能领域新的研究方向及热点问题。虽然目前有关深度学习的骨龄研究发展进程尚处于初级阶段，在算法及模型构造上有很多需要改进之处，但深度学习在图像识别、语音识别应用中已经有了突出的表现，在人脸识别、信息检索等领域也展示出独特的优势，得到了广泛的应用。深度学习的算法结构模拟了大脑的神经连接结构，“深度”体现在该算法有多个隐含层，因此在处理图像、声音和文本时，是通过每一层网络结构对数据特征进行提取处理，往往浅层提取的是较为简单的特征，如颜色和线条等，而深层提取的则是更为抽象、立体的高层特征。骨骼X线图像识别属于图像识别范畴，因此，运用深度学习实现骨骼图像的识别，是实现人工智能骨龄评估系统的一个可靠途径。本文对近年来国内外学者运用深度学习在图像识别及骨龄评估中的研究进展进行综述。

1 深度学习的概念及其网络结构

深度学习是人工智能研究领域的一项改革性成果，源于人类对人工神经网络的研究，基于模拟人类大脑皮层及视觉神经系统对信息的处理方式，通过设置具有不同数量隐含层的感知器，对提供的大数据进行训练，获得合适的连接权值，来分步提取原始数据从低级到高级水平的特征，使计算机可以实现分层处理和理解数据的功能，最终达到获取所需求信息的目的[7]。最早提出深度学习这一概念的是加拿大多伦多大学的HINTON教授[8]，他于2006年探讨了应用人工神经网络刻画数据的学习模型，首先提出了深度学习的概念及计算机深度学习模型，掀起了深度学习在人工智能领域的新高潮。在人工智能领域，深度学习其实是一种算法思维，其核心是对人脑思维深层次学习的模拟，通过模拟人脑的深层次抽象认知过程，实现计算机对数据的复杂运算和优化。应该说，到目前为止，深度学习是计算机和智能网络最接近人脑的智能学习方法[9]。鉴于深度学习在学术界和工业界的巨大影响力，2013年4月《麻省理工学院技术评论》（MIT Technology Review）杂志将深度学习列为2013年十大突破性技术之首[10]。

深度学习的概念源于30多年来计算机科学、人工神经网络和人工智能的研究，深度学习之所以被称为“深度”，是相对于支持向量机（support vector machine，SVM）、提升方法、最大熵方法等“浅层”学习方法而言的[11]，这些浅层学习方法依靠人工经验抽取样本特征，所获得的图像特征是图像的表象特征。而深度神经网络模型属于通过多个单层非线性网络结构叠加而成的人工神经网络，通过对原始信号逐层特征变换，将样本在原空间的特征表现变换到新的特征空间，自动学习，得到层次化的特征表现，从而更有利于分类或特征可视化，是一种主动、高投入、理解记忆、涉及高阶思维、学习结果迁移性强的学习状态和学习过程。根据内部算法的结构特征，可以将深度学习分为前馈深度网络、反馈深度网络以及双向深度网络3种类型[11]。前馈深度网络使数据从输入层单向经过一个或多个隐含层处理后到达输出层，包括多层感知机（multilayer perceptron，MLP）、卷积神经网络（convolutional neural network，CNN）等，其发展形成时间较早。反馈深度网络则是通过多个解码器叠加而成，对输入数据进行解码处理，包括反卷积网络（deconvolutional network，DN）、层次稀疏编码网络（hierarchical sparse coding，HSC）等。双向深度网络则是由多个编码器与解码器互相叠加而成，包括深度置信网络（deep belief network，DBN）、深度玻尔兹曼机（deep Boltzmann machine，DBM）、栈式自编码器（stacked autoencoder，SAE）等。

2 基于深度学习图像识别的国外研究进展

近年来基于生物学原理研究的深度神经网络，尤其是纽约大学教授LECUN等[12]依据视觉神经Hubel-Wiesel模型提出的CNN的逐步兴起，使深度学习在图像识别领域取得了优异的研究成果。

2008年，美国Google公司的WESTON等[13]提出了一种非线性半监督嵌入式模型，其特点为：（1）选择使用“算法嵌入空间”分别为输出层、中间层以及直接作为辅助中间层三种模型，结果显示，相比原模型，三种嵌入模型的图像识别错误率均有效降低；（2）随着隐含层深度的增加，原模型因过度优化导致识别错误率持续上升，而所有层嵌入模型和“算法嵌入空间”为输出层的模型，因其自身存在半监督“正则化矩阵”而使识别错误率大大下降，只是后者效能不如前者，这在一定程度上说明了半监督嵌入模型适用于解决更深度的网络结构优化问题。

2010年，加拿大多伦多大学的KRIZHEVSKY等[14]将开发的CNN应用于ImageNet大规模视觉识别挑战赛中。该模型的特点是：（1）包含6000万个参数和65万个神经元结构；（2）使用非饱和神经元和卷积运算的图形处理器（graphics processing unit，GPU）来加快运算训练速度；（3）采用Dropout减少一定比例神经元活性，实现“模型平均效果”以防止过度拟合问题。最后的测试结果显示他们在前一和前五图片选项识别错误率分别仅为37.5%和17.0%。之后在2012年的该挑战赛中，研究者将该模型变体为“Alexnet”应用，最终在图像分类任务中前五图片选项测试识别错误率仅为15.3%，远低于第二名（26.2%）。可以看出，深度学习在图像识别领域具有无法比拟的优势。

2012年，瑞士Dalle Molle人工智能研究所的CIRESAN等[15]将多个单一深度神经网络（deep neural network，DNN）组合为全监督的多列深度神经网络（multi-column deep neural network，MCDNN）混合模型。在研究中发现，含35列DNN的MCDNN具有如下特性：（1）应用于改进的国家标准与技术研究所手写体字库中，首次以约0.2%的错误率接近人类识别性能；（2）在国家标准与技术研究所特殊数据库-19（含字母与数字）中，数据多角度随机组合显示其识别率较DNN结果高1.5到5倍；（3）在汉字识别中，其脱机状态下错误率仅为6.50%（DNN结果为10.01%），而在线状态时仅为5.61%（DNN结果为7.61%）。上述这些特性都暗示了DNN混合模型的应用优势。

2014年，法国巴黎WILLOW团队的OQUAB等[16]提出了一种参数迁移学习方法，解决了CNN无法训练局限数据样本的难题。其方法特点为：（1）移除及替换预训练输出层，使源任务和目标任务之间实现准确再映射而达到迁移目的；（2）网络训练中使用滑动窗口物体探测器，解决因识别物体分配不同而产生的“数据捕获偏差”问题和背景干扰导致的“负面数据偏差”问题；（3）分类目标则通过聚合公式来计算采样图像斑块分数而定。之后在该研究中选用Alexnet网络模型进行实验，结果显示：只使用12%ImageNet数据训练迁移后，在2012年的视觉物体的模式分析、统计建模与计算分析数据库中已显示最优识别，证明了该方法适用于小尺度基准数据集，可用于实现局限于专业特性（如医学）、采样困难的小样本进行深度学习的可能性。2014年，美国麻省理工学院的ZHOU等[17]创建了一个新的数据库——Places，同时提出一种深度特征可视化方法，实现了人工与网络提取特征的比较工作。

2015年，英国牛津大学的SIMONYAN等[18]展示了在2014年ImageNet大规模视觉识别挑战赛中获得图像分类第一的DNN。该网络利用每层含有的极小卷积滤波器，实现持续添加卷积层来增加网络深度（达到19层）形成更多层次CNN的目的，使模型可以应用到大规模图像识别中。同年，微软团队的HE等[19]针对随隐含层数增加导致网络图像识别效能下降的退化难题，提出了一种深度残差学习算法，该算法的特点为：（1）带有可跳跃一个或多个隐含层功能的“快捷连接”；（2）没有增加额外参数或计算复杂度，整个神经网络依然可以使用传统的随机梯度下降法（stochastic gradient descent，SGD）训练；（3）优化函数更接近于恒等映射而非零映射，使解算器优化残差映射的能力强于原始映射。之后采用ImageNet-2012图像库比较基于VGG网络模型分别设计的普通网络和残差网络（ResNet），以及在CIFAR-10数据库中检验ResNet-20、32、44、56、110、1202（数字指隐含层数目）结构性能，结果均显示：（1）随隐含层数增加，残差网络图像识别准确率越高，而普通网络与之相反；（2）整个过程残差网络不因层数增加出现退化问题，证明了残差学习更适用于处理大数据。牛津大学及微软团队的这两项研究，均为大样本深度学习提供了网络支持。

2016年，澳大利亚西澳大学的SHAH等[20]提出了一种迭代深度学习方法模型（iterative deep learning model，IDLM），首次以无人监督方式来预训练参数初始化，通过合并卷积层（pooled convolutional layer，PCL）学习线性特征，后接人工神经网络（artificial neural network，ANN）学习输入图像库中的非线性特征，有效防止了图像识别中差别信息的丢失。

2017年，印度Netaji Subhash工程学院的JAIN等[21]针对手写体字符图像识别设计应用程序时，应用MINIST数据库通过比对k-最近邻算法（k-nearest neighbour，K-NN）、多层感知器（multi-layer perceptron，MLP）以及CNN的精确度来确定最佳算法，最终显示k-NN精确度为96.8%，MLP为97.3%，而CNN的识别精度高达99.1%，这一测试结果再次表明了CNN用于图像识别的优越性。同年，意大利比可卡大学的BIANCO等[22]针对商标识别，提出一种识别通道模型，其由以记忆为导向的候补商标提案区与用于图像分类的特定训练CNN组成。在该实验的通道模型中，研究者使用不同的机器学习技术，在FlickrLogos-32库、FlickrLogos-32plus库以及验证集分别进行混合配比调整，得到最佳神经网络，这为今后我们使用深度学习网络在医学图像中查找特定目标提供了解决方案。

今年年初，在医学研究领域，美国斯坦福大学的ESTEVA等[23]利用 GoogleNet Inception V3网络模型，经过迁移学习之后用于含有129450个临床病理图片、分为2 032种不同类型皮肤癌疾病的数据库中，通过疾病分割算法进行分类学习。疾病分割算法属于递归算法，利用分类法生成在临床表现和外观形态上相似的个体疾病训练等级类别，迫使平均生成训练等级尺寸相比于其唯一的超参数——MaxClassSize更小，来保持因样本过度细化导致数据欠缺与因样本处理粗糙导致数据过多和偏差这两者之间的平衡。最后，研究者们将角化细胞癌与良性脂溢性角质对照，以及恶性黑色素瘤与良性瘤对照，分析两组测试检验的分类效能，初步实现了皮肤癌智能化分类功能。

几乎与ESTEVA等的研究同步，意大利卡塔尼亚大学的SPAMPINATO等[24]在今年年初通过将青少年手腕部X线片样本用于以现有模型（OverFeat、GoogLeNet、OxfordNet）作为“网络特征提取器”的 CNN学习评估结果与进行过微调与改进CNN结构比较，得到了一套最佳自动化骨龄评估模型——BoNet。这一研究堪称深度学习与青少年骨龄评估完美结合的里程碑式成果，也是国内外第一篇将深度学习应用于骨龄评估研究的论著。该实验将3个现有模型，分别与各自在X线图像数据库中微调之后的评估结果进行比较，结果显示，GoogLeNet微调之后性能最佳，平均绝对误差仅为0.82岁。之后对BoNet原模型进行优化灰度图像网络、减少层数目以及开发网络学习特定滤波器等研究后，最终确定在5个卷积层最后一层前加变形层为最优结构，平均绝对误差仅为0.79岁。通过上述针对X线图像自动化学习的研究获得以下四点经验：（1）采用来自预训练网络的初始化首层，与应用特定图像训练的剩余层相结合的混合配置网络，来训练有限数目的图像集，可以得到有效的结果；（2）黑白灰的图像特征决定没有必要用过多的卷积层，在一定程度上网络深度取决于研究领域的特性；（3）变形层可以通过几何学变换方法，来处理非刚性物体变形以提高评估效能；（4）深度学习所提取的特征不同于Tanner-Whitehouse（TW）骨龄计分法人工提取特征，可能会促使人工评定方法加以改善。

将深度学习运用到青少年骨龄评估中的最新成果当属美国哈佛医学院的LEE等[25]，其提出一个全自动、带有检测与分类CNN的深度学习平台，以实现骨龄评估，并且能自动生成结构化放射学报告。在研究中选用实际年龄为5～18岁的4 278例女性样本及4 047例男性样本作为数据集，通过组织、骨骼、背景、视准及标记注释5个取样点，来训练拓扑结构为LeNet-5的检测CNN。在预处理工具中，在对测试图像归一化处理后，置于已训练的检测CNN中重建标号映像进一步生成掩模之后，输入视觉通道进行分割、对比增强、降噪及边缘锐化处理实现图像预处理。之后通过比较选择微调的GoogLeNet作为合适的迁移学习网络，对训练样本进行数据增强及仿射变换处理来避免过度拟合。实验结果显示：（1）从最后一层至第一层递增微调预训练CNN的回归测试表明，随着实时数据增强，从全连接层至全层微调的预训练网络测试准确度最高；（2）在已实现数据增强且预处理的图像中，进行微调后的ImageNet预训练CNN测试准确度最高，女性组准确率为57.32%，骨龄评估误差在1年内的准确率为90.39%，2年内为98.11%，均方根误差为0.93岁，而男性组准确率为61.40%，骨龄评估误差在1年内的准确率为94.18%，2年内为99.00%，均方根误差为0.82岁；（3）利用密封式方法生成注意力图谱，与G-P图谱法人工读片兴趣域比较，可视化结果显示，青春期之前其识别部位集中于腕部和指骨中远侧，青春早、中、晚期更多集中于指骨部分，而青春期之后又集中于腕部。

综上所述，图像识别技术是人工智能研究的一个重要领域，与传统模式识别相比，深度学习最大的不同在于其是从大数据中自动学习图像特征，而非采用手动设计的特征模型，其可以从大数据中提取成千上万的参数。深度学习模型的“深”字意味着神经网络的结构深，由很多层组成，而非浅层学习的三层结构（输入层、输出层、隐含层）。深度模型具有强大的学习能力和高效的特征表达能力，更重要的优点是从图像像素级原始数据到抽象的语义概念，来逐层提取信息，这使得其在提取图像的全局特征和上下文信息方面具有突出的优势，为解决传统的计算机视觉问题（如图像分割和关键点检测）带来了新的思路。

3 基于深度学习图像识别的国内研究进展

2014年，四川大学的余永维等[26]提出一种射线无损智能化检测方法，将CNN与径向基神经网络（radial basis function neural network，RBFNN）结合来提高自学习特征分类能力，并提出一种深度学习网络层自生长式建模的方法，最终显示获取注意区域的样本射线图像，直接经过具有多个隐含层网络模型的智能训练阶段或识别阶段时，识别率均高于浅层学习网络模型。

同年，司法鉴定科学研究院的王亚辉等[27]将SVM运用于手腕部尺、桡骨远端骨骺发育分级的自动化评估中。研究者选用已知骨骺发育分级的140例（1、2、3、4、5等级各28例）尺、桡骨远端DR片作为训练样本，运用SVM分别对尺骨和桡骨远端各个分级进行建模，计算得出两者训练集模型准确率（PA）均为100%，之后通过留一法交叉验证进行模型内部验证，得到训练集的PA分别是80.0%（112/140）和78.6%（110/140）。之后随机选取35例测试样本通过梯度方向直方图对模型进行外部检验，得到的测试集PA分别是88.6%和82.9%。

2015年，百度研究团队的WU等[28]研制出Deep Image图像识别系统，该系统通过展示Deep Image系统与前三年其他系统在2012年ImageNet大规模视觉识别挑战赛中对前五图片选项识别错误率较低，以及其与GoogLeNet、VGG模型比较，前一、前五图片选项的识别错误率亦较低，证实了Deep Image图像识别系统为当前最优系统。

2016年，南京林业大学的梁鑫等[29]提出一种合成孔径雷达（synthetic aperture radar，SAR）图像目标智能识别方法。通过使用改进后的增强Lee滤波算法和梯度方向直方图变换对SAR图像进行特征提取，将层叠玻尔兹曼机与广义回归神经网络（general regression neural network，GRNN）结合形成新型深度混合神经网络，对梯度方向直方图特征图进行图像分割与识别，结果显示平均识别率可高达97%，明显优于多尺度的自组织映射（self organizing map，SOM）神经网络、SVM以及DNN识别结果。

2017年，山东中医药大学的何雪英等[30]提出一种运用到乳腺癌病理图像自动分类的CNN模型，实现了乳腺癌病理图像的自动分类。这一研究是国内较早将深度学习运用于医学领域的研究成果。同时，在该研究中利用数据增强和迁移学习方法，有效避免了深度学习模型受样本量限制时易出现的过拟合问题。研究表明，该方法的识别率可高达91%。

我国对深度学习的研究起步较晚，但发展较为迅速。比如百度成立深度学习研究院，在短短两年时间，深度学习技术被迅速应用到图像识别、广告系统、网页搜索、语音搜索等领域[31]。随着深度学习逐渐被人们所认知，已尝试应用于医学领域，协助医师作出临床诊断。

4 深度学习在骨龄评估中的优势

骨龄研究是法医人类学主要的研究内容之一。人类骨骼发育过程呈现连续性与阶段性的增龄性变化，因此，我们可以通过骨骺大小、形态以及骨骺闭合程度等发育规律，来推断个体的生物学年龄，这也是骨龄评估的理论基础与核心依据。为使骨龄鉴定过程更为简便、快捷，鉴定意见更为客观、准确，鉴定效能更为快速、高效，人工智能方法与技术将是今后骨龄研究的主要趋势。近年来，国内外众多学者都尝试通过各种方法来建立一个可实现自动化或半自动化的骨龄评估系统[32-33]。早在20世纪80年代就已使用计算机参与读片计算，但是仅限于可简化评定的数据分析过程[34]。

直到20世纪90年代，随着计算机数字化信息技术和图像识别技术的发展与应用，以及与之相伴的神经网络算法应用的不断改进、计算机内存容量的不断扩大，在图片识别中从将原始图像转化为数字图像输入计算机进行机器读片，到目前直接输入原图像识别的质的飞跃，而在神经网络学习方面则从单一特征获取的浅层学习，逐渐演变为可以学习得到多层特征提取的深度学习。比如，2014年，司法鉴定科学研究院的王亚辉等[27]首次运用SVM方法，将收集到的青少年左侧腕关节X线正位片作为训练样本，实现了对尺、桡骨远端骨骺发育分级进行自动化评估的目标，很大程度上提高了骨骺发育分级读片的效率。但是考虑到浅层学习是通过人工经验来获取样本特征，而且其对复杂函数的表达能力有限，不能很好地挖掘样本内部深层次的信息，因而认为使用带有多个特征处理隐含层结构的深度学习，应该会取得更好的效果。正如本文所列举的近年来深度学习在国内外图像识别中的研究进展实例所述，短时间内研究者们已从算法学习、数据库创建、网络模型结构、数据处理等方面进行了大量尝试，并取得突出的研究成果，解决了图片特征识别中的诸多难题。2017年，意大利卡塔尼亚大学的SPAMPINATO等[24]首次将深度学习CNN模型应用于青少年手腕关节X线片中推断骨龄，其使用多种深度学习网络算法对骨骼图像进行识别，研究结果显示，人工与计算机读片间存在0.79岁的误差，获得了目前最先进的研究成果，开辟了骨龄研究新思路、新方法，实现了浅层学习向深度学习的完美过渡。而LEE等[25]提出的骨龄评估深度学习平台则进一步推动了此项研究的进展。

在图像特征提取方面，以往骨龄评估都是基于传统方法人工提取手腕部干骺端兴趣域，而深度学习则将图像作为整体信息直接输入网络进行处理。深度神经网络不同隐含层最活跃神经元所提取的兴趣域，除显示与人工骨骺兴趣域相一致的特征之外，还有其自身深度特征（这些特征所指向的具体人体组织结构部位目前尚不明确），且神经元活跃度显示，部分人工感兴趣区域对深度学习来说并不是显著差别特征。这暗示深度学习在图像特征差异性识别方面可能更精细，性能或许优于人工识别，将来的深入研究可对此加以论证，并可能会在人工骨龄评估方法的指标改进方面取得重大突破。

5 应用展望

随着机器学习方法及神经网络模型的不断改进，深度学习已经在众多领域的图像识别中有所应用与发展，包括骨龄评估X线片研究领域，进一步推动了法医人类学的发展。首先，我们的研究思路不应局限于单一关节骨骼发育的深度学习，还应该尝试将深度学习应用到评估胸锁、肩、肘、腕、髋、膝、踝七大关节骨发育程度中来综合推断骨龄。其次，我国幅员辽阔，民族众多，人员流动性较大，目前国内尚未统一颁布实施中国多民族青少年法医学骨龄鉴定标准，因此，我们可以考虑扩大采样范围，对我国汉族、维吾尔族、藏族等人口较多地区集中采样，一方面运用深度学习挖掘更有价值的图像信息，另一方面可以纵向比较我国多民族青少年骨骼发育的差异性，为今后制定中国青少年骨龄鉴定标准提供基础数据。再者，目前国内外学者运用深度学习主要基于X线片实现骨骼图像识别，一方面X线片相对便于采样，另一方面骨骼在X线片上显影较为清晰。当然，随着深度学习在青少年骨龄评估中的深入研究，今后还可以考虑将躯体个别关节的CT、MRI图像识别与深度学习有机结合，将深度学习这一人工智能方法逐步推广至法医影像学研究领域中。最后，我国精准医学科研项目现阶段已开始实施，运用深度学习的骨龄评估研究，不仅可以将骨关节图像库共享于精准医学大数据平台中，还可以利用深度学习进一步改善并提升精准医学影像技术的诊断价值。

[1]王亚辉，朱广友，乔可，等.X线骨龄评估方法研究进展与展望[J].法医学杂志，2007，23（5）：365-369.

[2]WÜNSCHE K， WÜNSCHE B， FÄHNRICH H， et al.Ultrasound bone densitometry of the os calcis in children and adolescents[J].Calcif Tissue Int，2000，67（5）：349-355.

[3]吕尤焱.骨密度、骨龄测定仪研制与临床[J].天津体育学院学报，2004，19（2）：59-61.

[4]张绍岩，张丽君，张继业，等.中国大中城市儿童第二掌骨的掌骨指数正常参考值[J].中华现代儿科学杂志，2009，6（4）：193-198.

[5]COOTES T F， TAYLOR C J， COOPER D H， et al.Active shape models--their training and application[J].Comput Vis Image Underst，1995，61（1）：38-59.

[6]THODBERG H H， JENNI O G， CAFLISCH J， et al.Prediction of adult height based on automated determination of bone age[J].J Clin Endocrinol Metab，2009，94（12）：4868-4874.

[7]LECUN Y，BENGIO Y，HINTON G.Deep learning[J].Nature，2015，521（7553）：436-444.

[8]HINTON G E， OSINDERO S， TEH Y W.A fast learning algorithm for deep belief nets[J].Neural Comput，2006，18（7）：1527-1554.

[9]蔡自兴，刘丽珏，蔡竞峰，等.人工智能及其应用[M].5 版.北京：清华大学出版社，2016：290-298.

[10]HOF R D.Deep learning with massive amounts of computational power，machines can now recognize objects and translate speech in real time.Artificial intelligence is finally getting smart[J/OL].MIT Technology Review，2013，116（3）.[2017-11-01].https://www.technologyreview.com/s/513696/deep-learning/.

[11]尹宝才，王文通，王立春.深度学习研究综述[J].北京工业大学学报，2015，41（1）：48-59.

[12]LECUN Y，BOSER B，DENKER J S，et al.Backpropagation applied to handwritten zip code recognition[J].Neural Computation，1989，1（4）：541-551.

[13]WESTON J， RATLE F， COLLOBERT R.Deep learning via semi-supervised embedding[C]//ICML’08 Proceedingsofthe25th InternationalConference on Machine Learning.New York： ACM，2008：1168-1175.

[14]KRIZHEVSKY A， SUTSKEVER I， HINTON G E.ImageNet classification with deep convolutional neural networks[C]//NIPS’12 Proceedings of the 25th International Conference on Neural Information Processing Systems.Nevada： Curran Associates Inc.，2012：1097-1105.

[15]CIRESAN D，MEIER U，SCHMIDHUBER J.Multi-column deep neural networks for image classification[C]//CVPR’12 Proceedings of the 2012 IEEE Conference on Computer Vision and Pattern Recognition.Washington， DC： IEEE Computer Society，2012：3642-3649.

[16]OQUAB M，BOTTOU L，LAPTEV I，et al.Learning and transferring mid-level image representations using convolutional neural networks[C]//CVPR’14 Proceedings of the 2014 IEEE Conference on Computer Vision and Pattern Recognition.Washington，DC：IEEE Computer Society，2014：1717-1724.

[17]ZHOU B， LAPEDRIZA À， XIAO J， et al.Learning deep features for scene recognition using places database[C]//International Conference on Neural Information Processing Systems 27.Cambridge：MIT Press，2014：487-495.

[18]SIMONYAN K，ZISSERMAN A.Very deep convolutional networks for large-scale image recognition[J].Computer Science，2015.[2017-11-01].https://arxiv.org/pdf/1409.1556.pdf.

[19]HE K， ZHANG X， REN S， et al.Deep residual learning for image recognition[J].Computer Science，2015.[2017-11-01].http://www.robots.ox.ac.uk/～vgg/rg/papers/deepres.pdf.

[20]SHAH S A A，BENNAMOUN M，BOUSSAID F.Iterative deep learning for image set based face and object recognition[J].Neurocomputing，2016，174（B）：866-874.

[21]JAIN N， RAHUL K， KHAMARU I， et al.Hand written digit recognition using convolutional neural network （CNN）[J].3rd International Conference on Research Trends in Engineering，Applied Science and Management （ICRTESM-2017）， Institution of Electronicsand Telecommunication Engineers （IETE），India： Pune，2017.

[22]BIANCO S， BUZZELLI M， MAZZINI D， et al.Deep learning for logo recognition[J].Neurocomputing，2017，245（C）：23-30.

[23]ESTEVA A， KUPREL B， NOVOA R A， et al.Dermatologist-level classification of skin cancer with deep neural networks[J].Nature，2017，542（7639）：115-118.

[24]SPAMPINATO C，PALAZZO S，GIORDANO D， et al.Deep learning for automated skeletal bone age assessment in X-ray images[J].Med Image Anal，2017，36：41-51.

[25]LEE H， TAJMIR S， LEE J， et al.Fully automated deep learning system for bone age assessment[J].J Digit Imaging，2017，30（4）：427-441.

[26]余永维，殷国富，殷鹰，等.基于深度学习网络的射线图像缺陷识别方法[J].仪器仪表学报，2014，35（9）：2012-2019.

[27]王亚辉，王子慎，魏华，等.基于支持向量机实现骨骺发育分级的自动化评估[J].法医学杂志，2014，30（6）：422-426.

[28]WU R， YAN S， SHAN Y， et al.Deep image：scaling up image recognition[J].Computer Science，2015.[2017-11-01].http://www.datascienceassn.org/sites/default/files/Deep%20Image%20-%20Scaling%20up%20Image%20Recognition.pdf.

[29]梁鑫，徐慧.基于深度学习神经网络的SAR图像目标识别算法[J].江汉大学学报（自然科学版），2016，44（2）：131-136.

[30]何雪英，韩忠义，魏本征.基于深度学习的乳腺癌病理图像自动分类[J/OL].计算机工程与应用，2017.（2017-06-27）[2017-09-10].http://kns.cnki.net/kcms/detail/11.2127.TP.20170627.1712.008.html.

[31]百度“深度学习”技术研究成果获顶级国际会议论文奖项[N/OL].（2013-07-03）[2017-09-10].http://idl.baidu.com/IDL-news-5.html.

[32]TANNER J M，GIBBONS R D.A computerized image analysis system for estimating Tanner-Whitehouse 2 bone age[J].Horm Res，1994，42（6）：282-287.

[33]NIEMEIJER M.Automating skeletal age assessment[D].Utrecht： Utrecht University，2002.

[34]SANZ-REQUENA R， GARCÍA A M， VIEJO M R，et al.Web application for the integration of bone age calculation in RIS/PACS[J].J Mark Res Soc，1980，22（3）：181-191.