剪枝
- 基于中间图特征提取的卷积网络双标准剪枝
量化、知识蒸馏、剪枝等［8-9］，其中，低秩分解是通过分解权重矩阵的方式来减少网络的计算量。LI 等［10］提出一种基于内核分解的算法，同时设计相关的微架构，可以最大限度地优化卷积网络。量化算法以占用较少存储空间的低精度参数权值来替代卷积神经网络中的高精度浮点型参数，目前最常见的是采用8 位整型参数来替代原有网络中的32 位浮点型参数。HAN 等［11］提出基于量化和哈夫曼编码的网络压缩方法，在AlexNet 网络上获得了35 倍的压缩比。知识蒸馏的主要思
计算机工程 2023年3期2023-03-16
- 基于稀疏深度神经网络的电磁信号调制识别*
5-14]。模型剪枝作为模型压缩中较为核心的方法，它可以清除网络中冗余的参数与计算量。文献[15]基于权重修剪网络中不重要的连接，在ImageNet数据集上，在不损失精度的同时将AlexNet和VGG-16的参数数量分别减少了9倍和13倍。文献[16]对整个层进行修剪，提出一种结构化稀疏学习(Structured Sparsity Learning，SSL)方法来正则化深度神经网络(Deep Neural Network，DNN)的结构，将20层的ResN
电讯技术 2023年2期2023-03-02
- 分块压缩学习剪枝算法
缩[3].而网络剪枝技术是模型压缩中常用的方法，并在处理复杂网络模型效率上展现显著优势[4].网络剪枝技术是去除网络中冗余的参数和结构以得到稀疏的网络结构，可分为非结构化剪枝和结构化剪枝.非结构化剪枝通过去除每层不重要的权值以实现权重矩阵较高的稀疏度，Han等[5]提出基于阈值的剪枝方法去除网络中冗余的权值，删除权值绝对值低于阈值的权重参数.但非结构化剪枝的实现需要借助特定的软件[6]和硬件[7]，将带来额外的计算成本.相比非结构化剪枝，结构化剪枝通过去除
小型微型计算机系统 2023年2期2023-02-17
- 面向垃圾图像分类的改进注意力机制剪枝算法*
为研究热点。模型剪枝具有原理简单、易实现、压缩效果显著的特点，被广泛应用于模型压缩。剪枝主要分为非结构化剪枝和结构化剪枝，其中非结构化剪枝的模型需要专门的算法或硬件结构才能实现加速[2]；结构化剪枝是对通道、卷积核等结构进行剪枝，不依靠特定的软硬件平台，更有利于嵌入式设备的部署，目前得到了广泛应用。如何准确评价网络结构的重要程度是结构化剪枝过程中的主要问题。Li等人提出将滤波器的L1范数作为衡量标准[3]；Hassibi等人利用误差函数的二阶导数去对权重的
科学与信息化 2022年24期2023-01-05
- 融合改进通道和层剪枝的口罩人脸检测*
标检测算法和模型剪枝算法，针对实际场景中的目标检测算法构建，提出一种融合通道和层剪枝的模型剪枝方法，以YOLOv4目标检测算法作为初始模型在口罩人脸数据集上进行剪枝，并将剪枝后的模型与原模型以及YOLOv4的轻量化模型YOLOv4-tiny进行对比实验。本文主要贡献如下：(1)构建用于人脸口罩检测的数据集，能更好地检测口罩佩戴不完全的情况。(2)提出一种融合通道和层剪枝的模型剪枝方法，可以显著减少模型的参数量，便于实时部署。(3)使用本文所提方法在构建的人
计算机工程与科学 2022年3期2022-12-22
- 基于网络特征的分层剪枝方法
方法之一, 模型剪枝技术[6]已被证明是一种有效的方法[7-11], 可在尽量不损失精度(甚至更好)的情况下减小模型体积. 在剪枝技术中, 基于权重的剪枝是一种常用方法. 在范围上, 剪枝技术可分为全局剪枝和分层剪枝. 分层剪枝方法对每层的参数单独进行处理, 如果某个参数低于该层的重要性最低阈值, 则将其裁剪掉. 例如： 使用权重的绝对值衡量重要性, 先移除权重值低于阈值的所有参数, 然后重新训练剩余的稀疏网络[8]或将剩余权重恢复到初始状态再进行训练[1
吉林大学学报（理学版） 2022年6期2022-11-20
- 在轨目标检测模型结构化条带剪枝
分解、知识蒸馏、剪枝以及量化中的一种或多种方式来降低模型参数量和计算量.其中，剪枝是模型压缩的重要手段之一.通过将深度模型中不重要的参数或者卷积核剪除掉，从而实现降低模型复杂度的目的.按照剪枝粒度可以将剪枝分为结构化剪枝和非结构化剪枝.非结构化剪枝的对象是模型中的单个参数，被剪参数不具有任何结构.结构化剪枝的对象是卷积核、通道或者分组.无论结构化剪枝还是非结构化剪枝，如何确定被剪除的参数是一个核心问题.权重剪枝可以追溯到OBD(optimal brain
空间控制技术与应用 2022年5期2022-11-02
- 基于可融合残差卷积块的深度神经网络模型层剪枝方法
度神经网络模型层剪枝方法徐鹏涛 曹健†孙文宇 李普 王源 张兴†北京大学软件与微电子学院, 北京 102600; †通信作者, E-mail: caojian@ss.pku.edu.cn (曹健), zhx@pku.edu.cn (张兴)针对当前主流的剪枝方法所获得的压缩模型推理时间较长和效果较差的问题, 提出一种易用且性能优异的层剪枝方法。该方法将原始卷积层转化为可融合残差卷积块, 然后通过稀疏化训练的方法实现层剪枝, 得到一种具有工程易用性的层剪枝方法
北京大学学报（自然科学版） 2022年5期2022-10-11
- 基于梯度追踪的结构化剪枝算法
馏[10]和网络剪枝[5，11-12]等。他们在追求高精度的同时，能够降低过参数化网络的计算代价以及存储需求。滤波器剪枝能够剪除原始网络中的冗余卷积核，从而获得小网络，有效降低模型的运算量和存储量。作为模型压缩技术，滤波器剪枝有以下几个优势：首先，它可以应用于CNN的任何任务中，比如目标检测，人脸识别和语义分割等。其次，滤波器剪枝可以在显著减少FLOPs、加快推理速度的同时，不会损坏网络结构。因此，可以利用其它模型压缩技术(例如，知识蒸馏[10]、量化[8
计算机仿真 2022年8期2022-09-28
- 模型剪枝算法综述
1]中研究人员将剪枝、模型量化与霍夫曼编码结合将AlexNet模型参数压缩至原模型的2.8%,将VGG-16参数压缩至原模型的2.0%。1 问题描述本文主要介绍针对于模型剪枝方面的算法。模型压缩算法主要分为剪枝、量化、低秩分解与知识蒸馏4个方面。剪枝的过程如图1所示。在文献[2]中提出在深度神经网络中权重参数存在显著冗余，仅仅使用一小部分权重就可以预测出其余的权重。因此，网络中的大多数权重并不需要学习。训练网络中小部分权重参数就可能达到和原网络相近甚至超越
计算机与现代化 2022年9期2022-09-24
- 基于模型剪枝和知识蒸馏的船舶目标检测方法
等问题,本文采用剪枝技术来对模型进行压缩[2],并用知识蒸馏技术对剪枝后的模型进行蒸馏,补偿剪枝后模型的检测精度损失.1 模型选取1.1 卷积神经网络卷积神经网络常用于分类与检测等任务[3],主要由卷积层、池化层、全连接层组成.卷积层是通过感受野即卷积核在图像上进行滑动卷积,以此来提取图像中不同维度的特征;将卷积层输出的特征放到池化层中对特征图进行池化操作,池化层与卷积层相似,是在感受野上建立一个窗口来进行滑动操作,从而达到特征降维的作用;将池化后输出的特
南京工程学院学报（自然科学版） 2022年2期2022-08-16
- 基于权重和BN层剪枝的晶界检测模型压缩算法探析
加速方面大致分为剪枝与量化、低秩因子分解、迁移或压缩卷积滤波器、蒸馏学习等4类方法[2]。其中，网络剪枝主要指在网络训练过程中寻求一种评判重要性的机制，剔除不重要的连接、节点甚至是卷积核，达到精简网络结构的目的。相比于其他模型压缩的方法，网络剪枝算法不仅原理简单且操作方便，还可以在不影响性能的前提下，通过设定恰当的剪枝准则去除网络中对输出特征贡献小的无用部分。笔者旨在通过寻找合适的剪枝策略机制对晶界检测EfficientDet网络进行模型压缩，采用权重剪枝
北京工业职业技术学院学报 2022年3期2022-07-29
- 工业场景下基于秩信息对YOLOv4的剪枝
对YOLOv4的剪枝秦晓1，2，成苗1，2，3*，张绍兵1，2，3，何莲1，3，石向文1，2，王品学1，2，曾尚1，2（1.中国科学院 成都计算机应用研究所，成都 610041；2.中国科学院大学 计算机科学与技术学院，北京 100049；3.深圳市中钞科信金融科技有限公司，广东 深圳 518206）（∗通信作者电子邮箱chengmiao@cbpm‑kexin.com）在工业场景无线射频识别（RFID）实时缺陷检测任务中，为了保证检测精度以及速度常采用YO
计算机应用 2022年5期2022-06-21
- 采用可替代滤波器的卷积神经网络模型剪枝方法
.将神经网络模型剪枝部署于移动边缘设备具有优势[1]，在非结构化修剪方式方面，Guo 等[2]提出一种动态的参数剪枝算法以逼近神经网络模型压缩的理论极限.Carreira-Perpinán等[3]通过两步(学习和压缩)交替优化的剪枝方法将原参数向约束表示的可行集投影，自动找到每层的最优稀疏比.Ding等[4]通过一阶泰勒展开式判断剪枝对最终输出造成的影响排序，网络中的权重根据排序进行分类.对造成影响较大的权重，采用常规的随机梯度下降(SGD)更新，对其他的
华侨大学学报（自然科学版） 2022年2期2022-03-13
- 基于自动修补策略的网络剪枝
低秩分解[6]、剪枝[7].剪枝作为一种加速预训练较大模型的方法，可进一步分为非结构化剪枝[8]和结构化剪枝[9].结构化剪枝可简化为2个问题：1)如何判断是否应该剪去一个指定的卷积核;2)确定每层中应该剪去多少个卷积核.现有的剪枝方法试图最大限度地压缩网络而不造成太大的精度损失,大多数遵循相同流程：训练、剪枝、微调.对于问题1)，通常使用人工规则选择不重要的卷积核并将其剪去，剪枝过程方便快捷.一个典型的剪枝思想是:如果网络中某个对象的值足够小，就可对其进
模式识别与人工智能 2022年1期2022-02-17
- 深度卷积神经网络的柔性剪枝策略
积神经网络的柔性剪枝策略陈靓1,2，钱亚冠1,2，何志强1,2，关晓惠3，王滨4，王星4（1. 浙江科技学院理学院/大数据学院，浙江 杭州 310023；2. 海康威视−浙江科技学院边缘智能安全联合实验室，浙江 杭州 310023； 3. 浙江水利水电学院信息工程与艺术设计学院，浙江 杭州 310023；4. 浙江大学电气工程学院，浙江 杭州 310063）尽管深度卷积神经网络在多种应用中取得了极大的成功，但其结构的冗余性导致模型过大的存储容量和过高的计算
电信科学 2022年1期2022-02-12
- 基于模块相似性的超分网络剪枝
5-17]和网络剪枝(network pruning)[18-22]。量化是一种像素级别的压缩方法，通过将全精度(32 bit)的权重(weights)、激活值(activations)以及梯度值(gradients)量化到低精度(如8 bit)，从而达到压缩和加速网络的目的。然而量化的方法需要软硬件都支持低精度运算，在使用范围上大幅受限，并且容易带来模型精度的明显下降，并不适合所有网络。而知识蒸馏则是使用一个复杂强大的教师网络来监督简单小巧的学生网络训练
电子科技大学学报 2022年1期2022-01-26
- 基于迁移学习的卷积神经网络通道剪枝
层缩放因子的通道剪枝能否据此获得更高的剪枝阈值，对其剪枝效果与迭代收敛性进行研究验证，并从结构搜索的观点对实验结果进行解释。主要工作如下：1)从多分类大数据集向小数据集实现迁移，对比加载预训练权重初始化重新训练、与冻结部分卷积层参数微调对稀疏化效果产生的影响。2)对稀疏化后的通道按权重排序并剪枝，考察通道剪枝阈值选取容限，测试新形成网络结构的精度保持情况。3)进一步地，利用迭代剪枝方法，探究模型精度保持极限与结构收敛性。从而证明，迁移学习更易实现充分的权值
计算机与现代化 2021年12期2021-12-18
- 基于双DDPG的全局自适应滤波器剪枝方法
数量化［13］。剪枝，作为压缩深度神经网络模型的主流方法之一，可以极大地减小内存占用和推理运算时间。在过去的十年内，激起了广大研究者的兴趣。剪枝主要分为结构化剪枝和非结构化剪枝。非结构化剪枝是将不重要的权值设置为0，从而实现高稀疏性，但是稀疏操作需要专门的硬件或者软件库来加快推理过程，因此限制了非结构化剪枝的应用。结构化剪枝则是移除原始网络中不重要的滤波器（通道）。这种滤波器（通道）级别的剪枝只是对网络模型的架构进行修改，并不会影响它的实际可用性。本文致力
南京邮电大学学报(自然科学版) 2021年5期2021-11-24
- 利用KL散度度量通道冗余度的深度神经网络剪枝方法
近似[4]、权重剪枝[5-7]、参数量化[6]、二值化网络[8]、知识蒸馏[9-11]、紧凑卷积滤波器设计[12]和通道剪枝[13-21]等。剪枝是实现网络压缩一种较为直接而且有效的方法，目前大多数剪枝算法都是先训练一个大型的复杂预训练模型，然后对这个模型进行剪枝，从而得到一个性能不错且较为紧凑的小模型。本文采用结构化剪枝方法，利用KL散度定义通道的重要因子，根据重要因子对CNN的每层卷积层逐层进行通道剪枝，从而达到减少网络参数数量和FLOPs的目的。Li
计算机应用与软件 2021年11期2021-11-15
- 基于敏感度的YOLO网络集成剪枝算法
量化方法主要包括剪枝［1-2］、低秩分解［3］、量化［4］、知识蒸馏［5-6］等。由于卷积神经网络中包含卷积层和全连接层等人为设定的训练参数模块，这种凭借经验通过重复实验得到的局部最优超参数不能代表网络的实际需求。根据深度卷积神经网络的新双U 型偏差-方差风险曲线［6］可知，在不考虑资源限制的条件下，参数越多、模型越复杂的网络性能表现越好，但是过多参数的复杂模型没有权衡成本和性能间的关系并且模型存在冗余。剪枝的目的是通过剪除网络中冗余的模块，从过参数化的复
计算机工程 2021年9期2021-09-15
- 基于全局信息的卷积神经网络模型剪枝微调优化方法
缩方法, 如模型剪枝[1-5]、权重量化[6-9]和神经网络结构搜索[10-12]等。其中, 模型剪枝方法能大幅度地减少模型参数量和运算量, 成为模型压缩的主流方法, 又可分为非结构化剪枝方法和结构化剪枝方法。非结构化剪枝方法[13]认为卷积神经网络中存在小值权重, 对网络最终输出贡献少, 可将其置 0,以便减少网络运算量。采用此类方法的模型压缩效果较好, 但部署到端侧设备时, 硬件平台要具有相应的稀疏矩阵运算加速库才能实现提速, 故非结构化剪枝方法在部署
北京大学学报（自然科学版） 2021年4期2021-08-24
- 基于权重关联性的卷积神经网络模型剪枝方法
破这种限制，模型剪枝成为了一种在维持模型精度的情况下，十分有效地压缩和加速模型的方法.模型剪枝通过剪除模型中不重要的参数，来减少模型的参数量和相关的计算量，从而使得模型轻量化.模型剪枝按照移除的粒度大小可以被分为两种类别：非结构化剪枝[1]和结构化的剪枝[2].非结构化剪枝是一种对每个权重单独进行评估的方法，它将被认为是冗余的权重置为零并移除.这样的方法虽然可以更加精准的判断权重的重要性，但也存在着在实际应用中难以部署落地，无法有效压缩加速模型的问题.非结
小型微型计算机系统 2021年7期2021-07-08
- 基于改进YOLOv4的安全帽佩戴检测算法
后对模型进行加速剪枝。实验结果表明，提出的算法在检测中mAP@0.5值提升了6.7%，检测速度提升了35%，模型参数量减少了48%，改进后的模型更适用于实际场景中对安全帽佩戴行为的识别。关键词：安全帽佩戴检测;YOLOv4网络;改进K-means;CBAM;剪枝中图分类号：TP391.4 文献标识码：A文章编号：2096-4706（2021）22-0156-06Abstract： Aiming at the current problems in
现代信息科技 2021年22期2021-05-16
- 基于模型性能相关性的分级剪枝率剪枝方法
结构[1]，所以剪枝的根本意义在于找出这些相关性不大的结构，将其裁剪，从而简化网络结构。目前的剪枝方法中，例如Louizos等、Hao Li等、Yang He等[2-4]提出的按照结构正则化大小剪枝网络的方法，He Yang等[5]、Lin Mingbao等[6]按照各种结构之间相关性进行裁剪，但是都没有提出对深度卷积神经网络中的不同层设置不同剪枝量方法。尽管已有方法分析深度卷积神经网络各层对剪枝的敏感性[7]，但是此方法使用完整的深度卷积神经网络研究各层
计算机工程与设计 2021年4期2021-04-22
- 无人驾驶深度学习模型组合剪枝算法*
署到移动端。模型剪枝是一种网络模型压缩方法,对深度神经网络的稠密连接引入稀疏性,通过将“不重要”的权重删掉来减少权重数量。LeCun Y等人[3]提出使用对角Hessian矩阵评价每个权重参数的重要性,将网络中不重要的参数剔除,从而达到压缩模型作用，方法能够较好保证网络测试准确率,但对网络加速效果有限；Hassibi B等人[4]提出使用逆 Hessian 矩阵评价每个权重的重要性,将重要性低的权重删减,剩余权重使用二阶泰勒确定损失函数值增量更新；Luo
传感器与微系统 2021年3期2021-03-26
- 基于YOLOv3的卷积层结构化剪枝
文中提出的结构化剪枝就是一种对卷积神经网络压缩和优化的方法。网络剪枝能够通过去除模型中的部分连接加速卷积神经网络。剪枝的主要步骤是：训练原始网络，更新网络中各个参数的权值；对网络中权重较低的参数进行修剪；重新训练网络，恢复神经网络精度[2]。剪枝可以分为结构化剪枝和非结构化剪枝两类。结构化剪枝相对非结构化剪枝的最明显特点是它产生的稀疏矩阵是有规则的，剪枝后网络加速需要的运算量更少[3]。结构化剪枝按照剪枝依据可分为基于重要性和基于正则化的剪枝方法，本文采用
计算机工程与应用 2021年6期2021-03-23
- 面向星上目标提取的卷积神经网络优化技术
几类［2］：参数剪枝、权值量化、低秩分解、紧性卷积核设计和知识蒸馏。参数剪枝法通过对网络进行结构或非结构化的剪枝操作，将模型中冗余的参数进行裁剪，从而降低网络复杂度，并可在一定程度上防止过拟合。20 世纪末，CUN 等［3］和HASSIBI等［4］先后提出最优脑损伤（Optimal Brain Damage，OBD）和最优脑外科（Optimal Brain Surgeon，OBS）的参数剪枝方法，利用网络的二阶导数信息衡量参数的冗余性，从而对网络进行修剪。
上海航天 2021年1期2021-03-04
- 基于参数子空间和缩放因子的YOLO剪枝算法
括低秩近似算法、剪枝算法、量化算法、知识蒸馏算法和紧凑型网络设计算法等。低秩近似算法是将稠密的满秩矩阵表示为若干低秩矩阵的组合，低秩矩阵又分解为小规模矩阵的乘积，从而达到简化的目的。文献［11］提出一种线性组合卷积核基底算法，用f×1+1×f卷积核替代f×f卷积核进行低秩近似。剪枝算法是通过修剪神经网络中冗余滤波器进行网络优化，删除神经网络权重矩阵中不重要的部分权重，仅保留有用部分，再重新对网络进行微调。量化算法是用低精度参数权值代替神经网络中32 bit
计算机工程 2021年2期2021-02-05
- 基于深度神经网络二阶信息的结构化剪枝算法
络压缩方法有网络剪枝［2-4］、网络参数量化［5-6］与分解［7］、网络结构轻量化设计［8］和知识蒸馏［9］等，其中网络剪枝是对网络中的冗余元素进行裁剪，是最常用的网络压缩方法之一，其能同时对卷积层和全连接层进行裁剪，尤其是结构化剪枝方法可以不受硬件条件的限制而直接达到减少网络内存占用和网络加速的目的，并且网络剪枝还可以与其他网络压缩方法进行兼容，如剪枝后的网络能通过知识蒸馏提高网络性能［10］，或者利用网络结构轻量化设计进一步提升网络压缩效果［5］。网络
计算机工程 2021年2期2021-02-05
- 基于频集的Apriori关联规则算法的应用研究
描、计数、比较、剪枝、连接等一系列操作，找出了数据间的強关联规则，并由此推出数据关系，为改进网上教学提供了很好的参考依据。关键词：Apriori;关联规则;数据挖掘;剪枝;强关联;C++中图分类号：TP311文献标识码：A文章编号：2095-1302（2020）10-00-050 引 言大数据时代，伴随着计算机软硬件及数据库技术的飞速发展，人类积累的数据量正呈指数级增长，并曾一度因数据分析技术缺乏和数据质量不符合要求而产生“数据丰富而信息贫乏”的现象。能够
物联网技术 2020年10期2020-11-06
- 基于剪枝AlexNet的普米语孤立词识别
et模型利用迭代剪枝算法以逐层剪枝的方式进行修剪,然后从生成的稀疏网络中探索一个具有比原网络更快学习速度的剪枝网络用于普米语语谱图识别.1 相关工作目前,在深度学习研究领域大致有2个研究派别：一派为了追求更高的模型精度,不断的扩充神经网络的网络层数[9]或神经元数量[10],通过将模型变得更为复杂,来使得神经网络具有更高的精度.另一派则旨在将模型高效、稳定的部署于设备.但是,随着神经网络结构的日趋复杂,网络的训练成本也变得越来越高,这些均使得复杂模型很难在
云南民族大学学报（自然科学版） 2020年4期2020-09-10
- 基于双目视觉的猕猴桃剪枝机器人研究
至目前，猕猴桃树剪枝方式大多仍为人工剪枝，而且需经常找专业人员进行操作，严重依赖人工操作，不仅成本高昂，而且浪费人力、效率低下。另一方面，随着我国城市化进程的加快，乡村劳动力向城镇转移的速度也在加快，越来越多的农村人民选择到城镇谋生。随着现代果园种植规模扩大，技术工短缺、成本增加等问题突出。果树枝干复杂性、剪枝技术性和不可逆性等问题导致剪枝机械发展缓慢，成为限制水果生产重要因素之一[2]。因此，在此大背景下，发展猕猴桃自动化剪枝技术，特别是研发猕猴桃智能剪
湖北农机化 2020年9期2020-08-25
- 基于激活-熵的分层迭代剪枝策略的CNN模型压缩
型压缩技术分为：剪枝、量化、网络分解、知识蒸馏和精细模型设计：剪枝包含基于正则化的剪枝［9］和基于重要性的剪枝，通过裁剪训练好的神经网络模型中冗余的权值或神经元，减少存储空间和加速计算；量化［10］使用位运算代替浮点运算，减少权重的比特数来压缩模型，加速模型计算；网络分解利用张量或矩阵分解技术分解原始卷积核，有效减少了运算量；知识蒸馏［11］借助大模型学习知识，指导小模型训练并代替原模型；精细模型设计重构了轻量级神经网络结构，如 MobileNets［12
计算机应用 2020年5期2020-06-07
- 一种改进的MEP决策树剪枝算法
马杰摘要 決策树剪枝是将已生成的决策树进行简化的过程，包括预剪枝和后剪枝。为了提高后剪枝算法MEP的剪枝精度，防止因MEP影响因子选取不当造成决策树修剪过度而丢失特征信息的问题，提出一种改进的MEP算法即IMEP方法。首先引入k-折交叉验证（k-Fold Cross-Validation）方法用于选取最优的影响因子m，然后将m带入到MEP算法，再对原始决策树进行剪枝，可以得到最精确的决策树，并保持决策树的影响特征。其次，通过k次交叉验证，可以避免产生过拟合
河北工业大学学报 2019年6期2019-09-10
- 单图中的近似频繁子图挖掘算法
局部反单调性进行剪枝，提高了算法的效率.实验表明，该算法能够挖掘出传统算法无法发现的近似频繁子图，且相比对比算法具有更好的时间性能.关键词：近似; 图;频繁子图挖掘;剪枝中图分类号：TP391.4文献标志码：ADOI： 10.3969/j.issn.1000-5641. 2019.06.0080 引言图是用来表示数据的一种特殊数据结构，它不仅可以用来表示实体本身的性质，同时还可以用来表示实体之间的关系.图的这种特点使得图在多种领域具有广泛应用，如生物信息学
华东师范大学学报（自然科学版） 2019年6期2019-09-10
- 基于滤波器注意力机制与特征缩放系数的动态网络剪枝
到了有效的减少.剪枝是一种流行的模型压缩方法,能够有效地降低网络运算量以及存储量.早期阶段,Han等人[5]提出了迭代剪枝,其思想是不断剪枝训练收敛后的神经网络,得到一个精简的网络模型.在此基础上,Han等人[6]进一步提出对剪枝后的网络模型参数进行量化和哈夫曼编码(Huffman Coding),有效地减小了模型大小.然而,裁剪神经元连接是一种非结构化剪枝方法,难以应用于现有的硬件设备,无法得到实际的加速.针对这些问题,结构化剪枝解决了非结构化剪枝存在的
小型微型计算机系统 2019年9期2019-09-09
- 基于重构的改进自然排序树算法
持度降序方式结合剪枝操作实现树结构的重构，得到高压缩性的树结构;最后，对重构的树结构进行频繁项集挖掘。实验结果表明，基于重构的改进CAN-tree算法所构建的树结构节点个数减少至原来的20%以下，执行效率提高了4至6倍，在频繁项集挖掘中有效地压缩了树结构，缩短了算法的执行时间。关键词：频繁项集;频繁项集头表;重构;剪枝;最小支持度中图分类号： TP301.6文献标志码：AAbstract： In order to solve the problems su
计算机应用 2019年2期2019-08-01
- 花匠(外一首)
民中午 那个人在剪枝下午 那个人在剪枝清晨 那个人还在剪枝岁月把他剪成了一个花匠他想把 花和日子都剪出他心中的模样一把剪刀剪风 剪雨 剪霜雪甚至 他把自己也剪成最靈动的一朵一个花匠 陷在花丛中不愿自拔中年至此 天快黑了我下马歇脚 不再星夜兼程至此 我看见所有的过往 皆落地生根比风轻 比山重至此 我从万千风景中来不带一朵柳绿桃红我用尽了一江水的波浪不再水性杨花至此 我将沉浸在山水田园诗中 诚邀徜徉于此的隐士、名流我们沏茶 相谈甚欢至此 我已拥有三件至宝丑妻、
诗选刊 2019年3期2019-03-18
- 一种用于卷积神经网络压缩的混合剪枝方法
N models剪枝是用于降低网络复杂度、加速网络模型的有效方法，可以在几乎不损失模型精度的前提下移除网络中的冗余参数，达到模型压缩的目的.20世纪90年代，LeCun等人[7]便提出了Optimal Brain Damage方法对模型进行剪枝，有效降低了网络复杂性并缓解了过拟合问题.神经网络中包含很多参数，但有些参数对最终输出的贡献很小，可以认为这些参数是冗余的.因此，需要找到有效的评估方法，对不重要的参数进行剪枝以减少模型参数冗余.Han等人[8]提出
小型微型计算机系统 2018年12期2019-01-24
- 机器博弈主要技术分析
法;蒙特卡罗树;剪枝中图分类号：TP391 文献标识码：A文章编号：1009-3044（2019）33-0172-02机器博弈是人工智能领域最富挑战性的项目之一，而六子棋作为一种典型的博弈类竞技游戏，相比五子棋黑棋先手必胜的单调不公平性，其公平性到目前为止还不能被证伪，其状态空间大小（约为10172）为五子棋（约为10105）的1072倍，搜索结点数大大增加，极具挑战性。因此，以六子棋作为研究机器博弈的切人点既能促进六子棋的发展，同时也可推动机器博弈乃至人
电脑知识与技术 2019年33期2019-01-08
- 洞庭湖区大棚辣椒越冬与再生栽培技术
辣椒；越冬栽培；剪枝；再生栽培文章编号： 1005-2690（2018）06-0053-02 中图分类号： S641.3 文献标志码： B洞庭湖区是辣椒消费主要区域，以常德市为例，2017年该市设施大棚面积达2 000 hm2，其中大棚辣椒越冬栽培面积达1 333 hm2，辣椒均产37.5 t/hm2，高产45 t/hm2，青椒售价4.5～6元/kg、红椒5.2～8元/kg，效益达到22.5万～30万元/hm2。笔者连续3年开展了辣椒再生栽培推广，对越冬辣
种子科技 2018年6期2018-09-10
- 融入差异性的帕累托集成剪枝方法
器效果更优。集成剪枝又称选择性集成、集成简化，它是在训练出所有基学习器之后，基于某种准则，选择一部分基学习器(所有基学习器的一个最优子集)进行集成，最终得到一个强分类器。集成剪枝的过程主要包括3步：产生不同的分类器；根据验证集选择最优的分类器子集；集成分类器子集。集成剪枝方法的异同主要取决于剪枝策略。剪枝策略可以根据分类器的不同划分为基于分类问题的剪枝策略和基于回归问题的剪枝策略。由于在回归问题中，集成剪枝问题研究的较少且效果不明显，所以本节主要讨论基于分
数据采集与处理 2018年3期2018-06-29
- 面向不确定数据的概率障碍k聚集最近邻查询*
询问题，通过构造剪枝区域去剪枝对障碍距离计算没有影响的障碍，从而减少计算量，提高查询效率。文献[5]和文献[6]利用障碍Voronoi图的特性提出剪枝策略，减少了需要处理的数据点个数。文献[8]研究了聚集最近邻查询，提出了3种利用R树处理聚集最近邻查询的方法：MQM（multiple query method）、SPM（single point method）和 MBM（minimum bounding method）。这3种方法中，MBM是最优算法。文献
计算机与生活 2018年2期2018-02-05
- MAPKs and acetyl-CoA are associated with Curvularia lunata pathogenicity and toxin production in maize
pha-beta剪枝。Minimax算法是一种悲观算法，即每步都假设对方选择最优的情况下，己方进行选择；而Alpha-beta剪枝则可以简化计算量，大体思路为我们不需要构建完整的树，其中当前格局无法找到最好情况下，我们应该返回父节点，而舍弃当前节点。两者的结合可以完成2048游戏的多步分析，使胜率达到较高水平。Gao J X, Liu T, Chen J. 2014. Insertional mutagenesis and cloning of the g
- 基于多叉树Apriori的网络管理数据挖掘
Apriori；剪枝中图分类号：TP393 文献标识码：A 文章编号：1009-3044（2017）29-0235-02在网络管理系统中的各类数据通过SNMP、探针、Agent等收集并汇集到数据库中，想要快速地从系统数据库挖掘出这些有用的信息，就需要先进的挖掘算法来实现。在数据挖掘技术中，关联规则挖掘是一个经典的挖掘方法[1]，本文针对上述问题对关联规则中的Apriori算法进行优化来提升关联规则的质量，更有组织的处理挖掘到的关联规则，提高系统的挖掘效率，
电脑知识与技术 2017年29期2017-11-14
- 剪枝高度对茄子长季节栽培的影响
312000)剪枝高度对茄子长季节栽培的影响陈巧燕1，吴爱芳2(1.义乌市农技推广服务中心，浙江 义乌 322000； 2.绍兴市蔬菜技术推广站，浙江 绍兴 312000)对浙茄3号新枝抽生、开花期、始收期、产量等性状进行调查研究。结果表明，随着剪枝高度增加，再生茄子抽枝早，开花期提前，前期产量增加，总产量差异不明显，由此提出越冬早春大棚茄子剪枝再生方式的建议。茄子； 长季节栽培； 不同剪枝高度； 物候期； 产量近年来，浙江省茄子设施越冬、早春栽培、秋延
浙江农业科学 2017年10期2017-11-06
- “剪枝”的学问
册有一篇课文叫《剪枝的学问》，浅显的课文包含着耐人寻味的道理。学生习作评价，其实也蕴含了类似的学问——教学时要激发和倡导什么，要摈弃和剪除什么，需要教师好好琢磨，认真把握好评价的方向和尺度。本文拟从当下的作文评价现状出发，结合两篇五年级学生的习作进行思考分析。一、确定主體枝干——习作评价标准的制定每位语文教师都会批改作文，但是对同一篇学生作文的评价，不同的教师往往会有较大的差异。除了个人主观偏好，更多是源于作文评价标准的不一致。根据《义务教育语文课程标准（
教学月刊小学版·语文 2017年9期2017-10-26
- 搜索算法在大学生程序设计竞赛中的应用
；广度优先搜索；剪枝；启发式搜索；程序设计随着社会的发展，计算机技术水平也变得越来越高，现阶段，很多计算机都已经具备高性能的操作方法，而搜索算法在计算机技术中起着至关重要的作用，它可以利用计算机的高性能在一定的时间内有效的求出问题解决的方法，也正是因为这一点，很多学者都将目光放到了搜索算法当中，并且这种算法也得到了大多数人的关注。现在，越来越多的大学生都开始关注起计算机程序设计竞赛，参加到这类竞赛，可以让大学生提高利用编程解决实际问题的能力，同时也能将一些
科技尚品 2017年6期2017-07-06
- 决策树剪枝研究
中，存在由于使用剪枝算法简化决策树而导致系统性能下降的情况。针对滥用剪枝问题，通过对决策树技术的研究，阐述剪枝与过拟合现象的关系，并从奥卡姆剃刀原理、没有免费午餐原理、人类本能、孤立点分析等方面对剪枝的合理性和必要性展开讨论，提出了慎用剪枝的主张以及免剪枝措施。关键词： 决策树; 机器学习; 过拟合; 剪枝; 免剪枝措施中图分类号：TP391 文献标志码：A 文章编号：1006-8228（2016）02-01-03Study on
计算机时代 2016年2期2016-02-19
- 剪枝象有效学名的厘清及常见种的鉴别
650091)剪枝象属Cyllorhynchites 的种类常被俗称为剪枝象，因该属的所有种类都具有相似的剪枝行为:产卵前，雌虫搜索合适果枝，常先将果枝(距果实约1-5 cm 的位置)部分剪断，然后在板栗或橡子上寻找合适部位用喙向内钻咬一孔穴，然后倒转身体产下1 卵(稀有2 或3 卵)，产卵后将卵用喙推入产卵孔，并用果屑堵塞孔穴，最后雌虫将果枝完全咬断(刘振陆和呼升久，1964;作者的行为观察)。栗实剪枝象Cyllorhynchites cumulatu
环境昆虫学报 2015年4期2015-12-09
- 棚室茄子老株剪枝再生栽培技术
条件下，老株实行剪枝再生栽培，可以充分利用地力和光能，解决田间通风透光问题，植株发枝快，长势旺，实现一种多收，增加单位面积产量，提高经济效益的目的。1 品种选择宜选生长势旺盛，分枝性强，抗病，增产潜力大，商品性好，品质优的中晚熟品种。2 田间管理茄子剪枝再生栽培技术，在第一季栽培中，与常规棚室茄子保护地栽培相同。再生栽培是头季生长的继续，田间管理不可放松，尤其是剪枝更要加强，做到合理施肥，及时防治病虫害，保持株体健壮。在剪枝前一般叶面喷施0.2%磷酸二氢钾
吉林蔬菜 2015年6期2015-05-30
- 辣椒增产要合理修剪
其技术要求如下：剪枝时间 剪枝以在夏季高温季节为宜，一般在7月下旬至8月上中旬进行。此时第一茬果实已摘完，植株在昼夜温差不大的情况下处于歇枝阶段，所以剪枝的增产效果最好。剪枝部位 合理的剪枝部位在4个大枝顶端，及时剪掉8个侧枝。剪枝方法 用比较锋利的修枝剪刀剪枝，剪口要光滑，以防剪口招致虫害或诱发病害，不可用手直接折枝，以免造成植株损伤。剪枝时，顺手剪去病虫危害严重枝、前期结果过多的下垂枝、管理不当的折断枝等。剪下的枝条应集中带出园外处理，特别是病虫枝不可
农村农业农民·B版 2014年8期2014-09-16