基于SAE-SA-1D-CNN-BGRU的涡扇发动机剩余寿命预测

聂 磊 ，蔡文涛 ，张吕凡 ，徐诗奕 ，吴柔慧 ，任一竹

（1.湖北工业大学机械工程学院，2.湖北省现代制造质量工程重点实验室：武汉 430068）

0 引言

准确预测涡扇发动机的剩余使用寿命是保证其正常工作、降低维护成本的重要手段[1]。目前，寿命预测的方法主要有3类[2-4]：基于物理失效模型的预测方法、基于经验的预测方法和基于数据驱动的预测方法。物理模型方法需要进行大量试验，且试验周期长，成本高，还需综合考虑设备所经历的物理、化学、气动热力过程，导致物理模型难以精确建立，给该方法的使用带来了限制；经验预测法将设备故障和失效数据拟合为统计分布，该预测方法模型复杂度低且只能给出同类设备同工况的预测评估；数据驱动法通过捕捉设备的监测数据与剩余使用寿命（Remaining useful life ，RUL）间的关系来进行寿命预测，该方法通常采用数理统计和机器学习的手段，使用简便并且模型通用性好，因此受到了广泛的研究。

针对基于数据驱动的预测方法，学者们开展了广泛研究。任子强等[5]提出了一种建立复合健康因子（Composite Health Indicator，CHI）的方法并采用线性维纳过程构建出CHI 数学模型，使用Bayesian 方法更新模型参数，并模拟出发动机退化轨迹；赵申坤等[6]筛选出涡扇发动机中具有退化趋势的特征，采用主成分分析法对筛选的特征做数据融合，提取出能表征发动机退化趋势的1维健康因子（Health indicator，HI），构建出贝叶斯状态模型用于预测发动机的RUL；Chui等[7]提出一种非主导排序遗传算法优化递归神经网络和长短期记忆网络权重的预测算法，并通过涡扇发动机RUL 预测算例来说明方法的有效性；Kang等[8]使用网格搜索优化多层感知机网络参数预测涡扇发动机RUL，表明了该模型的有效性；宋亚等[9]提出了一种自编码神经网络和双向长短期记忆网络的混合模型，并基于通用数据集展开测试，表明该混合模型精度优于现有深度学习模型的；张永峰等[10]利用1 维卷积神经网络提取涡扇发动机的特征，将提取到的高维特征输入到双向长短期记忆网络进行回归预测，表明该方法优于其他的机器学习或者深度学习模型。

上述文献所提出的RUL预测可分为2类：将原始高维特征数据融合为1 维健康因子，建立HI 的数学模型用以预测RUL；将原始数据输入至神经网络中，依靠其强大的非线性映射能力建立起原始数据与RUL 间的关系。考虑到在航空发动机退化过程中退化率的非线性成分占比大、监测变量维数多和监测数据存在噪声等特点，本文综合二者方法所提供的良好思路和特点，将原始高维数据融合成1 维HI，利用SA-1D-CNN-BGRU 网络建立了HI 和RUL 的关系，并在C-MAPSS的FD001数据集上进行了验证。

1 基于SA-1D-CNN-BGRU 的涡扇发动机退化建模

1.1 堆叠自编码网络

自编码（Autoencoder，AE）网络是一种无监督学习的神经网络，可将输入数据转换为低维度表示[11]。典型的自编码网络结构如图1 所示，包含输入层、隐藏层和输出层，尽可能地使输入数据和输出数据一致，在中间的隐藏层中实现输入特征的压缩。

图1 自编码网络结构

网络中的输入层为x={x1，x2，…，xn}，中间隐藏层为h={h1，h2，…，hm}，其中m＜n，输出层为y={y1，y2，…，yn}。在自编码网络的编码与解码过程中，数据经过如下变换

式中：f、g为激活函数，本文选取的为RELU和tanh；Wy为输入层和隐藏层中神经元的权重；by为输入层和隐藏层中神经元的偏置；Wz为输出层和隐藏层神经元的权重；bz为输出层和隐藏层神经元的偏置。

堆叠自编码（Stacked autoencoder，SAE）由自编码网络堆叠连接形成，每层均做编码操作，将前一层的输出作为下一层的输入，使其具有更好的低维特征提取能力。

1.2 1维卷积神经网络

卷积神经网络最早被应用于机器视觉领域，通过卷积运算提取出图像中的空间特征，能够高效地利用数据[12-14]。1 维卷积神经网络（1-Dimensional Convolutional neural network，1D-CNN）是2D-CNN 的变体，二者处理数据的方法相同，通常应用于自然语言处理和时序数据。考虑到涡扇发动机退化数据的时序特点，本文利用1D-CNN 提取时序数据中的空间特征，其原理如图2所示。

图2 1D-CNN原理

1.3 双向门控循环单元

循环神经网络在处理时间序列时，若输入的时序过长，则循环神经网络（Recurrent neural network，RNN）不能将之前的信息传递到当前状态，在反向传播时，容易导致梯度消息或者弥散的问题。长短期记忆网络（Long and short-term memory networks，LSTM）网络可解决短时记忆的问题，具有3 个门控单元来实现权重学习调节信息，从而避免梯度的弥散或爆炸。与LSTM 相比，门控循环单元（Gated recurrent unit，GRU）简化了门控单元数，在一定程度上减少了网络的参数，进而提升了模型的训练速度[15]。单个GRU 单元结构如图3所示。

图3 单个GRU单元结构

GRU计算公式

式中：tanh 为激活函数；xt为输入数据；ht-1为上一状态的输出；rt为t时刻重置门，zt为t时刻更新门，Wz、Wr和Wh͂分别为更新门、重置门和输出值的权重矩阵。

双向门控循环单元（Bidireactional gated recurrent unit，BGRU）包含了2 个方向相反的GRU，每个GRU对输出序列的正序和逆序进行处理，并将各自的输出合并形成最终输出。即在每个时刻，BGRU 网络可以学习到该时刻前后的序列信息，使得BGRU 网络可以综合考虑到过去和未来的信息，有助于提升模型的预测性能。其展开结构如图4所示。

图4 BGRU展开结构

1.4 注意力机制

注意力机制最早在机器视觉领域被提出，近年来被应用于许多领域并取得了巨大的成功[16]。在神经网络中，随着模型复杂化过程中，其参数增多且表达能力更强，同时模型信息变得冗杂，带来了信息过载的问题。为解决这个问题，在神经网络中引入注意力机制，可以有效地分配一系列权重，使得模型将资源集中在关键信息当中，从而提高算法效率。注意力机制计算过程如图5所示，可分为3个阶段。

图5 注意力机制计算过程

在第1阶段，计算每个Q和K的相似性，得到每个K对应的权重系数。在第2阶段，为防止结果过大，使用softmax 函数对权值归一化处理，将其转化为概率形式。在第3 阶段，对不同的权重进行加权求和，得到最后的注意表达式

式中：Ki为输入向量信息；Q为用于查找关键信息的查询向量；Vi为权重值；ai为每个向量的权重系数。

当K=Q=V时，称为自注意机制（Self Attention，SA）。

1.5 SAE-SA-1D-CNN-BGRU 寿命预测模型

对输入数据做卡尔曼滤波处理，滤除其噪声。随后将滤波后的数据作为SAE 网络的输入，通过多个AE层后得到包含输入信息主要特征的数据。将降维后的特征数据作为SA-1D-CNN-BGRU 网络的输入，这当中2 个卷积层可以充分提取输入数据的空间信息，BGRU 层可提取每一当前时刻的过去和未来的时序信息，通过自注意机制确定关键信息的权重，随后在池化层中过滤信息减小模型的参数计算，接着在全连接层中将特征组合起来，便于识别不同的特征，最后得到输出。组合模型结构如图6所示。

图6 SAE-SA-1D-CNN-BGRU 模型结构

1.6 预测模型评价指标

为定量分析组合模型的性能，均方根误差（Root mean square error，RMSE）,式中记为RRMSE，和评分函数（Score），式中记为Rscore，是来评估RUL 预测结果准确性的常用指标。均方根误差为常用的模型评估指标，评分函数为非对称函数，是当前对RUL 预测比较有权威的评估指标，该指标对于预测结果大于真实值的滞后性预测会给出较高的评分，即分值越低，表明该方法越好，其表达式分别为

式中：ym为输出样本数；yi为样本真实值；͂ 为样本预测值。

2 实例分析

2.1 数据集描述

本文使用来源于美国国家航空航天局（National Aeronautics and Space Administration，NASA）的公开数据集来评估方法的有效性。该数据集被广泛用于PHM 研究领域，包含4组涡扇发动机在不同运行条件和不同故障模式的数据，每组数据中包括训练集、测试集和真实RUL 3部分，原始数据中含有大量的随机噪声。本研究选取的数据为FD001，该组数据具体的结构和传感器信息描述见文献[17-19]，在此不再赘述。

2.2 研究过程和结果分析

2.2.1 数据预处理

随着飞机的起降，飞机发动机的关键部件不断地磨损，性能不断地退化。尽管飞机发动机的物理失效机理十分复杂，准确反映其健康状态的参数难以获得，但一些基于在线监测的参数同样可以表征飞机发动机的退化规律。

剔除7 个在发动机退化中未曾改变和两个趋势性不明显的传感器数据后，本文选取的12 个状态参数包括LPC 出口总温度、HPC 出口总温度、低压汽轮机出口总温度、HPC出口总压、物理风扇转速、HPC出口静压、燃油流量与Ps30 之比、修正风扇转速、旁路比、排气焓、HPT 冷却液排放、LPT 冷却液放气。以上状态参数均具有单调性，可以共同作为飞机发动机剩余使用寿命预测的特征。在实际情况中，噪声可能来源于环境的改变，导致测量过程中气流、温度、湿度、压力等因素的影响，这些噪声源在发动机运行不同阶段都会存在，最后在传感器观测到的数据中产生了综合效应。因此采集的发动机数据中噪声的影响不可忽视。由于测量数据中含有噪声，对这些数据融合后得到的综合健康因子仍然含有噪声，使得综合健康因子序列的局部变化起伏很大，难以正常描述设备的性能退化，因此本文首先采用卡尔曼滤波对数据做平滑处理，部分结果如图7 滤波后传感器数据所示。进一步的，去除滤波后数据的量纲，防止量纲不统一对后续处理的影响。接着采用SAE 网络提取原始数据中的主要特征，并将其作为HI 来表征涡扇发动机的健康状态，具体结果如图8FD001 训练集HI所示。随后给训练集的RUL 确定标签，本文将RU 值设置为分段线性函数，如图9 RUL标签设置所示。首先涡扇发动机发运行前期处于平稳状态，此时的RUL 值可看作不发生变化，然后发动机开始线性衰退。对于衰退初期RUL 的取值，文本设置130 作为发动机退化初期的RUL 值。考虑到测试集时序长度最小为31，本文设定分割窗口长度为30，用以保证能对每台发动机的RUL做出预测。

图7 滤波后传感器数据

图8 FD001训练集HI

图9 RUL标签设置

本文选取滑窗的形式输入文中模型，考虑到测试集中序列长度最小为31，本文窗口的宽度设置为30，即使用前1～30 个时间步的传感器数据作为1 个序列，第2～31 个时间步的传感器数据作为1 个序列，依此类推。模型的输入为划分的滑窗序列，输出为每个序列的最后1个周期的RUL标签。

2.2.2 结果分析

LSTM、PCA-LSTM、PCA-1D-CNN-LSTM 和本文模型对涡扇发动机RUL预测结果如图10～13所示，虚线为真实寿命，实现为预测的寿命值。在LSTM 模型中，整体上预测结果大于真实结果，其RRMSE=31.37，Rscore=1316，最大预测值为175，远大于真实值中最大值143。在该模型中，由于输入数据为原始传感器数据，数据中存在的噪声扰动大，对预测精度有较大影响。此外原始传感器信息过多，存在冗余现象，且LSTM网络模型的学习能力不足，导致预测精度较差。PCA-LSTM 模型中，预测结果与真实值较为接近，前几组发动机预测误差较大，且多数真实值远大于预测值，其RRMSE=28.97，Rscore=850。在该模型中，不仅对数据做了滤波处理，还采用线性PCA 降维方法将高维的退化数据融合为1 维HI 序列，将该序列输入至LSTM 网络中学习其与RUL 间的关系，此时预测精度有了一定的提升，表明降维方法可初步提取传感器数据中的有效信息，该类型方法有待进一步改进。PCA-1D-CNN-LSTM 模型中，整体预测结果接近真实值，少数预测值偏离真实值，其RRMSE=20.16，Rscore=275。在该模型中，对预测网络结构做了改进，其中的1D-CNN 和LSTM 网络分别可提取HI 序列中的空间和时序信息，此时HI 序列的信息得到在1D-CNNLSTM 网络中得到了充分的学习，预测精度也得到了进一步的提升。在本文模型中，整体预测无较大偏差，在几组测试集发动机寿命即将结束的RUL 预测中，产生了RUL 小于0 的偏差，但是预测精度得到了极大提高，其RRMSE=16.22，Rscore=225。在本文提出的模型中，不仅采用了非线性的SAE 降维方法代替了PCA降维方法，充分的提取了高维传感器数据中的主要退化规律，还采用BGRU模型代替LSTM模型，简化了训练模型时的参数，同时注意力机制对1D-CNNBGRU 模型提取的特征分配了权重，便于混合网络模型中的回归层高效的学习HI 序列和RUL 间的关系，模型的精度得到了更好的提升。模型评估见表1。

表1 模型评估

图10 LSTM模型预测结果

图11 PCA-LSTM 模型预测结果

图12 PCA-1D-CNNLSTM模型预测结果

图13 SAE-SA-1D-CNNBGRU模型预测结果

综合分析以上结果，本文分别建立了LSTM、PCA-LSTM、PCA-1D-CNN-LSTM 和本文所提模型用以预测涡扇发动机的RUL，以上方法均实现较高精度的预测，其中PCA-LSTM 相较LSTM 模型的均方根误差提升了7.65%，评分函数提升了27.54%，PCA-1DCNN-LSTM 模型的均方根误差相较于前2 种方法分别提升了35.73%和30.41%，评分函数提升了79.79%和67.64%，本文所提模型的均方根误差相较于前3种模型分别提升了83.46%、73.53%和18.18%，结果证明了本文方法的优越性和有效性。

3 结束语

采用卡尔曼滤波、SAE 网络和SA-1D-CNNBGRU 混合网络的方法对涡扇发动机传感器数据进行预处理和RUL 的预测，可为设备的健康管理与智能运维提供支撑。考虑到本文预测时存在误差，未来可进一步研究HI 序列的建立方法，充分提取状态监测数据中的有效信息后利用本文预测模型进行RUL预测；可对每种传感器监测数据单独建立模型通过网络并联方式提高RUL预测精度。