0 引言
矿用变压器是煤矿供电系统的核心设备，准确诊断变压器内部潜伏性故障对于保障煤矿电网安全运行具有十分重要的意义。文献[1-2]提出了基于油中溶解气体分析(Dissolved Gas Analysis，DGA)的变压器故障诊断方法，该方法操作简单易行，得到了广泛应用，但存在编码不全、判断标准过于绝对、诊断准确率低等问题。随着人工智能方法的出现，文献[3]提出了基于反向传播(Back Propagation，BP)神经网络的变压器故障诊断方法，该方法适用于求解内部机制复杂的问题，但存在易出现震荡、收敛速度低等不足；文献[4]提出了基于支持向量机(Support Vector Machine，SVM)的变压器故障诊断方法，但SVM本质上属于二分类算法，面对多分类问题时分类效率低、不易构造学习器[5]。同时，上述方法均属于浅层机器学习方法，诊断准确率达到一定程度后很难再提高，且需依赖完备且准确的样本，才能获得较满意的诊断结果，无法有效利用变压器油色谱在线监测所获得的大量无标签样本。因此，很多学者将深度学习[6-7]应用于变压器故障诊断，提出了基于栈式自编码器[8]的变压器故障诊断方法，取得了良好的故障诊断效果。在此基础上，本文提出了一种基于栈式稀疏自编码器(Stacked Sparse Auto-encoder，SSAE)的矿用变压器故障诊断方法，并通过算例分析验证了该方法可进一步提高故障诊断准确率。
1 SSAE
标准自编码器(Auto-encoder，AE)是一个3层对称网络[9]，结构如图1所示。其中输入层和输出层具有相同的规模(m个神经元)；隐含层包含n个神经元，n≤m；+1为截距项的单位偏差。
图1 AE结构
Fig.1 AE structure
输入层到隐含层的变换过程为编码，隐含层到输出层的变换过程为解码[10]，编码和解码的过程可分别用式(1)、式(2)表示：
h=S(W1x+b1)
(1)
y=S(W2h+b2)
(2)
式中：h为n维中间向量，h=(h1,h2,…,hn)T；S(·)为Sigmoid函数；W1为编码权重矩阵,W1∈Rn×m；x为输入向量，x=(x1,x2,…,xm)T；b1为编码偏置向量,b1∈Rn；y为输出向量，y=(y1,y2,…,ym)T；W2为解码权重矩阵,W2∈Rm×n；b2为解码偏置向量,b2∈Rm；
AE训练过程就是不断调整参数W1，b1，W2，b2来尽可能拟合一个恒等函数，使输出向量y尽可能等于输入向量x，即损失函数达到最小。假设无标签训练样本集为{x(1),x(2),…,x(H)}，H为样本组数，则损失函数为
(3)
式中x(i)，y(i)分别为第i(i=1，2，…，H)组样本的m维输入向量和输出向量。
若损失函数足够小，则可认为保留了训练样本数据中大部分信息，但不足以使AE学习到有用特征。因此在AE隐含层加入稀疏项限制，构成稀疏自编码器(Sparse Auto-encoder，SAE)[11-12]，使输出层的大部分神经元被抑制，只有少数被激活。SAE损失函数[13]为
Js(W,b)=
(4)
式中：β为稀疏性惩罚因子的权重；ρ为稀疏性参数，一般取接近0的常数；
为第j(j=1，2，…，n)个隐含层神经元的平均激活度。
SAE通过在每一次迭代过程中调整权重矩阵和偏置向量，不断减小其损失函数，从而获得更全面有用的特征。本文将多个SAE堆叠构成SSAE，即上一个SAE隐含层的输出作为下一个SAE的输入。SSAE通过无监督预训练和有监督微调2个阶段来获得最佳的权重矩阵和偏置向量。
(1) 无监督预训练阶段。采用逐层贪婪法，利用大量无标签训练样本求得每个SAE损失函数取得最小值时的权重矩阵和偏置向量，并通过不断迭代减小每个SAE损失函数值，当达到指定的迭代次数或损失函数值下降到指定值时，得到最终的权重矩阵和偏置向量。
(2) 有监督微调阶段。利用BP算法[14]再次迭代和更新无监督预训练阶段得到的各个SAE权重矩阵和偏置向量，直到达到最大迭代次数，从而获得每个SAE最佳的权重矩阵和偏置向量。
2 基于SSAE的变压器故障诊断
在SSAE中，最后一个SAE隐含层只能输出输入数据的重构，不具有分类识别功能。为实现变压器故障分类，在最后一个SAE隐含层后加入Softmax分类器[15]，将Softmax分类器作为输出层，建立基于SSAE和Softmax分类器的变压器故障诊断模型，如图2所示(N为SAE个数)。选取H2，CH4，C2H2，C2H4，C2H6这5种变压器油中溶解气体体积分数作为输入向量。由于这5种气体体积分数差别较大，为使模型有良好的收敛性，将输入向量进行归一化处理，使输入向量取值为0～1。模型的输出向量对应变压器运行状态，变压器运行状态分为正常、中低温过热、高温过热、低能放电、高能放电，其对应的编码见表1。
图2 基于SSAE和Softmax分类器的变压器故障诊断模型
Fig.2 Transformer fault diagnosis model based on SSAE and Softmax classifier
表1 变压器运行状态编码
Table 1 Transformer operation state code
基于SSAE和Softmax分类器的变压器故障诊断流程如图3所示。
3 算例分析
选用某矿业公司提供的已确定实际故障结果的1 000组变压器DGA数据作为样本，其中800组作为训练样本，200组作为测试样本，样本对应的变压器运行状态见表2。
表2 变压器故障诊断样本统计
Table 2 Sample statistics of transformer fault diagnosis
图3 基于SSAE和Softmax分类器的变压器故障诊断流程
Fig.3 Flow of transformer fault diagnosis based on SSAE and Softmax classifier
为验证SSAE在矿用变压器故障诊断中的有效性，采用相同测试样本，分别将SSAE和栈式自编码器应用于变压器故障诊断，结果如图4、图5所示(纵坐标1表示变压器正常，2表示变压器中低温过热，3表示变压器高温过热，4表示变压器低能放电，5表示变压器高能放电)。
图4 基于栈式自编码器的变压器故障诊断结果
Fig.4 Transformer fault diagnosis results based on stacked auto-encoder
对比图4、图5可看出，基于栈式自编码器进行测试的样本中有16组样本出现诊断错误，而基于SSAE进行测试的样本中有10组样本出现诊断错误，两者测试的诊断准确率分别为92%和95%，加入稀疏项限制的SSAE比栈式自编码器在矿用变压器故障诊断方面具有更高的准确率。
图5 基于SSAE的变压器故障诊断结果
Fig.5 Transformer fault diagnosis results based on SSAE
4 结语
通过在AE隐含层加入稀疏项限制得到SAE，再由多个SAE堆叠构成SSAE，并在SSAE基础上以Softmax分类器作为输出层，建立矿用变压器故障诊断模型；利用大量无标签样本对模型中每个SAE进行逐层无监督预训练，再使用BP算法对SSAE参数进行调优。算例分析结果表明，与栈式自编码器相比，SSAE应用于矿用变压器故障诊断进一步提高了诊断准确率。
参考文献(References)：
[1] ROGERS R R.IEEE and IEC codes to interpret incipient faults in transformers using gas in oil analysis[J].IEEE Transactions on Electrical Insulation,1978,13(5):349-354.
[2] 李建坡.基于油中溶解气体分析的电力变压器故障诊断技术的研究[D].长春:吉林大学,2008.
[3] 杜文霞,吕锋,句希源.基于BP神经网络的电力变压器故障诊断[J].变压器,2007,44(3):45-47.
DU Wenxia,LYU Feng,JU Xiyuan.Fault diagnosis of power transformer based on BP neural network[J].Transformer,2007,44(3):45-47.
[4] MATHUR A,FOODY G M.Multiclass and binary SVM classification:implications for training and classification users[J].IEEE Geoscience and Remote Sensing Letters,2008,5(2):241-245.
[5] 石鑫,朱永利.深度学习神经网络在电力变压器故障诊断中的应用[J].电力建设,2015,36(12):116-122.
SHI Xin,ZHU Yongli.Application of deep learning neural network in fault diagnosis of power transformer[J].Electric Power Construction,2015,36(12):116-122.
[6] 刘林凡.深度学习在故障诊断中的研究综述[J].新型工业化,2017,7(4):45-48.
LIU Linfan.Review of deep learning in fault diagnosis[J].The Journal of New Industrialization,2017,7(4):45-48.
[7] 余凯,贾磊,陈雨强,等.深度学习的昨天、今天和明天[J].计算机研究与发展,2013,50(9):1799-1804.
YU Kai,JIA Lei,CHEN Yuqiang,et al.Deep learning:yesterday,today,and tomorrow[J].Journal of Computer Research and Development,2013,50(9):1799-1804.
[8] 石鑫,朱永利,宁晓光,等.基于深度自编码网络的电力变压器故障诊断[J].电力自动化设备,2016,36(5):122-126.
SHI Xin,ZHU Yongli,NING Xiaoguang,et al.Transformer fault diagnosis based on deep auto-encoder network[J].Electric Power Automation Equipment,2016,36(5):122-126.
[9] SHIN H C,ORTON M R,COLLINS D J,et al.Stacked autoencoders for unsupervised feature learning and multiple organ detection in a pilot study using 4D patient data[J].IEEE Transactions on Pattern Analysis and Machine Intelligence,2013,35(8):1930-1943.
[10] 孙文珺,邵思羽,严如强.基于稀疏自动编码深度神经网络的感应电动机故障诊断[J].机械工程学报,2016,52(9):65-71.
SUN Wenjun,SHAO Siyu,YAN Ruqiang.Induction motor fault diagnosis based on deep neural network of sparse auto-encoder[J].Journal of Mechanical Engineering,2016,52(9):65-71.
[11] 王勇,赵俭辉,章登义,等.基于稀疏自编码深度神经网络的林火图像分类[J].计算机工程与应用,2014,50(24):173-177.
WANG Yong,ZHAO Jianhui,ZHANG Dengyi,et al.Forest fire image classification based on deep neural network of sparse autoencoder[J].Computer Engineering and Applications,2014,50(24):173-177.
[12] OLSHAUSEN B A,FIELD D J.Emergence of simple-cell receptive field properties by learning a sparse code for natural images[J].Nature,1996,381(6583):607-609.
[13] 仲志丹,樊浩杰,李鹏辉.基于稀疏自编码神经网络的抽油机井故障诊断[J].西安科技大学学报，2018,38(4):669-675.
ZHONG Zhidan,FAN Haojie,LI Penghui.Fault diagnosis of pumping well based on sparse auto-encoder neural network.[J].Journal of Xi'an University of Science and Technology,2018,38(4):669-675.
[14] RUMELHART D E,HINTON G E,WILLIAMS R J.Learning representations by back-propagating errors[J].Nature,1986,323(6088):533-536.
[15] 袁莉芬,宁暑光,何怡刚,等.基于改进SAE-SOFTMAX的模拟电路故障诊断方法[J].电子测量与仪器学报,2018,32(7):36-44.
YUAN Lifen,NING Shuguang,HE Yigang,et al.Fault diagnosis method for analog circuit based on improved SAE-SOFTMAX[J].Journal of Electronic Measurement and Instrumentation,2018,32(7):36-44.