金具作为输电线路上十分重要且分布广泛的金属附件，主要起到支持、固定、防护和接续线路各个部件及维持整个线路稳定的作用^[1]。由于金具长期处于复杂恶劣的野外环境中，极易发生多种故障，如变形、破损、锈蚀和裂纹等，对输电线路上的金具进行定期检修可以最大限度地减弱电路损坏事故的发生，保障整个电力系统的安全正常运行。传统的金具巡检主要通过人工检修，耗时费力的同时检修效率较低。目前，电力系统^[2-3]已经广泛采用安全系数较高的直升机和无人机进行输电线路上金具等重要部件的巡检工作，但由于拍摄角度的多变性和金具所处背景的复杂性，必须利用目前鲁棒性较强的图像处理算法，并结合金具先验知识处理其缺陷分类问题，通过对获得的金具图像的处理可以判断出金具是否正常，以及产生何种缺陷隐患，这能够很大程度地提高输电线路自动化巡检的效率。
目前，国内外众多****对电力系统中输电线路金具缺陷进行了成因分析。文献[4]分析了输电线路电力金具腐蚀和磨损的原因，并提出相应的建议和改进方法。文献[5]采用图像融合和处理等技术对金具图像进行缺陷状态评估，为电力金具缺陷分类提供了有力的理论支撑。文献[6]通过分析多种线夹缺陷原因，提出了针对其缺陷的修补方法和运维建议，以保证线路的安全运行。以金具缺陷的成因分析作为金具缺陷分类研究的理论依据，其研究可大致分成2类，即基于传统的分类算法研究^[7-10]和基于深度学习的分类算法研究^[11-12], 但2类算法不能很好地适应于缺陷样本数量不足和缺陷目标形态多样化的金具缺陷分类，具有一定的局限性。
实现金具缺陷准确分类是实现输电线路自动化巡检的基础，输电线路金具缺陷分类由于其样本数量和缺陷状态的特殊性，仅仅使用深度学习模型进行缺陷分类有很大的局限性。针对金具缺陷数据集的特殊性，本文设计了一种融合深度特征与标签因果关系学习的金具缺陷因果分类方法，采用VGG16模型^[13]进行金具缺陷深度特征提取，通过全局混杂平衡进行其特征与标签的因果关系学习，实现了输电线路巡检图像中金具缺陷图片的精准分类。
1 相关工作 目前，已有的输电线路金具缺陷分类应用研究取得一定进展，主要集中在防震锤、线夹和均压环等部件，其中大部分方法以传统分类方法为主。文献[7]提出一种利用图像匹配和形态学运算方法对间隔棒框架断裂故障进行了识别与分类。文献[8]通过提取防震锤和线夹等边缘图像中图形基元并施加结构约束，有效实现了障碍物的识别。文献[9]通过结合形态学处理和RGB彩色模型，实现了防震锤锈蚀缺陷识别。文献[10]提出了利用基于类Haar特征和级联Ada Boost分类器对防震锤的目标基元进行缺陷判别的方法，有效降低了防震锤缺陷误判率。该类分类方法可扩展性差，对背景复杂、目标形态多变的金具缺陷分类有很大的局限性。基于深度模型的金具缺陷分类方法较少，文献[11]提出了通过设置锈蚀特征色值分离出目标和背景并结合深度模型进行输电线路锈蚀识别的方法。文献[12]通过样本扩充和调整卷积神经网络(Convolutional Neural Networks, CNN)中卷积核大小，有效提高了防震锤、均压环缺陷识别准确率。该类方法主要适用于样本充足且目标形态单一的金具分类研究。针对缺陷样本过少且缺陷目标形态多样化的金具缺陷数据集，直接利用深度学习模型难以充分学习到金具缺陷特征导致其分类效果不佳。
在后深度学习时代，仅仅利用深度学习模型进行金具缺陷分类已不能满足需求，因为深度学习模型主要依赖特征分布的统计特性，进而学习输入与输出之间复杂的相关性表示^[14]，导致模型并未充分学习到金具缺陷特征。Judea和Ghosh^[15]也提出，深度学习主要对数据进行曲线拟合训练，研究数据的相关关系而非具有稳定性的因果关系。Bottou团队提出^[16]，机器学习非常适合学习数据集中隐藏的因果关系，并且基于因果关系学习建模能够带来更稳定、泛化性能更好的模型。借鉴Bottou团队的思想，通过对特征与标签进行因果关系学习建模，并结合机器学习中经典的逻辑回归分类模型，可以帮助模型充分学习到金具缺陷特征，从而提高其缺陷分类准确率。
2 金具缺陷因果分类方法 本文研究的主要任务是在输电线路航拍图像中对正常金具和该类金具缺陷2种状态进行分类，由于已有数据集中仅包含防震锤、均压环和屏蔽环3类金具的4类缺陷样本，分别选择这3类金具为研究对象。基于单类金具缺陷数据集，选取速度和精度均衡的VGG16模型提取该类金具不同状态的深度特征，并基于因果逻辑回归模型进行金具缺陷分类。本文方法的框架如图 1所示。首先，采用简单且性能较好的水平和旋转操作进行样本扩充；其次，将扩充后的样本输入VGG16模型进行微调训练，在FC7层提取金具样本的深度特征向量，并进行主成分分析法(Principal Component Analysis, PCA)降维；最后，基于全局混杂平衡原理进行特征与标签的因果关系学习，并结合因果逻辑回归模型完成对输电线路金具缺陷和正常样本更为准确的分类。

图 1 本文方法总体流程 Fig. 1 Overall flowchart of proposed method

图选项

2.1 金具缺陷样本扩充 输电线路金具缺陷数据集具有所处背景复杂、拍摄视角多、样本数量失衡和类内差异大等特点。图 2展示了本文研究的3类主要金具及其存在的主要缺陷状态。可以看出，屏蔽环目标形态单一，但受无人机拍摄时光照和天气的影响，屏蔽环锈蚀样本成像也有所不同，均压环正常和损坏样本形态多样化，防震锤目标形态差异较小。此外，通过对金具缺陷数据集的样本数量进行统计，发现3种金具正常和缺陷状态下均有不同程度的数量失衡。因此，输电线路金具缺陷数据集的一系列特点决定了实现金具正常和缺陷样本准确分类具有一定的难度。

图 2 三类主要金具及其缺陷样本示例 Fig. 2 Examples of three types of main fitting and their defect samples

图选项

使用适当的样本扩充方法可以获得丰富多样的训练样本，有效防止模型训练过拟合^[17]，一定程度上可以降低样本角度、形态、样本不平衡对金具缺陷分类的影响。本文结合输电线路金具缺陷数据集特点，使用水平翻转和15°、45°和75°三个角度对金具训练样本进行旋转等，以获得角度真实多样化和样本数量丰富化的训练集，并将扩充后的正常和缺陷样本作为训练样本，输入到微调后的VGG16模型进行训练并提取深度特征向量。
由于金具测试集中缺陷样本过少, 直接利用原始缺陷样本进行分类器测试，会严重影响最终分类器的精度，采用与训练样本相同的扩充方法对测试集中的缺陷样本进行扩充，并基于扩充后的测试样本进行深度特征提取和处理。
2.2 深度特征提取 输电线路金具缺陷分类相较于一般的分类任务难度更大，主要体现在2个方面：①同一类别的金具由于本身制造工艺、规格不同导致形态多样化，不同形态的同类金具的缺陷也具有多样性；②同一类别的金具正常和缺陷形态差异较小。因此，要想实现对金具缺陷样本的准确分类，必须对所提取的金具缺陷特征有很高的要求。文献[18]提出利用预训练模型进行特征提取，获得的特征通常具有较好的表征能力。VGG16模型作为性能稳定且泛化性很强的卷积神经网络，如今被大量地应用在图像的特征提取问题中。因此，本文选择VGG16模型作为特征提取器，并通过微调训练符合金具缺陷数据集特点的模型，进而提取出更具表征能力的深度特征。本文选择FC7层输出的高维度特征作为所提取的金具深度特征向量，VGG16模型结构如图 3所示。

图 3 VGG16模型结构 Fig. 3 Structure of VGG16 model

图选项

当深度模型提取的特征维度过高时，往往会造成维度灾难并影响后面的分类器性能^[19]。为了降低数据维度过高带来的复杂度，本文选择较为经典的PCA^[20]对所提取的4 096维特征进行降维处理。多次实验表明，当特征维度降为64维时，金具缺陷分类器具有较好的性能，并且线性变换后的特征能有效表达原来特征，最大化保持金具的内在特征信息。图 4为金具缺陷数据集深度特征提取处理图。

图 4 金具缺陷数据集深度特征提取处理图 Fig. 4 Extraction and processing of deep features of fitting defect dataset

图选项

2.3 结合因果关系学习的金具缺陷分类方法 传统的因果逻辑回归模型^[21]是机器学习中经典的分类模型，但并非严格意义上的因果模型，其回归系数仅仅代表特征和标签之间的高度相关性而非因果性。本文为了实现输入特征与输出标签之间的因果关系学习作为指导信息进行金具缺陷分类，受文献[22]中用于消除不可知数据选择偏差的因果学习方法的启发，首先，使用独热编码(One-hot Encoding)^[23]将金具缺陷特征矩阵转化成二值化形式，其特征值仅包含0和1两种形式，通过二值化特征识别处理特征和混杂特征，进而将训练样本分成处理组和对照组，并利用全局混杂平衡方法完成金具缺陷特征与标签之间的因果关系学习，从而构建因果正则化项；其次，根据输电线路金具缺陷数据集的样本不平衡情况，通过引入结合金具缺陷数据集特点的类别权重并结合原始样本权重，提高金具缺陷的类别权重值进而提高其分类精度；最后，将因果正则化项与因果逻辑回归模型相结合，通过联合优化权重系数W和回归分布系数β训练金具缺陷分类模型，损失函数为

(1)

式中：L_W为因果逻辑回归模型的加权损失，具体见式(3)；L_B为用于计算样本中n维特征的全局混杂平衡损失之和，具体见式(4)；λ₁为因果逻辑回归模型的因果正则化项系数；λ₂为权重集W的归一化系数，避免模型训练过程中权重为0；λ₃为权重W的正则化项参数，用于减小权重方差以保证训练的稳定性；λ₄为因果分布β的正则化项参数，用于避免模型训练过拟合。
由于因果逻辑回归模型通常仅仅考虑样本权重W_o，对于样本数量不平衡的金具缺陷数据集而言，通过引入与标签相关的类别权重W_c，提高金具缺陷类别的权重，相对降低金具正常类别的权重，可以在缺陷样本数量有限的情况下，提高分类模型对金具缺陷样本的准确率。本文根据训练集中正常和缺陷样本数量情况，通过式(2)计算出其类别权重，并与原始样本权重相乘作为新的权重，用于优化训练金具缺陷分类模型。

(2)

式中：n_samples为训练样本数量；n_classes为训练样本类别数量；n.count(y)为不同类别样本出现次数。
因果逻辑回归模型的加权损失函数如式(3)所示，改进后模型通过学习全局样本加权降低模型的复杂度，并且回归系数不再仅仅代表特征与标签的高度相关性，而是对标签具有预测能力和因果含义。

(3)

式中：m为训练集样本数量；x_i和Y_i分别为第i个样本对应的特征和标签；β为该样本对应的因果回归系数；整体为因果逻辑回归模型的加权损失函数。
因果逻辑回归损失函数在原有损失函数基础上增加了利用全局混杂平衡方法进行因果关系学习的正则化项，其主要思想为：将样本中的n维特征依次设置为处理特征进行混杂平衡^[24]处理, 完成n维特征与对应标签的因果关系学习，其平衡损失函数如式(4)所示。具体地，混杂平衡处理方法是：将样本中第j维特征设置为处理特征，其余为混杂特征，训练集中出现该处理特征的样本集为处理组，未出现处理特征的样本集为对照组，再通过优化处理组和对照组平均值的二阶矩调整训练权重完成该特征与标签的因果关系学习。

(4)

式中：n为训练集中单个样本的特征维度；训练集整体为m×n维的特征矩阵；W为训练集样本的权重集；X_-j为输入特征矩阵X中第j列特征设为0时的混杂特征矩阵；矩阵I为样本特征是否接受处理的指标矩阵；整体为n维特征进行混杂平衡处理的损失值。
基于因果逻辑回归模型的金具缺陷分类方法流程如下：
输入: 金具训练集特征矩阵X、对应标签Y及基础参数。
输出: 金具缺陷样本分类准确率和召回率等。
步骤1?? 输入金具训练集特征矩阵X，通过X计算预测指标矩阵I。
步骤2?? 初始化因果系数和样本权重W_o，计算类别权重W_c和新权重W，计算优化函数的初始值。
步骤3?? 迭代次数依次增加，使用迭代优化方法^[25]进行损失函数优化，直至达到最优状态，得到权重W和因果系数β。
步骤4?? 输入金具测试集特征矩阵，利用训练好的因果模型进行测试。
步骤5?? 输出金具测试集缺陷分类准确率和召回率等。
3 实验结果与分析 考虑到模型的分类效果和建库的可操作性，通过搜集基于人工经验标注的3 437张输电线路航拍图像，经过裁剪等操作获取因果分类模型所需要的单类金具缺陷数据集，构建的数据集主要包括4类，即防震锤变形数据集、防震锤相交数据集、屏蔽环锈蚀数据集和均压环损坏数据集。其中，每个小型缺陷数据集仅包含正常和缺陷样本。特别地，防震锤相交数据集包含其正常样本和相交样本，防震锤变形数据集包含其正常和变形样本。由于已有的航拍数据集金具缺陷样本数量较少且图片质量较差，为了提高模型的泛化能力，将单类金具中正常和缺陷样本均进行随机打乱处理，并按照8∶2的比例设置训练集和测试集，测试集中绝不包含训练样本。
此外，为了证明本文方法泛化能力强，选取经典的Cifar-10分类数据集中猫、狗2类图片构建子集，作为实验所需小型公共数据集，由于Cifar-10数据集图片大小为32×32，部分图片清晰度低且质量较差，为了与金具缺陷数据集样本数量大体保持一致，2类样本数量分别选取1 000张，同样按照8∶2的比例设置训练集和测试集。
本文实验的硬件环境为Linux Ubuntu16.04和具有8 GB内存的NVIDIA GeForce TITAN Xp，本文方法基于MATLAB平台实现，其他对比方法使用Tensorflow平台。经过模型微调，实验参数设置如下：批处理大小设置为24，学习率设置为10^-3，迭代次数设置为3 000，正则化参数λ₁=0.1，λ₂=λ₃=1，λ₄=0.001。为了验证本文方法的有效性，使用扩充后的数据集进行了金具缺陷分类对比实验。
3.1 不同分类器下金具缺陷分类实验结果及分析 为了验证本文方法的有效性，在相同的网络优化参数设置的基础上，选择的对比方案如下：①方案1。采用基于图像像素提取的因果逻辑回归模型进行金具缺陷分类实验。②方案2。采用基于深度卷积特征提取的VGG16+Softmax模型进行金具缺陷分类实验。③方案3。采用本文方法进行金具缺陷分类实验。
考虑到金具缺陷样本不平衡对分类器的影响，采用了常用的二分类模型评价指标，即准确率、召回率和F1分数。其中，准确率代表分类器预测正确的样本数量占总体样本数量的比例，召回率代表分类器预测的正类中实际正实例占所有正实例的比例，F1分数是统计学中用来衡量二分类模型精确度的指标，代表模型精确率和召回率的调和平均数。
表 1~表 4分别展示了防震锤变形、防震锤相交、屏蔽环锈蚀和均压环损坏4类金具缺陷分类的实验结果。结果表明，基于VGG16深度模型比传统的因果逻辑回归模型进行金具缺陷分类的准确率提高了5%~8%左右，说明逐层级深入提取图像语义特征比传统的像素提取方式更能学习到金具正常和缺陷图像的语义特征，从而提高了模型的分类准确率。
表 1 防震锤相交分类实验结果 Table 1 Classification experimental results of shockproof hammer intersection

方案	准确率	召回率	F1分数
方案1	0.803 7	0.763 2	0.805 6
方案2	0.887 8	0.807 1	0.884 6
方案3	0.929 9	0.894 7	0.891 4

表选项






表 2 防震锤变形分类实验结果 Table 2 Classification experimental results of shockproof hammer deformation

方案	准确率	召回率	F1分数
方案1	0.808 8	0.388 9	0.518 5
方案2	0.860 3	0.472 2	0.641 5
方案3	0.911 8	0.666 7	0.800 1

表选项






表 3 屏蔽环锈蚀分类实验结果 Table 3 Classification experimental results of shielding ring corrosion

方案	准确率	召回率	F1分数
方案1	0.839 5	0.861 1	0.826 7
方案2	0.882 7	0.847 2	0.865 2
方案3	0.956 7	0.902 7	0.948 9

表选项






表 4 均压环损坏分类实验结果 Table 4 Classification experimental results of grading ring damage

方案	准确率	召回率	F1分数
方案1	0.842 5	0.834 2	0.843 3
方案2	0.914 4	0.887 6	0.914 5
方案3	0.966 9	0.956 5	0.972 3

表选项






本文提出的结合金具正常、缺陷深度卷积特征和标签的因果关系学习的分类方法，相较于传统的因果逻辑回归模型的分类方法准确率提升了12%左右，较基于VGG16深度模型的分类方法提高了4%~7%左右。此外，本文方法分类的召回率均有不同程度的提升，这说明了依赖金具缺陷特征的因果性比依赖特征分布的统计特性更能得到稳定且泛化性能好的模型，并且可以以较高的精度进行金具缺陷样本的分类且其缺陷误判率较低，这对于输电线路智能化巡检有着十分重要的应用价值。
3.2 金具缺陷数据集样本扩充实验结果及分析 本文主要针对已有金具缺陷数据集进行金具缺陷分类研究，故实验中将金具缺陷样本设为正样本，正常样本设为负样本。通过分析金具缺陷数据集特点，发现原始数据集中金具缺陷和正常状态下样本比例失衡，且金具缺陷样本较少，其中，防震锤变形样本22张、防震锤相交95张、屏蔽环锈蚀61张和均压环损坏168张。本文分别对3类金具进行缺陷和正常样本比例的定量分析，其中，防震锤样本比例失衡较为严重，即防震锤相交、变形和正常样本比例分别为1∶11.2、1∶48.36，屏蔽环锈蚀和正常样本数量均较少且样本比例为1∶1.61，屏蔽环锈蚀和正常样本比例为1∶5.27。为了提高模型分类性能，对防震锤正常图片进行优化，对4种金具缺陷样本采用本文的样本扩充方法进行扩充。此外，由于屏蔽环正常样本较少，同样采取本文扩充方法对其进行处理，扩充前后的数据集样本比例如图 5所示。

图 5 扩充后金具正常及其缺陷样本数量分布 Fig. 5 Distribution of the number of fitting's normal and defect samples after expansion

图选项

表 5为金具缺陷数据集样本扩充前后分别使用本文方法进行金具缺陷分类的实验结果。结果表明，4类金具缺陷数据集采用扩充方法后的准确率均有不同程度的提升。其中，防震锤由于目标形态差异较小和缺陷样本数量过少，其缺陷分类准确率提升相对较小，但召回率提升较高。屏蔽环由于目标尺度较大、缺陷形态单一，相较于其他金具缺陷，扩充后屏蔽环锈蚀分类召回率提升较少。均压环缺陷样本存在类内差异较大、拍摄视角多等特点，且均压环由于单条主筋松动或者脱落导致其与中间绝缘子串存在微小角度变化而非90°，直接使用原始数据集致使均压环损坏样本难以识别，采用本文扩充方法可以有效提高均压环损坏分类的召回率。因此，使用样本扩充可以有助于基于本文方法构建的分类器实现对金具缺陷样本的精准分类。
表 5 样本扩充前后本文方法实验结果 Table 5 Experimental results by proposed method before and after sample expansion

金具缺陷类别	扩充前准确率	扩充前召回率	扩充后准确率	扩充后召回率
防震锤相交	0.906 7	0.555 6	0.929 9	0.894 7
防震锤变形	0.901 5	0.333 4	0.911 8	0.666 7
屏蔽环锈蚀	0.927 5	0.833 4	0.956 7	0.902 7
均压环损坏	0.933 0	0.647 1	0.966 9	0.956 5

表选项






3.3 不同分类器下公共数据集实验结果及分析 在公共数据集上对本文方法进行了评估，并从Cifar-10数据集中选取猫、狗2类图片作为实验所用数据集，其中，标签为猫的样本设为正样本，标签为狗的样本设为负样本，分类器以识别猫类样本为主。表 6为使用不同分类器对所构建数据集进行分类的实验结果，其中，方案1、方案2和方案3与3.1节方案一致。
表 6 不同分类器的实验结果 Table 6 Experimental results of different classifiers

方案	准确率	召回率	F1分数
方案1	0.552 5	0.515 0	0.571 9
方案2	0.702 5	0.725 0	0.700 5
方案3	0.762 5	0.711 1	0.780 4

表选项






表 6中的第2列为分类器的准确率，即分类器识别出猫狗正确样本占总样本数量的比例，第3列为分类器对正样本(猫类)的召回率，第4列为分类器的F1分数。实验结果表明，由于样本质量不佳且清晰度较低，导致分类器对猫、狗样本的分类准确率均不是很高，但相较于其他2种方法，使用本文方法进行猫、狗数据集分类的准确率和召回率均有所提升，这说明使用本文方法构建的分类模型具有较强的泛化能力，对其他数据集同样适用。
4 结论 1) 针对输电线路单类金具正常和缺陷样本比例失衡，采用水平翻转和角度旋转方法优化扩充缺陷样本，为后续金具缺陷分类工作奠定基础。实验结果表明，扩充后的金具缺陷分类准确率和召回率均有不同程度的提升。
2) 针对基于传统特征和深度特征的金具缺陷分类准确率较低等问题，采用VGG16进行特征提取并进行特征处理，通过因果逻辑回归模型识别因果特征有效提高了金具缺陷分类的准确率和召回率。
综上所述，本文方法展现出了在金具缺陷样本数量比例失衡严重、目标类内差异大和类间差异小情况下优良的分类性能。由于本文方法目前只能针对单类金具缺陷进行分类，具有一定的局限性，之后可以考虑进一步改进，同时实现多类金具缺陷分类，提升多类缺陷分类的准确率。

参考文献

[1]	赵强. 输电线路金具理论与应用[M]. 北京: 中国电力出版社, 2013: 2-12. ZHAO Q. Theory and application of transmission line fittings[M]. Beijing: China Electric Power Press, 2013: 2-12. (in Chinese)
[2]	DENG C, WANG S, HUANG Z, et al. Unmanned aerial vehicles for power line inspection: A cooperative way in platforms and communications[J]. Journal of Communications, 2014, 9(9): 687-692. DOI:10.12720/jcm.9.9.687-692
[3]	TONG W, YUAN J, LI B. Application of image processing in patrol inspection of overhead transmission line by helicopter[J]. Power System Technology, 2010, 34(12): 204-208.
[4]	金哲, 尹洪, 吴启进. 典型500 kV输电线路地线金具腐蚀及磨损事件机理分析[J]. 电工技术, 2017(8): 66-69. JIN Z, YIN H, WU Q J. Analysis on the corrosion and wear event mechanism of the ground wire of typical 500 kV transmission line[J]. Electric Engineering, 2017(8): 66-69. DOI:10.3969/j.issn.1002-1388.2017.08.026 (in Chinese)
[5]	陆旭, 罗汉武, 李文震, 等. 电力金具图像故障状态评估[J]. 红外技术, 2020, 42(7): 632-636. LU X, LUO H W, LI W Z, et al. Evaluation of image failure state of power fittings[J]. Infrared Technology, 2020, 42(7): 632-636. (in Chinese)
[6]	吴坤祥, 朱迪锋, 许杨勇, 等. ±800 kV特高压输电线路耐张线夹未压区鼓胀缺陷分析[J]. 浙江电力, 2017, 36(7): 11-13. WU K X, ZHU D F, XU Y Y, et al. Analysis of bulging defects in uncompressed zone of tension clamp in ±800 kV UHV transmission line[J]. Zhejiang Electric Power, 2017, 36(7): 11-13. (in Chinese)
[7]	金立军, 胡娟, 闫书佳. 基于图像的高压输电线间隔棒故障诊断方法[J]. 高电压技术, 2013, 39(5): 1040-1045. JIN L J, HU J, YAN S J. Image-based fault diagnosis method for spacers of high-voltage transmission lines[J]. High Voltage Engineering, 2013, 39(5): 1040-1045. DOI:10.3969/j.issn.1003-6520.2013.05.003 (in Chinese)
[8]	胡彩石, 吴功平, 曹珩, 等. 高压输电线路巡线机器人障碍物视觉检测识别研究[J]. 传感技术学报, 2008, 21(12): 2092-2096. HU C S, WU G P, CAO H, et al. Research on visual inspection and recognition of obstacles for high-voltage transmission line patrol robot[J]. Chinese Journal of Sensors and Actuators, 2008, 21(12): 2092-2096. DOI:10.3969/j.issn.1004-1699.2008.12.028 (in Chinese)
[9]	宋伟, 左丹, 邓邦飞, 等. 高压输电线防震锤锈蚀缺陷检测[J]. 仪器仪表学报, 2016, 37(S1): 113-117. SONG W, ZUO D, DENG B F, et al. Corrosion defect detection of earthquake hammer for high voltage transmission line[J]. Chinese Journal of Scientific Instrument, 2016, 37(S1): 113-117. (in Chinese)
[10]	付晶, 邵瑰玮, 吴亮, 等. 利用层次模型进行训练学习的线路设备缺陷检测方法[J]. 高电压技术, 2017, 43(1): 266-275. FU J, SHAO G W, WU L, et al. Line equipment defect detection method using hierarchical model for training and learning[J]. High Voltage Engineering, 2017, 43(1): 266-275. (in Chinese)
[11]	李辉, 钟平, 戴玉静, 等. 基于深度学习的输电线路锈蚀检测方法的研究[J]. 电子测量技术, 2018, 41(22): 54-59. LI H, ZHONG P, DAI Y J, et al. Research on transmission line corrosion detection method based on deep learning[J]. Electronic Measurement Technology, 2018, 41(22): 54-59. (in Chinese)
[12]	汤踊, 韩军, 魏文力, 等. 深度学习在输电线路中部件识别与缺陷检测的研究[J]. 电子测量技术, 2018, 41(6): 60-65. TANG Y, HAN J, WEI W L, et al. Research on deep learning in component identification and defect detection in transmission lines[J]. Electronic Measurement Technology, 2018, 41(6): 60-65. (in Chinese)
[13]	SIMONYAN K, ZISSERMAN A. Very deep convolutional networks for large-scale image recognition[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. Piscataway: IEEE Press, 2014: 1-14.
[14]	MARCUS G. Deep leaening: A critical appraisal[EB/OL]. (2018-01-02)[2020-08-01]. http://export.arxiv.org/abs/1801.00631.
[15]	GHOSH J, JUDEA P. Causality: Models, reasoning and inference[J]. International Statistical Review, 2011, 79(2): 289-290. DOI:10.1111/j.1751-5823.2011.00149_16.x
[16]	LOPEZPAZ D, NISHIHARA R, CHINTALA S, et al. Discovering causal signals in images[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. Piscataway: IEEE Press, 2017: 58-66.
[17]	ZHONG J, SUN Y, YU Y, et al. Attribute-guided network for cross-modal zero-shot hashing[J]. IEEE Transactions on Neural Networks and Learning Systems, 2018, 31(1): 321-330.
[18]	郭琳, 秦世引. 遥感图像飞机目标高效搜检深度学习优化算法[J]. 北京航空航天大学学报, 2019, 45(1): 159-173. GUO L, QIN S Y. Deep learning and optimization algorithm for high efficient searching and detection of aircraft targets in remote sensing images[J]. Journal of Beijing University of Aeronautics and Astronautics, 2019, 45(1): 159-173. (in Chinese)
[19]	杨博雄, 杨雨绮. 利用PCA进行深度学习图像特征提取后的降维研究[J]. 计算机系统应用, 2019, 28(1): 279-283. YANG B X, YANG Y Q. Research on dimensionality reduction after deep learning image feature extraction using PCA[J]. Computer Systems & Applications, 2019, 28(1): 279-283. (in Chinese)
[20]	JOSE C. A fast on-line algorithm for PCA and its convergence characteristics[J]. IEEE Transactions on Neural Network, 2000, 4(2): 299-305.
[21]	李航. 统计学习方法[M]. 北京: 清华大学出版社, 2012: 77-87. LI H. Statistical learning method[M]. Beijing: Tsinghua University Press, 2012: 77-87. (in Chinese)
[22]	SHEN Z, CUI P, KUANG K, et al. Causally regularized learning with agnostic data selection bias[C]//ACM Multimedia. New York: ACM Press, 2018: 411-419.
[23]	梁杰, 陈嘉豪, 张雪芹, 等. 基于独热编码和卷积神经网络的异常检测[J]. 清华大学学报(自然科学版), 2019, 59(7): 523-529. LIANG J, CHEN J H, ZHANG X Q, et al. One-hot encoding and convolutional neural network based anomaly detection[J]. Journal of Tsinghua University(Science and Technology), 2019, 59(7): 523-529. (in Chinese)
[24]	KUANG K, CUI P, LI B, et al. Estimating treatment effect in the wild via differentiated confounder balancing[C]//ACM SIGKDD Conference on Knowledge Discovery and Data Mining. New York: ACM Press, 2017: 265-274.
[25]	NEAL P, STEPHEN B. Proximal algorithms[J]. Foundations and Trends in Optimization, 2014, 1(3): 127-239.