韩鹏, 郭天, 汪晋宽, 史泽伟
东北大学秦皇岛分校 计算机与通信工程学院, 河北 秦皇岛 066000
收稿日期：2020-06-23
基金项目：国家自然科学基金资助项目(61603083); 河北省自然科学基金资助项目(F2017501014); 中央高校基本科研业务费专项资金资助项目(N172304028)。
作者简介：韩鹏(1988-)，男，山东东营人，东北大学秦皇岛分校讲师，博士;
汪晋宽(1957-)，男，辽宁沈阳人，东北大学教授，博士生导师。

摘要：设计了两种预测模型: 利用天气变量作为输入的传统多变量预测模型; 利用历史功率数据作为输入的新型单变量预测模型.采用最小冗余最大相关(min-redundancy and max-relevance, mRMR) 方法分别对两种模型进行特征提取, 并选用在时间序列预测方面具有优势的回声状态网络(echo state network, ESN)对未来5 min的光伏功率进行仿真预测.仿真结果表明, 采用mRMR方法对历史光伏功率数据进行特征提取, 确定能够使预测模型达到最优效果的特征子集, 并将其作为单变量预测模型的输入, 可以得到更准确的预测效果.所构建的新型单变量预测模型能够为光伏电站提供新的光伏预测思路.
关键词：回声状态网络特征提取特征子集单变量输入光伏功率预测
PV Power Forecasting with Univariate Input Based on mRMR-ESN
HAN Peng, GUO Tian, WANG Jin-kuan, SHI Ze-wei
School of Computer and Communication Engineering, Northeastern University at Qinhuangdao, Qinhuangdao 066000, China
Corresponding author: HAN Peng, E-mail: hanpeng@neuq.edu.cn.

Abstract: Two kinds of prediction model are designed, ie, the traditional multivariable forecasting model using weather variables as input and the new univariate forecasting model using historical power data as input. The mRMR(minimum-redundancy and maximum-relevance)method is used to extract the features of the two models respectively, and ESN(echo state network), which has advantages in time series prediction, is used to simulate and predict the photovoltaic (PV) power in the next 5 minutes.The simulation results show that the mRMR method is used to extract the features of the historical PV power data, then, the feature subset that can make the prediction model reach the optimal effect is determined. The feature subset is used as the input of the univariate prediction model to obtain more accurate prediction effect. The new univariate prediction model can provide a new PV prediction idea for PV power station.
Key words: echo state networkfeature extractioncharacter subsetunivariate inputphotovoltaic power forecasting
太阳能作为一种新型的绿色可再生能源, 与其他新能源相比资源丰富, 是最理想的可再生能源; 特别是近几十年来, 随着科学技术的不断进步, 太阳能及其相关产业成为世界发展最快的行业之一.目前, 各国政府都将太阳能资源利用作为国家可持续发展战略的重要内容.据文献[1]显示, 到2010年, 全世界光伏产业累计达到15 GW, 从能源利用的国际发展趋势来看, 光伏发电最终将以替代能源的角色进入电力市场, 预计到2030年, 光伏发电在世界的发电总量将占到5%~20%.随着太阳能发电的开发和利用, 接入电网的光伏电力比重日益增高, 为了加强不同能源发电的合理配置, 对光伏功率的准确预测变得愈加重要, 目前国内外已有多种基于回声状态网络(echo state network, ESN)的光伏功率预测方法, 但大部分是以多变量为基础的预测方法, 采用该方法需要及时获取气象数据, 包括光照强度、温度等^[2].胡海峰等^[3]通过数据分析得到了光伏发电输出功率的主要影响因素, 并建立了基于泄露积分型回声状态网络(Leaky-ESN), 将辐照强度、温度和风速作为输入变量进行仿真.杨佳俊等^[4]通过分析ESN参数对光伏功率预测性能的影响, 得到了最优的预测模型, 并利用最小二乘在线学习算法, 对光伏功率的在线短期预测进行仿真.Yao等^[5-6]通过受限玻尔兹曼机的非监督学习算法, 提取输入信息的相关特征, 采用主成分分析提取主要特征, 建立了一种基于多储层回声状态网络的光伏发电系统功率预测模型.Xu等^[7-8]提出了一种辅助漏电积分器回声状态网络(SLI-ESN), 考虑到多变量时间序列之间的冗余和相关性, 引入最小冗余最大相关(min-redundancy and max-relevance, mRMR)特征选择方法, 采用多种评价指标对所提方法的总体性能进行评价, 并通过北京PM2.5时间序列预测仿真验证了模型的有效性.Lun等^[9-10]提出一种可变存储长度回声状态网络(VML-ESN), 可以根据输入信号的自相关特性自适应地调整状态更新模式, 利用扩展卡尔曼滤波(EKF)方法获得VML-ESN的全局最优参数.
本文在已有研究的基础上, 针对短期光伏发电预测问题展开研究.考虑到天气的不确定性及获取完整即时数据的难度较大, 本文采用最小冗余最大相关(min-redundancy and max-relevance, mRMR)特征提取算法分别对天气数据和历史光伏功率数据进行特征提取, 作为功率预测的输入数据; 建立了以天气变量作为输入的传统多变量预测模型和以历史光伏功率作为输入的新型单变量预测模型^[11].针对新型单变量预测模型, 确定了能使模型达到最优效果的历史光伏功率数据点.新型单变量预测模型的预测效果优于多变量预测模型, 因此在一定程度上可以替代传统天气变量模型, 仅利用历史功率数据就可以完成高精度预测.
1 相关技术1.1 回声状态网络模型回声状态网络(echo state network, ESN)由Jaeger等^[12]于2001年提出, 是一种新型递归神经网络, 其网络内部结构简单, 网络运行速度快, 被广泛应用于动态模式分类、机器人控制、事件检测等, 尤其在时间序列预测问题上具有较高的应用价值.
ESN的核心思想是借助储备池生成一个不断随机变化的动态空间, 利用其内部状态组合出所需要的对应输出.与其他复杂网络结构相比, 储备池是ESN特有的网络结构, 储备池内的神经元随机连接, 连接权重固定; 与传统网络采用权重更新的方式相比, 连接权重固定使ESN拥有较快的训练速度, 而且能够一定程度避免传统网络在权重更新过程中出现的局部极小情况.ESN结构图如图 1所示.
图 1(Fig. 1)

图 1 ESN结构图Fig.1 ESN structure

由图 1可知，ESN包括输入层、储备池和输出层，各层级通过输入权重W_in、储备池连接权重W_n、反馈权重W_bk和输出权重W_out进行连接.该网络中，输入权重、储备池连接权重和反馈权重在网络训练前随机给出，然后通过网络训练得到其输出权重的最优值，其状态方程更新公式如下：

(1)

(2)

(3)

式中：X(n+1)为第n+1个数据输入时的网络状态矩阵; μ(n+1)为第n+1个输入数据; y(n)为第n个输入数据对应的输出; θ为满足正态分布的白噪声; f为激活函数; I_s为输入尺度，用于调整输入序列，使其分布于激活函数不同的区间; B_s为反馈强度.由输入得到每一个输入数据引发的储备池状态矩阵X，再乘以输出权重即可得到对应的输出.
ESN的核心是状态方程更新公式中X(n+1)与X(n)的关系，X(n+1)状态方程中包含了X(n)，而X(n)的状态方程中又包含了X(n-1)，因此，最后一个时刻的储备池状态包含了前面所有的储备池状态; 而连接着不同时刻X的就是储备池连接权重W_n，这个矩阵的全部特征值只有小于1才能保证在多次乘法后，距离此时刻越远的数据点，其数值越小，带来的影响也就越小，从而达到回声效果.
1.2 最小冗余最大相关特征提取在特征选择中, 只选取与标签具有较高相关度的特征作为特征子集并不一定能够作为最优特征子集, 因为在被选择的特征之间有可能是高度相关的, 即选取的特征子集内存在一定的冗余.由Peng等^[13]提出的mRMR特征提取算法可以利用互信息值来评估特征与标签之间, 以及特征之间的关系, 据此选取与标签具有最大依赖性的特征子集.该方法的核心思想就是既要最大化特征与标签之间的相关性, 同时也要最小化特征与特征之间的相关性.
mRMR规定特征集S与标签c的相关性D由各个特征与标签之间所有互信息值的平均值定义：

(4)

规定特征集S内所有特征的冗余度R由所有特征之间的互信息值的平均值定义：

(5)

式中：f_i为特征集内第i个特征; I为互信息函数，可以度量两个变量之间的相关关系，即

(6)

式中：p(x, y)是两个变量的联合概率密度函数; p(x)，p(y)分别是两个变量的边缘概率密度函数.
mRMR选取特征子集S_mRMR的标准是使式(7)最大化：

(7)

如果使用增量搜索方法，则可以将选取特征的标准写成如下优化问题：

(8)

式中：m为规定选取的特征数目; S为全部特征值集合.
即在已经选取的特征集S_m-1的基础上，在剩余的特征空间S-S_m-1中选取能使式(7)取最大值的那个特征.实际上，mRMR方法就是根据式(7)逐一对特征进行排序，越靠前的特征，与标签之间的依赖性越强.首先选取特征集内与标签之间具有最大相关度的特征作为第一特征，放入特征集S_m-1中，随后在剩余特征中选取使式(7)取最大值的特征，作为第二个特征放入特征集S_m-1，依此类推，直至选取第m个特征^[14-15].
2 数据来源与处理本文仿真数据来源于澳大利亚中部的太阳能技术旗舰项目DKASC, Alice Springs, 选取其中一个月的数据, 以5 min为间隔, 包括光伏发电功率、温度、全球水平辐射、漫射水平辐射、风速、湿度等数据.
首先对数据进行有效值截取, 本文对数据进行时段分析, 选取所有白天有效功率值时间点及其对应时刻的天气因素, 作为初始数据集.由于夜晚光伏板停止工作或功率值极低, 因此予以剔除.
由于光伏数据具有一定的周期性，近似于正态分布，因此采用拉伊达准则(3σ准则)进行数据清洗：对数据集{x₁，x₂，…，x_n}计算算术平均值x和标准偏差σ，若某个测量值x_i的剩余误差v_i(1≤v_i≤n)满足下式：

(9)

则判定x_i是含有极大误差的坏值，予以剔除.
经过数据清洗后，得到共计5 922个有效数据点，选取其中5 116个数据点作为训练集，806个数据点作为测试集.
3 变量提取本文搭建了两组预测模型, 一组是输入变量为天气变量的多变量预测模型, 另一组为利用历史功率进行预测的单变量预测模型.
首先对多变量预测模型进行天气特征量提取，天气变量共5个，分别是温度W_TC、湿度W_RH、全球水平辐射W_GHR、漫射水平辐射W_DHR和风速W_WS.
经过mRMR方法进行特征提取后，得到特征排序为

(10)

对于单变量预测模型，本文假设某一个时刻的功率数据是由前T个时刻数据点综合影响的结果，因此将预测目标点前T个数据点作为输入变量.本文以5 min为间隔，选取预测目标时间点前2 h(24个数据点)作为原始特征集，对其采用mRMR算法进行特征排序：

(11)

式中P_t-i表示在t时刻以前第i个时间点(即在t时刻以前5×i min)的功率值.
4 仿真分析4.1 基于天气变量的多变量预测模型仿真分析根据mRMR方法排序得到的天气变量特征, 分别取不同数量的特征子集, 利用ESN对天气进行预测, 结果如表 1所示(RMSE为均方根误差). 由表 1可知, 随着特征子集内特征数量的增多, 仿真误差呈现先增大后降低的趋势, 当特征子集选取第3组时效果最差, 选取第5组时具有最优的效果, 其均方根误差为0.037 8, 对应的仿真效果图如图 2所示.
表 1(Table 1)

表 1 不同天气变量的仿真结果Table 1 Simulation results of different weather variables 序号 特征子集 RMSE 1 WGHR 0.040 0 2 WGHR, WDHR 0.042 9 3 WGHR, WDHR, WTC 0.045 0 4 WGHR, WDHR, WTC, WRH 0.042 7 5 WGHR, WDHR, WTC, WRH, WWS 0.037 8

表 1 不同天气变量的仿真结果 Table 1 Simulation results of different weather variables

图 2(Fig. 2)

图 2 第5组天气变量预测模型仿真结果Fig.2 Simulation results of weather variable prediction model for the fifth group (a)—功率曲线; (b)—预测误差曲线.

针对第1, 2, 3组仿真结果可知, 在增加特征子集的特征数量时, 新增特征与原有特征之间的冗余关系作用大于新增特征与光伏功率之间的相关关系作用, 导致模型效果逐渐变差.针对第3, 4, 5组仿真结果可知, 在增加特征子集的特征数量时, 新增特征与光伏功率之间的相关关系作用大于新增特征与原有特征之间的冗余关系作用, 使得模型效果逐渐变好.由图 2可知, 光伏功率曲线在功率波动处的预测趋势上基本正确, 但预测误差有待降低.
4.2 基于历史功率数据的单变量预测模型仿真分析单变量预测模型包括两组, 其中一组采用的是未经过mRMR方法进行特征排序的不同特征子集, 另一组为采用经过mRMR方法进行特征排序后的不同特征子集, 分别取不同大小的特征子集作为输入变量, 得到RMSE与输入特征子集中特征数量的关系, 如图 3所示.
图 3(Fig. 3)

图 3 两种模型的均方根误差对比Fig.3 RMSE comparison of the two models

图 3表明, 采用mRMR方法进行特征排序后的ESN(记为mRMR-ESN)在选取的特征数量较少时具有较好效果, 而未采用mRMR方法对特征进行排序的ESN(记为ESN)在选取的特征数量较大时具有较好效果.其中, mRMR-ESN在子集的特征数为5时具有最优性能, ESN在子集的特征数为8时具有最优性能.两个模型选取的具体特征如表 2所示.
表 2(Table 2)

表 2 两种模型的最优仿真结果Table 2 Optimal simulation results of the two models 模型 子集中的特征 RMSE ESN Pt-1, Pt-2, Pt-3, Pt-4, Pt-5, Pt-6, Pt-7, Pt-8 0.033 7 mRMR-ESN Pt-1, Pt-2, Pt-3, Pt-6, Pt-10 0.033 5

表 2 两种模型的最优仿真结果 Table 2 Optimal simulation results of the two models

由表 2结果可知，mRMR-ESN模型仿真效果优于经典ESN模型，但所选特征数量更少.与ESN相比，mRMR-ESN没有使用特征P_t-4, P_t-5, P_t-7, P_t-8，而选择使用特征P_t-1, P_t-2, P_t-3, P_t-6, P_t-10，即选取了预测时间点前5，10，15，30，50 min的光伏功率数据，说明在对预测目标时间点前2 h内所有时间点进行mRMR特征选取后，被选取的这5个时间点的光伏功率数据是预测目标时间点最具有代表性的几个时间点.mRMR-ESN模型仿真效果如图 4所示.对比图 2仿真曲线，图 4仿真曲线mRMR-ESN在数据波动处的预测效果较优，总体预测曲线效果较好.
图 4(Fig. 4)

图 4 mRMR-ESN的仿真结果Fig.4 Simulation results of mRMR-ESN (a)—功率曲线; (b)—预测误差曲线.

4.3 多变量与单变量模型对比仿真分析将多个模型与Leaky-ESN天气变量预测模型进行对比, 由表 3可知, 两种单变量预测模型的仿真效果优于两种天气变量预测模型, 其中, Leaky-ESN天气变量预测模型仿真效果优于传统ESN天气变量预测模型; 经过mRMR方法特征提取后的单变量预测模型的仿真效果优于经典ESN单变量预测模型, 并且使用的特征数量更少.以上仿真结果均为多次测量后取平均值.
表 3(Table 3)

表 3 不同模型的仿真结果Table 3 Simulation results of different models 预测模型 RMSE ESN天气变量预测模型 0.037 8 Leaky-ESN天气变量预测模型 0.036 5 ESN单变量预测模型 0.033 7 mRMR-ESN单变量预测模型 0.033 5

表 3 不同模型的仿真结果 Table 3 Simulation results of different models

5 结语针对天气的不确定性, 以及获取完整的即时数据难度较大的问题, 本文采用mRMR算法对多种天气变量和历史功率变量进行特征提取, 将提取后的不同特征子集分别作为多变量预测模型和单变量预测模型的输入, 进行模型仿真.结果表明: 采用mRMR方法进行特征提取后的单变量预测模型与其他预测模型相比, 预测结果更准确, 所用的特征数量更少, 在一定情况下可以替代利用天气变量作输入的传统多变量预测模型.本文的研究为光伏电站提供新的光伏功率预测思路, 对光伏发电并入电网、保证电网安全具有重要的实际意义.
参考文献

[1]	耿新华. 南开大学稳步推进非晶硅太阳电池产业化[J]. 天津科技, 2001(3): 29. (Geng Xin-hua. Nankai University has steadily promoted the industrialization of amorphous silicon solar cells[J]. Tianjin Science and Technology, 2001(3): 29.)
[2]	龚莺飞, 鲁宗相, 乔颖, 等. 光伏功率预测技术[J]. 电力系统自动化, 2016, 40(4): 140-151. (Gong Ying-fei, Lu Zong-xiang, Qiao Ying, et al. An overview of photovoltaic energy system output forecasting technology[J]. Automation of Electric Power Systems, 2016, 40(4): 140-151.)
[3]	胡海峰, 伦淑娴. 基于Leaky-ESN的光伏发电输出功率预测[J]. 电子设计工程, 2016, 24(17): 15-17. (Hu Hai-feng, Lun Shu-xian. The output power forecasting based on Leaky-ESN[J]. Electronic Design Engineering, 2016, 24(17): 15-17.)
[4]	杨佳俊, 闫凯, 曹冉, 等. 基于泄漏积分型回声状态网络的在线学习光伏功率短期预测[J]. 山东电力技术, 2018, 45(4): 24-30. (Yang Jia-jun, Yan Kai, Cao Ran, et al. Online learning PV power short term forecasting based on leaky-integrator ESN[J]. Shandong Electric Power, 2018, 45(4): 24-30.)
[5]	Yao X S, Wang Z S, Zhang H G. A novel photovoltaic power forecasting model based on echo state network[J]. Neurocomputing, 2019, 325: 182-189. DOI:10.1016/j.neucom.2018.10.022
[6]	Yao X S, Wang Z S, Zhang H G. Identification method for a class of periodic discrete-time dynamic nonlinear systems based on sinusoidal ESN[J]. Neurocomputing, 2018, 275: 1511-1521. DOI:10.1016/j.neucom.2017.09.092
[7]	Xu X H, Ren W J. Prediction of air pollution concentration based on mRMR and echo state network[J]. Applied Sciences, 2019, 9(9): 1811-1824. DOI:10.3390/app9091811
[8]	Xu X H, Ren W J. Application of a hybrid model based on echo state network and improved particle swarm optimization in PM 2.5 concentration forecasting: a case study of Beijing, China[J]. Sustainability, 2019, 11(11): 3096-3115. DOI:10.3390/su11113096
[9]	Lun S X, Yao X S, Hu H F. A new echo state network with variable memory length[J]. Information Sciences, 2016, 370/371: 103-119. DOI:10.1016/j.ins.2016.07.065
[10]	Lun S X, Wang S, Guo T T, et al. An I-V model based on time warp invariant echo state network for photovoltaic array with shaded solar cells[J]. Solar Energy, 2014, 105: 529-541. DOI:10.1016/j.solener.2014.04.023
[11]	Rana M, Koprinska I, Agelidis V G. Univariate and multivariate methods for very short-term solar photovoltaic power forecasting[J]. Energy Conversion and Management, 2016, 121: 380-390. DOI:10.1016/j.enconman.2016.05.025
[12]	Jaeger H, Haas H. Harnessing nonlinearity: predicting chaotic systems and saving energy in wireless communication[J]. Science, 2004, 304(5667): 78-80. DOI:10.1126/science.1091277
[13]	Peng H C, Long F H, Ding C. Feature selection based on mutual information: criteria of max-dependency, max-relevance, and min-redundancy[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2005, 27(8): 1226-1238. DOI:10.1109/TPAMI.2005.159
[14]	Fu L, Yang Y L, Yao X L, et al.A regional photovoltaic output prediction method based on hierarchical clustering and the mRMR criterion[J/OL].Energies, 2019, 12(20): 3817[2020-04-28].https://doi.org/10.3390/en12203817.
[15]	Du P D, Zhang G, Li P L, et al.The photovoltaic output prediction based on variational mode decomposition and maximum relevance minimum redundancy[J/OL].Applied Sciences, 2019, 9(17): 3593[2020-05-04].https://www.researchgate.net/publication/335579493_The_Photovoltaic_Output_Prediction_Based_on_Variational_Mode_Decomposition_and_Maximum_Relevance_Minimum_Redundancy.DOI:10.3390/app9173593.