《大数据管理概念技术与挑战 (4).pdf》由会员分享，可在线阅读，更多相关《大数据管理概念技术与挑战 (4).pdf（7页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第 44 卷 第 9 期 电 网 技 术 Vol.44 No.9 2020 年 9 月 Power System Technology Sep.2020 文章编号：1000-3673（2020）09-3409-07 中图分类号：TM 715 文献标志码：A 学科代码：47040 基于 CNN-QRLightGBM 的短期 负荷概率密度预测 Short-term Load Density Prediction Based on CNN-QRLightGBM ABSTRACT1:In order to cope with the active and unstable demand of elec
2、tric power in the era of smart grid，a new method of short-term public building load probability density prediction is proposed based on convolutional neural network and combined with quantile regression Light Gradient Boosting Machine(QRLightGBM).Firstly,the Copula model is used to analyze the corre
3、lation between variables and the feature extraction is performed by the convolutional neural network.Then the parameters of the regression prediction model are tuned by the Tree-structured Parzen Estimator(TPE).Finally,the tuned model is used to predict the different quantile points,and the predicti
4、on results are estimated by kernel density to obtain the probability density function.The simulation results on the Maine dataset in New England,USA show that the proposed method can better quantify the load probability density prediction.KEY WORDS:Copula function;convolutional neural network;quanti
5、le regression;lightGBM;kernel density estimation;TPE 摘要：为了应对智能电网时代用电需求的活跃性、不稳定性，提 出 了 一 种 基 于 卷 积 神 经 网 络(convolutional neural network，CNN)结合分位数回归轻量梯度提升机的短期负荷概率密度预测方法。首先通过建立 Copula 模型分析变量之间的相关性、采用 CNN 进行特征提取；其次通过树状结构Parzen 估计方法对回归预测模型进行超参数调优；然后用调优后的模型在不同分位点上进行预测，将预测结果进行核密度估计得到概率密度函数。最后在美国新英格兰地区缅因州数据
6、集上进行仿真验证，结果表明所提方法可更好地量化短期负荷概率密度预测。基金项目：国家自然科学基金项目(61401269，61572311)。Project Supported by National Natural Science Foundation of China(61401269,61572311).关键词：Copula 函数；卷积神经网络；分位数回归；LightGBM；核密度估计：TPE DOI：10.13335/j.1000-3673.pst.2019.2243 0 引言 负荷预测能为电力系统的决策提供重要依据，是智能电网中的一个关键环节。传统的点负荷预测方法只能提供未来某一时刻的单
7、个值，而概率密度预测通过构建概率密度函数提供对未来需求的完整概率分布描述1，这对智能电网的智能化部署提供有利的数据支撑。基于机器学习的电力负荷预测算法可提供良好的预测精度，如长短期记忆神经网络(long short-term memory，LSTM)、集成学习算法随机森林(random forest，RF)、支持向量机回归(support vector regression，SVR)等都具有良好的预测性能。但由于负荷的波动性，单一预测模型有时无法获得较高的准确度，使用多种机器学习方法进行组合预测可有效提高模型泛化能力。如文献2通过最大信息系数法分析变量相关性，并在长短期记忆网络基础上引入注意力
8、机制对负荷进行预测，提高了预测精度。文献3先采用经验模态分解负荷序列再运用最小冗余度相关性标准分析获得最佳特征集，最后采用最小二乘支持向量机对各经验模态分量进行预测。文献4采用聚类模型对用户进行分类，再运用卷积神经网络(convolutional neural network，CNN)和和支持向量回归机模型进行最终的预测。与 上 述 方 法 不 同，分 位 数 回 归(quantile regression，QR)是一种估计随机变量响应的条件分位数模型。无论分布函数的类型如何，QR 都能够3410 许佳辉等：基于 CNN-QRLightGBM 的短期负荷概率密度预测 Vol.44 No.9 全
9、面描述变量的条件分布。但是传统线性 QR 难以通过找到适当形式的非线性函数来解决复杂的非线性优化问题5，所以学者提出将 QR 与机器学习方法结合来构建概率密度预测模型6。文献7将长短期记忆网络分位数回归与核密度估计结合，构建了风电概率密度预测模型，该模型可以描述预测不确定性并解决复杂的非线性问题。文献8将经验小波变换(empirical wavelet transform，EWT)结合随机森林分位数回归(quantile regression forest，QRF)进行短期风电功率概率密度预测。文献9建立经验模式分解(empirical mode decomposition，EMD)算法将原始
10、数据分解为多个模态函数，再运用 QRF 进行用户端概率密度预测。为了能得到更准确、范围更小的预测区间，本文提出了一种卷积神经网络结合分位数回归轻量梯度提升机(quantile regression light gradient boosting machine，QRLightGBM)的概率密度预测方法。本文内容由如下3个步骤组成：首先通过Copula函数解释变量之间的非线性相关性并进行筛选，再经过卷积神经网络进行特征向量的全局提取；其次运用树状结构 Parzen 估计方法(tree-structured Parzen estimator，TPE)优化后的回归模型预测未来时刻不同分位数上的负荷值
11、；最后通过核密度估计方法得到预测点的概率密度函数，以美国新英格兰地区缅因州数据集作为实验数据，验证方法的有效性。1 Copula 原理与 TPE 算法 1.1 Copula 函数 Copula 函数能够完整描述变量之间的相关性并且在线性变换和严格单调性变换下都具有很强的实用性。1）Copula 函数可以将边缘分布函数与其联合分布函数关联起来。Sklar10提出若随机向量 X1,X2,XN联合分布函数12(,)NF x xx?的边缘分布函数12N12()(),(),xxxNFxFxFx?连续，则有唯一确定的 Copula 函数12(,)NuC uu?使得：12N1212(,),()()NxxxN
12、F x xxC FxFxFx=?(1)Copula 函 数 类 型 有 Archimedean(阿 基 米德)Copula 函数、椭圆 Copula 函数。为了选择合适的二元 Copula 函数以更好描述变量间的联合分布、密度函数，采用欧式距离(如式 2)作为评价指标，其中距离越小，意味着拟合效果越佳。221|(,)(,)|iiiiimdCC =(2)式中：(,)iiC 为经验 Copula 函数，(,)iiC 为Copula 函数；、分别为两个随机变量；m 为随机变量个数。2）Copula 函数相关性度量。Copula 从概率分布角度分析随机变量之间的相依性。由于某些相关性度量并非存在于所有
13、的 Copula 函数中，因此本文选择了具有适用性强的 Kendall 秩相关系数，其计算公式如下：11004(,)d(,)1CC =(3)1.2 TPE 算法 机器学习中超参数的选择会直接影响到模型性能的优劣。以往都是采用网格搜索和随机搜索进行超参数优化，但是此类型方法的执行时间会随着超参数规模的扩大成比例的增加，造成效率不足问题。TPE 算法通过构建目标函数的概率模型，以便智能评估每一组超参数，减少超参数调整时间，更有效的为机器学习模型找到最佳超参数。TPE算法通过参数化概率分布(|)p x y和先验概率分布()p y以得到后验概率分布(|)p y x。如下定义(|)p x y11：*()
14、,(|)(),xyyp x yg xyy=?(4)式中：()x?是通采用模型观察形成的密度；y为模型产生的损失函数数值；*y 为设置的阈值；()g x是通过剩余观察形成的密度。文 献 12 对TPE中 的 预 期 量(expected improvement，EI)进行了优化：*(|)()()()d()yIyp x y p yExyyyp x=(5)令*)(p yy=，(|)()d()Rp x y p yyx=+?(1)()g x，可以得到：*1()()(1)()Iyg xExx+?(6)上式表明，通过每一次迭代，算法都在尝试更好地去改进预测模型。2 基于 CNN-QRLightGBM 的概率
15、密度 预测 本文通过卷积神经网络提取数据特征的隐含信息并将其输入至 QRLightGBM 预测模型，得到未来时刻不同分位点的值，最后通过核密度估计得到负荷的概率密度预测。2.1 卷积神经网络 卷积神经网络是一类包含卷积计算且具有深第 44 卷 第 9 期 电 网 技 术 3411 度结构的前馈神经网络，是深度学习的代表算法之一13。其中 CNN 的卷积层通过卷积核进行特征提取和映射。池化层可以压缩参数的数量，减小过拟合，提高模型的容错率，全连接层可以组合先前提取的特征。2.2 QRLightGBM LightGBM 是一种基于梯度提升的集成学习算法，对梯度提升决策树(gradient boos
16、ting decision tree，GBDT)进行了充分的实现并在此基础上融入了独立特征合并技术(exclusive feature bunding，EFB)和梯度单边采样技术(gradient-based one-side sampling，GOSS)14。LightGBM 集成了许多 CART 回归树近似最终模型，如下所示：1()(),TTtttfXfXf=F(7)式中：tf对应第 k 颗决策树；F为所有树的集合空间。回归树可以用另一种形式表示为q(x)，q1,2,J，J 为叶子数，q 代表树的决策规则，代表叶节点的样本权重。LightGBM 使用牛顿法快速逼近目标函数，并以加法形式训练
17、模型可以得到：21211()21 ()()2()(jjntitiitiijijijji Ii IGg f xh fxg whw=+=+(8)式中：ig、ih分别为损失函数的一阶和二阶梯度统计量；jI为叶子 J 样本集。在给定树结构 q(x)，每个叶子节点上的最佳叶子重量分数*jw和极值*TG 如下所示：2*1()1,2jjjjiiJi Ii IjTjiii Ii IggwGhh=+(9)最后添加拆分后的目标函数为 LRLR222()()()12iiii Ii Ii Iiiii Ii Ii IgggGhhh=+(10)式中：IL、IR分别表示左右分支的样本集；为惩罚模型的系数。LightGBM
18、采用带深度限制的leaf-wise 叶子生长策略有效降低模型的时间复杂度再保证高效率的同时防止过拟合15。分位数回归可以采用不同的回归模型，对分位数损失函数进行最优化16。因此本文构建的分位数回归采用 LightGBM 回归模型最小化以下损失函数的期望值，得到不同分位点的分布：,argmin(,()yfXfEL y f x=(11)其中：:(,()(1)|ppiiiippiiiii yyi yyL y f xyyyy=+(12)式中：分位数(0,1)；iy为真实值；piy 为模型预测值。2.3 核密度估计 核密度估计描述概率分布通过平滑的峰值函数来拟合观察到的数据点，公式如下：11()()ni
19、hixxfxKnhh=(13)式中：K()为核函数；h 为带宽。本文采用高斯核函数，公式如下：2()21()e2xK x=(14)3 模型搭建 3.1 模型设计 概率密度能更好诠释负荷需求的不确定性。图 1 为 CNN-QRLigtGBM 概率密度模型流程图。图 1 模型流程图 Fig.1 Model flow chart 3.2 数据预处理 1）对采集到的数据进行离群点检测。判断是否存在异常数据，若有则对异常数据进行剔除，对缺失数据进行均值差补法。2）因采集的数据特征量纲不同，为了提高模3412 许佳辉等：基于 CNN-QRLightGBM 的短期负荷概率密度预测 Vol.44 No.9 型
20、的鲁棒性，对数据进行归一化处理，公式如下：minmaxmintXXXXX=m(15)式中 Xmax、Xmin分别为每个样本中最小值和最大值。3.3 随机变量相关性度量 表 1 为美国新英格兰地区缅因州电力市场的充分信息17。其中实时需求为预测的用电量。为了选择合适的 Copula 函数，选取多个变量计算其与实时需求的欧式距离。结果如表 2 所示。表 1 模型输入参数 Tab.1 Model input parameters 参数 含义 f0 实时需求 f1、f2 日前需求、日前节点边际价格 f3、f4 日前能源价格、日前价格的损失部分 f5、f6 日前价格的边际损失、实时边际价格 f7、f8
21、实时能源价格、实时价格的损失部分 f9、f10 实时价格的边际损失、干点温度 f11 露点温度 表 2 不同 Copula 函数的欧式距离 Tab.2 Euclidean distances of different Copula functions 参数 二元正态Copula 二元 t-Copula Gumbel Copula 日前边际价格 0.2950 0.3350 1.9438 日前能源价格 0.1112 0.1286 0.2722 实时能源价格 0.1971 0.2175 0.7483 干点温度 0.2578 0.4210 0.8597 从表2中可以得到二元正态Copula函数的拟合效
22、果最佳。因此本文利用二元正态 Copula 函数对应的 Kendall 秩相关系数求解特征变量之间的相关系数。如附录图 1 所示。特征向量间若存在高度相关性，在数据运算时会造成冗余,降低模型性能18。结合图中各特征间的相关系数删除 f2、f6、f11这 3 个特征，保留其余 8 个特征。3.4 输入矩阵的构建及 CNN 参数设置 将经过特征筛选后的 8 个特征向量依次排列成时间序列，按照滚动窗口方式将其组成 N 个二维矩阵。如式(16)(17)所示。其中为了方便卷积层的运算，选取与特征向量个数相同的滚动窗口大小，即每个二维矩阵的维度为 88。1,mnN mn=?XMX (16),1,1,nN
23、mnmm n+=?NNNNXXXXX (17)式中：1,mnX表示第 1 个二维矩阵；,N mnX表示N+m 时刻第 n 个特征向量的值；m、n 分别为 8。图 2 为卷积神经网络结构，此卷积神经网络有2 层二维卷积层，2 层最大池化层，1 层扁平层，为了防止过拟合，添加了 Dropout。卷积层过滤器数目分别为 32、64，时间步长为 1，卷积核大小为 44，池大小为 22。从图中可以看到数据矩阵通过卷积、池化后得到 2264 的三维矩阵。在经过偏平层后输出长度为 256 的一维数组。该层的输出作为最终的特征向量输入至 QRLightGBM 模型中。8832881输入443244642264
24、256Conv：4432 filtersPool：22Conv：4464 filtersPool：22Flatten256Dropout 0.25 图 2 卷积神经网络结构 Fig.2 Convolution neural network architecture 3.5 评价指标 本文选用均方根误差(root mean squared error，RMSE)、平 均 绝 对 误 差 百 分 比(mean absolute percentage error，MAPE)作为点预测模型的评价指标，公式如下：2RMSE11()niiiXyyn=(18)MAPE1|1100%niiiiyyXny=(1
25、9)式中：iy表示为i时刻下真实的负荷值；iy表示为i时刻下模型的预测值。采用预测区间覆盖率(predict interval coverage probability，PICP)和预测区间平均宽度(predict interval average width，PIAW)评估区间预测模 型7,19。计算公式如下：(1)PICP1(1)(1)(1)lh(1)(1)h()/0,1,NiiiiiiiiliXNyy=(20)(1)PIAW1(1)(1)(1)hl/NiiiiiXN=(21)式中：(1)h i表示在置信度为(1)下 i 时刻的区间上限；(1)l i为其下限。PICP 用于评估预测区间的可
26、靠性指标，PAIW用于描述预测区间宽度。PICP 值越大，更多负荷真第 44 卷 第 9 期 电 网 技 术 3413 实值处于预测区间范围内。在 PICP 相同时 PIAW越小，预测精度越高，越有利于决策。4 算例分析 本文采用美国新英格兰缅因州2011 年1 月1 日至 2014 年 12 月 31 日共 4 年的数据(采样间隔 1 h)作为研究对象，其中前 2 年作为训练集，第 3 年作为验证集，第 4 年作为测试集。为验证本文模型有效性，分别建立 QRLightGBM、分位数随机森林(quantile random forest，QRF)、长短期记忆网络分位数回归(quantile r
27、egression long short-term memory，QRLSTM)模型进行实验结果的比较分析。4.1 负荷概率密度预测结果分析 本文模型参数先通过 Hyperopt20提供的 TPE算法进行超参数调优。超参数的先验分布设置如下：叶子节点数设置为 1 到 200 整数均匀分布，学习速率设置 0 到 1 之间的对数均匀分布，树最大深度设置为 1 到 10 之间的整数均匀分布，叶节点的最少样本数设置为 50 到 400 之间的整数均匀分布，迭代次数设置为 100 到 500 的整数均匀分布。TPE算法迭代过程如附录图 4 所示。经 TPE 优化后的模型参数为：叶子节点数为200，学习速
28、率为 0.0169，树最大深度为 8，叶节点的最少样本数为 84，迭代次数为 400。对照组QRLightGBM 参数与本文模型一致；QRF 模型的决策树数量设置为 400，最大特征数为 6；QRLSTM模型设置为2层隐藏层网络，每层神经元个数为64，采用 ADAM 优化算法21，迭代次数为 100。上述每个模型的分位数范围为 0.010.99，间隔为 0.01。确定了各个模型参数后，将 CNN 提取后的特征变量输入到各个模型进行训练、验证和测试。图 3 示例了本文方法在不同置信水平下对 2014 年 1 月 1 日至 1 月 2 日各个时刻的预测结果。图中可以看到置信水平的高低与区间宽度具有
29、一致单调 时间/h真实值70%置信区间80%置信区间90%置信区间0816243240481200140016001800负荷/MW 图 3 不同置信水平下区间预测 Fig.3 Interval prediction under different confidence levels 性。随着置信水平的降低，部分负荷的实际值将会处于预测区间外。图 4 为选取 80%置信水平下不同模型预测结果。图中看到不同模型的预测趋势都能较好表征负荷的波动变化。大部分负荷实际值均处于模型预测的范围内，当负荷值处于迅速上升或下降趋势时，预测的区间范围会变得较窄，当负荷处于峰谷时，预测区间范围会变得较宽。负荷/M
30、W 图 4 各个模型预测结果 Fig.4 Prediction results of each model 各模型的评价指标如表 3 所示。从表中可以看出 QRF、QRLSTM 模 型 在 区 间 宽 度 上 优 于QRLightGBM 模型，但是在覆盖率上并不能达到完全覆盖。本文所提模型相较于 QRF、QRLSTM 模型在区间宽度上下降了 37.8%、51.3%，在预测覆盖率上提升了 4.2%、2.1%；相较于 QRLightGBM 模型虽在预测覆盖率上没有提升，但是在区间宽度上降低了 54.6%，验证了本文模型的有效性。表 3 各模型的区间评价指标 Tab.3 Interval evalu
31、ation index for each model 模型 XPICP/%XPIAW/MW QRF 95.8 109.45 QRLightGBM 100 150.03 QRLSTM 97.9 139.87 本文方法 100 68.05 图 5 为分位数回归模型分别采取中位数、众数进行点预测的结果。表 4 为不同模型预测结果的评价指标对比。结合图表可以得出采用众数点预测的各个分位数模型效果优于采用中位数点预测，尤其本文方法众数点预测相较于中位数点预测，在 MAPE 指标上降低了 27.4%，在 RMSE 指标上降低了 20.8%。LightGBM 单一模型比 QRLightGBM 中位数、众数点
32、预测效果更好，但是当引入卷积神经网络之后，模型在波峰、波谷的预测结果比 LightGBM 模型更精准，拟合效果更佳。在点预测上结合卷积神经网络的 QRLightGBM 模型预测准确性优于其他模型。3414 许佳辉等：基于 CNN-QRLightGBM 的短期负荷概率密度预测 Vol.44 No.9 QRLightGBM中位数本文方法LightGBMQRLSTM中位数QRF中位数真实值0816243240481200140016001800时间/hQRLightGBM众数本文方法LightGBMQRLSTM众数QRF众数真实值0816243240481200140016001800(a)中位数点
33、预测(b)众数点预测时间/h 图 5 各模型的点预测结果 Fig.5 Point prediction result for each model 表 4 各模型的点预测评价指标 Tab.4 Evaluation index for each model point prediction 模型 XMAPE/%XRMSE/MW 中位数 众数 中位数 众数 QRF 2.11 2.08 43.47 41.51 QRLightGBM 3.23 3.13 55.56 52.86 QRLSTM 2.67 2.42 44.71 43.79 LightGBM 3.10 51.25 本文方法 1.68 1.22
34、 27.57 21.84 图 6 示例了 1 天不同时刻 4 个模型的概率密度预测分布。由图中可以看出，QRF、QRLSTM 模型的负荷波动范围小于 QRLightGBM，但是引入卷积神经网络的 QRLightGBM 模型的负荷波动范围小于其他模型，与上述预测区间宽度结论相符。而且负荷真实值越靠近本文方法概率密度曲线峰值处，预测更准确。5 结论 准确的负荷预测，对电网的运行调度，配置机组发电有着重要的作用。本文提出了一种将卷积神经网结合分位数回归轻量梯度提升机的概率密度预测方法。采用 Copula 函数与卷积神经网络进行特征工程，充分利用特征变量的历史信息，再结合分位数回归模型和核密度估计得到
35、未来负荷更完整 10001200140016000.00000.00500.01000.0150负荷/MW(a)1:00时刻9001100130015000.000.040.080.012负荷/MW(b)5:00时刻11001300150017000.0000.0040.0080.0120.016负荷/MW(c)9:00时刻12001400160018000.0000.0100.020负荷/MW(d)13:00时刻13001500170019000.0000.0040.0080.012负荷/MW(e)17:00时刻12001400160018000.0000.0100.020负荷/MW(f)2
36、1:00时刻本文方法QRLightGBMQRF真实值QRLSTM0.016 图 6 不同时刻负荷概率密度预测 Fig.6 Load probability density prediction at different times 的概率分布。经过实例表明，本文方法在点预测上与其他模型比较，拟合效果更佳；与其他区间预测模型相比能够获得更高的覆盖率与更窄的预测宽度，提供了一天不同时刻更详细的概率描述,有效增加了短期负荷的可利用信息，有利于电力部门进行更好的决策，降低经济成本。附录见本刊网络版(http:/ 1 Yan Dong，Yang Shufang，Li Wenqi，et alPower l
37、oad probability density forecasting using Gaussian process quantile regression JApplied Energy，2018，213：499-509 2 彭文，王金睿，尹山青，等电力市场中基于 Attention-LSTM 的短期负荷预测模型J电网技术，2019，43(5)：1745-1751 Peng Wen，Wang Jinrui，YinShanqing，et alShort-term load forecasting model based on attention-LSTM in electricity mark
38、et J Power System Technology，2019，43(5)：1745-1751(in Chinese)3 孔祥玉，李闯，郑锋，等基于经验模态分解与特征相关分析的短期负荷预测方法J电力系统自动化，2019，43(5)：46-56 Kong Xiangyu，Li Chuang，Zheng Feng，et alShort-term load forecasting method based on empirical mode decomposition and feature correlation analysisJ Automation of Electric Power S
39、ystems，2019，43(5)：46-56(in Chinese)第 44 卷 第 9 期 电 网 技 术 3415 4 沈兆轩，袁三男利用卷积神经网络支持向量回归机的地区负荷聚类集成预测J电网技术，2020，44(6)：2237-2244 Shen Zhaoxuan，Yuan SannanRegional load clustering integration forecasting based on convolutional neural network support vector regression machineJPower System Technology，2020，44
40、(6)：2237-2244(in Chinese)5 Yaoyao He，Rui Liu，Haiyan Li，et alShort-term power load probability density forecasting method using kernel-based support vector quantile regression and Copula theoryJApplied Energy，2017，185(pt.1)：254-266 6 Yaoyao He，Yaya ZhengShort-term power load probability density forec
41、asting based on Yeo-Johnson transformation quantile regression and Gaussian kernel functionJ Energy，2018，154(JUL.1)：143-156 7 李彬，彭曙蓉，彭君哲，等基于深度学习分位数回归模型的风电功率概率密度预测J电力自动化设备，2018，38(9)：15-20 Li Bin，Peng Shurong，Peng Junzhe，et alWind power probability density forecasting based on deep learning quantile
42、regression model JElectric Power Automation Equipment，2018，38(9)：15-20(in Chinese)8 孙国强，梁智，俞娜燕，等基于 EWT 和分位数回归森林的短期风电功率概率密度预测J 电力自动化设备，2018，38(8)：158-165 Sun Guoqiang，Liang Zhi，Yu Nayan，et al.Short-term wind power probability density forecasting based on EWT and quantile regression forestJElectric Po
43、wer Automation Equipment，2018，38(8)：158-165(in Chinese)9 杨斌，杨世海，曹晓冬，等基于 EMD-QRF 的用户负荷概率密度预测J电力系统保护与控制，2019，47(16)：1-7 Yang Bin，Yang Shihai，Cao Xiaodong，et alShort-term consumer load probability density forecasting based on EMD-QRFJPower System Protection and Control2019，47(16)：1-7(in Chinese)10 Skla
44、r，AFonctions de epartition n dimensions et leurs marges ZPublications de lInstitut de Statistique de Universit de Paris1959，8：229-231 11 Bergstra J，Bardenet R，Bengio Y，et alAlgorithms for hyper-parameter optimizationJ Advances in neural information processing systems，2011：2546-2554 12 Goodfellow I，B
45、engio Y，Courville ADeep learningMVol.1，Cambridge：MIT press，2016：326-366 13 Zhifeng Guo，Kaile Zhou，Xiaoling Zhang，et alA deep learning model for short-term power load and probability density forecasting JEnergy，2018，160：1186-1200 14 Ke G L，Meng Q，Finley T，et alLightGBM：a highly efficient gradient boo
46、sting decision treeC/Advances in Neural Information Processing Systems 31Long Beach，Convention Center，USA：Neural Information Processing Systems foundation，2017：3149-3157 15 王华勇，杨超，唐华基于 LightGBM 改进的 GBDT 短期负荷预测研究J自动化仪表，2018，39(9)：76-82 Wang Huayong，Yang Chao，Tang Hua.Research on short term load forec
47、asting of GBDT based on LightGBMJProcess Automation Instrumentation，2018，39(9)：76-82(in Chinese)16 Yi W，Ning Z，Tan Y，et alCombining probabilistic load forecasts JIEEE Transactions on Smart Grid，2019，10(4)：3664-3674 17 ISO New EnglandISO New England zonal informationDB/OL 2019-08-01https:/www.iso- 18
48、 陈明华，刘群，张家枢，等基于 XGBoost 的电力系统暂态稳定预测方法J电网技术，2020，44(3)：1026-1034 Cheng Minghua，Liu Qun，Zhang Jiashu，et alXGBoost-based algorithm for post-fault transient stability status predictionJPower System Technology，2020，44(3)：1026-1034(in Chinese)19 王铮，王伟胜，刘纯，等基于风过程方法的风电功率预测结果不确定性估计J电网技术，2013，37(1)：242-247 Wa
49、ng Zheng，Wang Weisheng，Liu Chun，et al Uncertainty estimation of wind power prediction result based on wind process method JPower System Technology，2013，37(1)：242-247(in Chinese)20 Bergstra J，Yamins D，Cox D DHyperopt：a python library for optimizing the hyper parameters of machine learning algorithmsC
50、/Proceedings of the 12th Python in Science Conference Austin，Texas：SciPy Organizers，2013：13-20 21 杨秀，陈斌超，朱兰，等基于相关性分析和长短期记忆网络分位数回归的短期公共楼宇负荷概率密度预测J电网技术，2019，43(9)：3061-3071 Yang Xiu，Chen Binchao，Zhu Lan，et al.Short-term public building load probability density prediction based on correlation analysis