
4.4 基于改进FOA的参数优化LS-SVM模型
4.4.1 LS-SVM模型
由式(2-24)可知,标准SVM是一个线性不等式约束的凸二次规划问题。LS-SVM是SVM的改进,是将线性最小二乘系统代替二次规划作为损失函数,用等式约束取代标准SVM的不等式约束,有效提高了计算时间,减少了计算量,提高了泛化能力。由于风速预测子序列数量较多,计算量较大,本部分采用LS-SVM建立风速预测模型。
首先将式(2-24)的不等式约束变为等式约束为
式中,γ与C相似,也是一个常数,作为一个权重,平衡寻找最优超平面,最小化偏差;ek为误差向量。
同样采用拉格朗日乘数法将原问题转化为对参数α的求极值问题:
对参数w、b、ek和αk求导得
由式(4-6)可列出线性方程组为
式中,核矩阵元素为
最终得到LS-SVM分类表达式为
因该式为线性方程组,故加快了求解速度,提高了模型的泛化能力。
4.4.2 基于改进FOA优化LS-SVM的参数
关于LS-SVM模型中预测精度受到影响的几个参数:模型数据嵌入维度m、时间延迟τ、正则化参数γ和核函数参数σ,它们采用基于改进FOA来确定,本部分定义核函数为高斯核函数exp−(‖xi−xj‖2/(2σ))。模型参数的优化过程如下:
1)初始化模型参数,维度m设为2,时间延迟τ为1(采样点为5分钟),正则化参数γ和核函数参数σ均设为随机化初始值。
2)建立改进FOA优化参数模型,定义适应度函数以训练数据样本均方差为准则。
3)提取优化后的最佳参数,将预测日测试数据代入模型,最终得到预测结果。
优化模型的参数值见表4-2。
表4-2 子序列预测模型4个参数优化值
为了验证本部分所用的改进FOA对于参数优化的优越性,采用了遗传算法(GA)、粒子群优化算法(PSO)和未经改进的FOA分别优化上述4个参数,图4-7所示为4种算法的适应度值迭代曲线。
图4-7 不同学习算法优化参数的适应度曲线
从图中可以看出,采用改进FOA优化模型参数时,其迭代次数最少,只有4次就能达到收敛;而未经改进的FOA若实现收敛,需迭代8次;虽然采用PSO优化参数最终能够得到更小的结果,但达到稳态收敛需要迭代14次左右,显然在模型参数的优化方面,改进FOA整体效果更为理想。
未经改进的和改进的FOA的种群搜索寻优路径如图4-8所示,可以看出,显然经过改进后,种群搜索范围(宽度)更广,搜索路径更短,有利于优化参数的选取,避免陷入局部最优,缩短计算时间。
图4-8 算法搜索寻优路径图