基于蜣螂算法优化的核极限学习机(KELM)回归预测

文章目录

基于蜣螂算法优化的核极限学习机(KELM)回归预测
- 1.KELM理论基础
- 2.回归问题数据处理
- 4.基于蜣螂算法优化的KELM
- 5.测试结果
- 6.Matlab代码

摘要：本文利用蜣螂算法对核极限学习机(KELM)进行优化，并用于回归预测.

1.KELM理论基础

核极限学习机（Kernel Based Extreme Learning Machine，KELM）是基于极限学习机（Extreme Learning Machine，ELM）并结合核函数所提出的改进算法，KELM 能够在保留 ELM 优点的基础上提高模型的预测性能。

ELM 是一种单隐含层前馈神经网络，其学习目标函数F(x) 可用矩阵表示为:
F(x)=h(x)×β=H×β=L(9)F(x)=h(x)\times \beta=H\times\beta=L \tag{9} F(x)=h(x)×β=H×β=L(9)
式中：xxx 为输入向量，h(x)h(x)h(x)、HHH 为隐层节点输出，βββ 为输出权重，LLL 为期望输出。

将网络训练变为线性系统求解的问题，β\betaβ根据 β=H∗⋅Lβ=H * ·Lβ=H∗⋅L 确定，其中，H∗H^*H∗ 为 HHH 的广义逆矩阵。为增强神经网络的稳定性，引入正则化系数 CCC 和单位矩阵 III，则输出权值的最小二乘解为
β=HT(HHT+Ic)−1L(10)\beta = H^T(HH^T+\frac{I}{c})^{-1}L\tag{10} β=HT(HHT+cI)−1L(10)
引入核函数到 ELM 中，核矩阵为：
ΩELM=HHT=h(xi)h(xj)=K(xi,xj)(11)\Omega_{ELM}=HH^T=h(x_i)h(x_j)=K(x_i,x_j)\tag{11} ΩELM=HHT=h(xi)h(xj)=K(xi,xj)(11)
式中：xix_ixi ，xjx_jxj 为试验输入向量，则可将式（9）表达为：
F(x)=[K(x,x1);...;K(x,xn)](IC+ΩELM)−1L(12)F(x)=[K(x,x_1);...;K(x,x_n)](\frac{I}{C}+\Omega_{ELM})^{-1}L \tag{12} F(x)=[K(x,x1);...;K(x,xn)](CI+ΩELM)−1L(12)
式中：(x1,x2,…,xn)(x_1 , x_2 , …, x_n )(x1,x2,…,xn) 为给定训练样本，nnn 为样本数量.K()K()K()为核函数。

正则化系数 C 和核函数参数 S 需要人为设定，两者的设定将对 KELM的预测性能具有一定影响。