【MATLAB第50期】基于MATLAB的RELM-LOO多输入单输出回归&分类预测算法与RELM及ELM进行对比
引言
RELM-LOO即通过LOO计算效率方法对其RELM模型正则化C系数进行寻优。
对于进化算法寻优来说, 结果更稳定。
可参考以下文献:
[1] Shao Z , Er M J , Wang N .An effective semi-cross-validation model selection method for extreme learning machine with ridge regression[J].Neurocomputing, 2015, 151:933-942.DOI:10.1016/j.neucom.2014.10.002.
[2] Shao Z , Er M J .Efficient Leave-One-Out Cross-Validation-based Regularized Extreme Learning Machine[J].Neurocomputing, 2016, 194(jun.19):260-270.DOI:10.1016/j.neucom.2016.02.058.
一、回归模型
1.数据情况
7输入1输出,103行样本数据 。
前80训练,后23测试 ,随机样本抽取。
%% 导入数据 res = xlsread('数据集.xlsx'); %% 划分训练集和测试集 temp = randperm(103); P_train = res(temp(1: 80), 1: 7)'; T_train = res(temp(1: 80), 8)'; M = size(P_train, 2); P_test = res(temp(81: end), 1: 7)'; T_test = res(temp(81: end), 8)'; N = size(P_test, 2);
2.参数设置
nn.hiddensize = 100;% 隐含层神经元数 nn.inputsize = size(p_train,1); %输入变量数量 nn.activefunction = 's'; %sigmoid激活函数 method = {'ELM','RELM','RELM-LOO'};% 方法进行对比 nn = elm_initialization(nn);% 初始elm偏差及权值 nn.C1 = 0.001; %RELM初始化正则化参数 nn.C2 = exp(-8:0.2:6); %RELM-LOO搜寻正则化参数范围
3.效果展示
ELM训练集数据的RMSE为:2.0216 ELM测试集数据的RMSE为:3.199 ELM训练集数据的R2为:0.9337 ELM测试集数据的R2为:0.79778 ELM训练集数据的MAE为:1.5877 ELM测试集数据的MAE为:1.9848 ELM训练集数据的MBE为:0.00034057 ELM测试集数据的MBE为:0.41401 RELM训练集数据的RMSE为:1.643 RELM测试集数据的RMSE为:2.5332 RELM训练集数据的R2为:0.99366 RELM测试集数据的R2为:0.95801 RELM训练集数据的MAE为:0.49995 RELM测试集数据的MAE为:0.88175 RELM训练集数据的MBE为:0.12195 RELM测试集数据的MBE为:0.10933 RELM-LOO训练集数据的RMSE为:0.62506 RELM-LOO测试集数据的RMSE为:1.4577 RELM-LOO训练集数据的R2为:0.99366 RELM-LOO测试集数据的R2为:0.95801 RELM-LOO训练集数据的MAE为:0.49995 RELM-LOO测试集数据的MAE为:0.88175 RELM-LOO训练集数据的MBE为:0.12195 RELM-LOO测试集数据的MBE为:0.10933
二、分类模型
1.数据情况
12输入1输出,357行样本数据 ,4分类标签。
前240训练,后157测试 ,随机样本抽取。
%% 导入数据 res = xlsread('数据集C.xlsx'); %% 划分训练集和测试集 temp = randperm(357); P_train = res(temp(1: 240), 1: 12)'; T_train = res(temp(1: 240), 13)'; M = size(P_train, 2); P_test = res(temp(241: end), 1: 12)'; T_test = res(temp(241: end), 13)'; N = size(P_test, 2);
2.参数设置
nn.hiddensize = 100;% 隐含层神经元数
nn.inputsize = size(p_train,1); %输入变量数量
nn.activefunction = ‘s’; %sigmoid激活函数
method = {‘ELM’,‘RELM’,‘RELM-LOO’};% 方法进行对比
nn = elm_initialization(nn);% 初始elm偏差及权值
nn.C = 0.1; %正则化参数
nn.C2 = exp(-4:0.2:4); %RELM-LOO搜寻正则化参数范围
nn.type = ‘classification’;;%分类
3.效果展示
ELM训练集数据的正确率acc为:96.25 ELM测试集数据的正确率acc为:94.0171 RELM训练集数据的正确率acc为:96.25 RELM测试集数据的正确率acc为:96.5812 RELM-LOO训练集数据的正确率acc为:97.0833 RELM-LOO测试集数据的正确率acc为:97.4359
三、代码获取
后台私信回复“50期”可获取下载链接。