✅作者简介：热爱科研的Matlab仿真开发者，擅长毕业设计辅导、数学建模、数据处理、建模仿真、程序设计、完整代码获取、论文复现及科研仿真。
🍎 往期回顾关注个人主页：Matlab科研工作室
👇 关注我领取海量matlab电子书和数学建模资料
🍊个人信条：格物致知,完整Matlab代码获取及仿真咨询内容私信。
🔥 内容介绍
多变量时序预测的重要性
在当今数据驱动的时代，多变量时序数据广泛存在于各个领域，如金融领域的股票价格与宏观经济指标、能源领域的电力负荷与气象因素、工业生产中的设备运行参数等。对这些多变量时序数据进行准确预测，对于决策制定、资源分配、风险防范等方面都具有至关重要的意义。例如，在金融投资中，准确预测股票价格走势能帮助投资者制定合理的投资策略；在电力系统中，精准预测电力负荷有助于合理安排发电计划，降低运营成本。然而，多变量时序数据往往具有复杂的非线性特征以及变量间的相互依赖关系，传统的预测方法在处理这类数据时面临诸多挑战。因此，寻求更有效的多变量时序预测方法成为研究热点，基于 PSO - Transformer 的多输入单输出预测方法应运而生。
Transformer 架构原理
Transformer 是一种基于自注意力机制的新型架构，最初用于自然语言处理任务，因其在处理序列数据方面的卓越性能，逐渐被应用到多变量时序预测领域。
- 自注意力机制 ：自注意力机制是 Transformer 的核心组件。它通过计算输入序列中每个位置与其他位置之间的关联程度，动态地为每个位置分配权重，从而捕捉序列中的长距离依赖关系。具体而言，对于输入序列中的每个元素，自注意力机制会生成三个向量：查询向量（Query）、键向量（Key）和值向量（Value）。通过计算 Query 与所有 Key 的点积并进行归一化，得到注意力分数，这些分数决定了每个位置对当前位置的重要性程度，进而加权求和所有 Value 得到当前位置的输出。这种机制使得模型能够在处理长序列时，快速聚焦到与当前位置相关的信息，而无需像循环神经网络那样依次处理序列元素，大大提高了计算效率。
- 位置编码 ：由于 Transformer 架构本身不具备对序列顺序信息的感知能力，位置编码被引入。它通过将位置信息编码为向量，并与输入序列的特征向量相加，使得模型能够区分不同位置的元素。常见的位置编码方式是基于三角函数的正弦和余弦函数，这种编码方式能够在不同的频率上捕捉位置信息，为模型提供序列的顺序特征。
- 多头注意力与前馈网络 ：为了增强模型的表达能力，Transformer 使用了多头注意力机制，即并行地运行多个自注意力头，并将它们的输出拼接在一起。之后，经过多头注意力处理的结果会输入到前馈神经网络中进行进一步的特征提取和变换。前馈神经网络由两个全连接层组成，中间使用 ReLU 激活函数。
Transformer 在多变量时序预测中的优势在于其能够有效地处理长序列数据，捕捉多变量之间复杂的非线性关系，并且由于其并行计算的特性，训练效率更高。
粒子群优化算法（PSO）原理
粒子群优化算法（PSO）是一种基于群体智能的随机搜索算法，模拟鸟群或鱼群的觅食行为。
- 基本概念 ：在 PSO 中，每个优化问题的潜在解都被看作是搜索空间中的一只 “粒子”。每个粒子都有自己的位置和速度，位置表示当前解在搜索空间中的坐标，速度决定粒子在搜索空间中的移动方向和步长。粒子通过不断调整自己的位置和速度，在解空间中搜索最优解。
- 搜索过程 ：粒子群中的每个粒子根据自己的历史最优位置（pbest）和整个群体的历史最优位置（gbest）来调整自己的速度和位置。粒子的速度更新公式通常包含三个部分：惯性部分，用于保持粒子先前的运动趋势；认知部分，引导粒子向自身历史最优位置移动；社会部分，引导粒子向群体历史最优位置移动。通过不断迭代更新粒子的速度和位置，粒子群逐渐向最优解区域收敛。
- 用于优化 Transformer 参数 ：将 PSO 应用于 Transformer 参数优化时，Transformer 的参数被编码为粒子的位置。PSO 通过不断调整粒子位置（即 Transformer 的参数），以最小化预测误差（如均方误差等）为目标，搜索最优的参数组合。PSO 的优势在于其简单易实现、收敛速度较快，能够在较短时间内找到较优的参数，从而提升 Transformer 模型的性能。
PSO - Transformer 在多变量时序预测（多输入单输出）中的优势
将 PSO 与 Transformer 相结合应用于多变量时序预测（多输入单输出）场景，具有显著的优势。首先，PSO 对 Transformer 参数的优化能够使模型更快地收敛到较优解，避免陷入局部最优，从而提高预测精度。通过不断调整 Transformer 的参数，模型能够更好地适应多变量时序数据的复杂特征，捕捉变量之间的内在关系。其次，经过 PSO 优化的 Transformer 模型在面对不同数据集时，具有更强的泛化能力。它能够在训练集上学习到数据的本质特征，并在测试集或实际应用场景中准确地进行预测。这种结合不仅发挥了 Transformer 在处理序列数据方面的强大能力，还借助 PSO 的优化特性进一步提升了模型性能，为多变量时序预测（多输入单输出）提供了一种高效、准确的解决方案。
综上所述，基于 PSO - Transformer 的多变量时序预测（多输入单输出）方法，融合了 Transformer 的先进架构和 PSO 的优化能力，在多变量时序数据预测领域具有重要的应用价值，能够为众多实际问题提供可靠的预测支持。
⛳️ 运行结果
编辑
编辑
编辑
编辑
📣 部分代码
function [R,rmse,biaozhuncha,mae,mape]=calc_error(x1,x2)
%此函数用于计算预测值和实际（期望）值的各项误差指标
% 参数说明
%----函数的输入值-------
% x1：真实值
% x2：预测值
%----函数的返回值-------
% mae：平均绝对误差（是绝对误差的平均值，反映预测值误差的实际情况.）
% mse：均方误差（是预测值与实际值偏差的平方和与样本总数的比值）
% rmse：均方误差根（是预测值与实际值偏差的平方和与样本总数的比值的平方根，也就是mse开根号，
% 用来衡量预测值同实际值之间的偏差）
% mape：平均绝对百分比误差（是预测值与实际值偏差绝对值与实际值的比值，取平均值的结果，可以消除量纲的影响，用于客观的评价偏差）
% error：误差
% errorPercent：相对误差
if nargin==2
if size(x1,2)==1
x1=x1'; %将列向量转换为行向量
end
if size(x2,2)==1
x2=x2'; %将列向量转换为行向量
end
num=size(x1,2);%统计样本总数
error=x2-x1; %计算误差
x1(find(x1==0))=inf;
errorPercent=abs(error)./x1; %计算每个样本的绝对百分比误差
mae=sum(abs(error))/num; %计算平均绝对误差
mse=sum(error.*error)/num; %计算均方误差
rmse=sqrt(mse); %计算均方误差根
mape=mean(errorPercent); %计算平均绝对百分比误差
biaozhuncha=std(x2);
%结果输出
for i=1:size(x1,1)
tempdata=(x1(i,:)-x2(i,:)).^2;
tempdata2=(x1(i,:)-mean(x1(i,:))).^2;
R(i)=1 - ( sum(tempdata)/sum(tempdata2) );
% disp(['决定系数R为： ',num2str(R(i))])
end
disp(['标准差为： ',num2str(biaozhuncha)])
disp(['均方误差根rmse为： ',num2str(rmse)])
disp(['平均绝对误差mae为： ',num2str(mae)])
disp(['平均绝对百分比误差mape为： ',num2str(mape*100),' %'])
else
disp('函数调用方法有误，请检查输入参数的个数')
end
end
