👨‍🎓个人主页

💥💥💞💞欢迎来到本博客❤️❤️💥💥

🏆博主优势：🌞🌞🌞博客内容尽量做到思维缜密，逻辑清晰，为了方便读者。

⛳️座右铭：行百里者，半于九十。

💥1 概述

用于高效高光谱图像分类的多尺度上下文感知集成深度KELM研究

高光谱遥感，作为成像技术与细分光谱技术有机结合的成像光谱遥感，可以获取在可见光到短波红外甚至中红外和热红外波段范围内纳米（nm）级光谱分辨率、光谱波段数多达百个的高光谱分辨率的连续、窄波段的图像数据，蕴含丰富的空间、辐射和光谱三重信息，被广泛应用于军事侦察、环境监测、地质勘探和深空探测领域。随着我国高分辨率对地观测系统的实施，特别是搭载纳米级高光谱相机的高分五号卫星的即将发射，高光谱遥感存在重大战略应用需求。其中一个关键应用是少量样本下的高光谱图像地物精细分类问题。

摘要

高光谱图像分类旨在通过提取地物的光谱和空间特征实现精准识别，但传统方法受限于高维数据、光谱变异性及小样本问题。本文提出一种多尺度上下文感知集成深度核极限学习机（MCA-EDKELM）方法，通过多尺度特征提取、深度特征融合、KELM分类器训练及集成预测，结合卷积神经网络（CNN）的特征提取能力与核极限学习机（KELM）的高效分类特性，在保证分类精度的同时显著提升计算效率。实验结果表明，该方法在多个高光谱数据集上分类精度优于传统深度学习模型，且训练时间大幅缩短，适用于实时性要求较高的应用场景。

1. 引言

高光谱图像（Hyperspectral Image, HSI）通过连续窄波段获取地物的光谱信息，能够揭示传统影像无法探测的细微光谱特征，广泛应用于军事侦察、环境监测、地质勘探等领域。然而，高光谱图像分类面临以下挑战：

高维数据：光谱通道数量多，易引发维度灾难，增加计算复杂度。
光谱变异性：同一地物在不同区域或时间的光谱特征可能不同，导致分类精度下降。
小样本问题：标记样本获取成本高，深度学习模型易过拟合。
空间信息利用不足：传统方法仅依赖光谱特征，忽略空间上下文信息。

为解决上述问题，本文提出一种多尺度上下文感知集成深度KELM方法，通过多尺度特征提取、深度特征融合及集成学习，充分利用高光谱图像的光谱和空间信息，结合KELM的高效分类特性，实现高效分类。

2. 相关工作

2.1 高光谱图像分类方法

传统方法包括支持向量机（SVM）、随机森林（RF）等，依赖手工提取特征，难以捕捉高维数据中的非线性关系。深度学习方法如卷积神经网络（CNN）、残差网络（ResNet）等，能够自动学习特征，但需大量训练样本且计算成本高。

2.2 多尺度特征提取

多尺度特征提取通过不同尺度的卷积核或池化操作，捕捉图像中的局部和全局信息。例如，金字塔池化（SPP）和空洞卷积（Dilated Convolution）被广泛应用于计算机视觉任务。

2.3 核极限学习机（KELM）

KELM是一种单隐层前馈神经网络，通过核函数将输入数据映射到高维特征空间，具有训练速度快、泛化能力强的优点。集成学习通过组合多个弱分类器，提升分类精度和鲁棒性。

3. 方法设计

3.1 方法概述

MCA-EDKELM方法主要包括以下步骤：

多尺度特征提取：使用CNN提取不同尺度的光谱和空间特征。
深度特征融合：将多尺度特征进行融合，增强特征表达能力。
KELM分类器训练：将融合后的特征输入KELM模型进行训练。
集成预测：集成多个KELM分类器的预测结果，提升分类精度。

3.2 多尺度特征提取

设计多尺度特征提取模块，使用不同大小的卷积核（如3×3、7×7、11×11）提取不同尺度的特征。小尺度卷积核捕捉局部纹理特征，大尺度卷积核捕捉全局上下文特征。为减少计算量，引入通道注意力机制（Channel Attention Mechanism）或空间注意力机制（Spatial Attention Mechanism），增强重要特征，抑制无关特征。

3.3 深度特征融合

将不同尺度上提取的深度特征进行融合，融合方式包括：

特征拼接：将不同尺度的特征向量连接成一个更长的特征向量。
特征加权平均：根据不同尺度特征的重要性赋予不同权重。
注意力机制：自适应学习不同尺度特征的权重，灵活融合特征。

3.4 KELM分类器训练

将融合后的深度特征作为KELM的输入，训练多个KELM分类器。KELM的核函数可选择线性核、高斯核或多项式核，核参数通过交叉验证优化。

3.5 集成预测

将多个KELM分类器的预测结果进行集成，集成方式包括：

投票法：选择预测结果中出现次数最多的类别作为最终类别。
加权平均法：根据分类器性能赋予不同权重。
贝叶斯融合：利用贝叶斯理论将多个分类器的预测结果进行概率融合。

4. 实验结果与分析

4.1 数据集与实验设置

实验在Indian Pines、University of Pavia和Salinas Scene三个高光谱数据集上进行。数据集划分如下：

训练集：每类30个样本（样本数较少的类别每类10个）。
验证集：每类15个样本（样本数较少的类别每类5个）。
测试集：剩余样本。

实验参数设置：

CNN结构：采用VGG-16网络结构，迁移其卷积模块的滤波器参数。
KELM核函数：高斯核，核参数通过交叉验证优化。
集成策略：加权平均法。

4.2 实验结果

实验结果表明，MCA-EDKELM方法在三个数据集上的分类精度分别达到98.51%、98.64%和99.39%，优于CNN、R-PCA CNN、CNN-PPF和CD-CNN等传统深度学习模型。同时，KELM的引入显著缩短了训练时间，提升了计算效率。

4.3 对比分析

与现有方法相比，MCA-EDKELM方法的优势在于：

多尺度特征提取：捕捉不同尺度的光谱和空间信息，提升分类精度。
深度特征融合：结合注意力机制，灵活融合不同尺度特征。
KELM分类器：训练速度快，泛化能力强，适用于小样本问题。
集成学习：通过集成多个分类器，提升分类精度和鲁棒性。

5. 结论与展望

本文提出一种多尺度上下文感知集成深度KELM方法，通过多尺度特征提取、深度特征融合及集成学习，充分利用高光谱图像的光谱和空间信息，结合KELM的高效分类特性，实现高效分类。实验结果表明，该方法在多个高光谱数据集上分类精度优于传统深度学习模型，且训练时间大幅缩短。

未来研究可探索以下方向：

自适应尺度选择：根据高光谱图像特点自动选择合适尺度。
更有效的特征融合方法：如基于注意力机制的特征融合，提升特征表达能力。
更优的集成学习策略：如动态加权平均，根据分类器性能动态调整权重。
小样本问题优化：引入数据增强、迁移学习等方法，提升小样本条件下的分类性能。
硬件加速：利用GPU、FPGA等硬件加速技术，提升计算效率，满足实时性要求较高的应用场景。

📚2 运行结果

编辑编辑编辑

主函数部分代码：

clc

clear

%% 15samples per-class % majority voting:94.13% weighted fusion:94.66%

[TrainingTime, TestingTime, TrainingAccuracy, TestingAccuracy, oa, aa, ap,K, ua,ub] =...

EDKELM_Weighted_fusion([1,100,10000], 3, 'RBF_kernel',[1e2, 1e5, 1e7],[5,10]);

result1= [ua;aa;oa;K;TrainingTime;TestingTime];

result2= [ub;ap];

%% parameter-tuning

% regular1 = [1e-4, 1e-3,1e-2,1e-1,1,10,100,1000,10000];

% regular2 = [1e-4, 1e-3,1e-2,1e-1,1,10,100,1000,10000];

% regular3 = [1e-4, 1e-3,1e-2,1e-1,1,10,100,1000,10000];

% h=1

% rhoAcc = zeros(9^3,4);

% TestingAccuracy=zeros(9^3,1);

% for i=1:length(regular1)

% for j=1:length(regular2)

% for k=1:length(regular3)

% [TrainingTime, TestingTime, TrainingAccuracy, TestingAccuracy, oa, aa, ap,K, ua,ub] =...

% EDKELM_Weighted_fusion([regular1(i),regular2(j),regular3(k)], 3, 'RBF_kernel',[1e2, 1e5, 1e7],[5,10]);

% rhoAcc(h,:)=[regular1(i),regular2(j),regular3(k),TestingAccuracy];

% h=h+1

% end

🎉3 参考文献

部分理论来源于网络，如有侵权请联系删除。

[1]刘宏波. 基于深度学习的高光谱图像去噪资料获取，更多粉丝福利，MATLAB|Simulink|Python资源获取【请看主页然后私信】

用于高效高光谱图像分类的多尺度上下文感知集成深度 KELM(Matlab代码实现）

💥1 概述

用于高效高光谱图像分类的多尺度上下文感知集成深度KELM研究

摘要

1. 引言