【文献学习】Channel Estimation Method Based on Transformer in High Dynamic Environment

简介: 一种基于CNN和Transformer的信道估计方法,用于在高度动态环境中跟踪信道变化特征,并通过实验结果展示了其相比传统方法的性能提升。

1 引言

提出了基于CNN+Transformers的信道估计结构,CNN 用于提取信道响应的特征向量,Transformers用于估计信道状态信息,适应高度动态的环境中跟踪信道变化特征。与传统的相比有提升。

2 介绍

根据信道估计算法中是否使用先验信息的判断条件,分为基于参考信号的估计算法和盲估计算法两种。 盲估计算法通常需要信道在多个符号上保持稳定,因此这不适合高动态场景。

随着通信双方速度的增加,多普勒频偏也会相应增加,单个OFDM符号内的信道变化会更加剧烈,使得线性插值信道模型引起的建模误差值越来越大,直接导致信道估计精度的下降。

3 模型

3.1 问题分析

1.png

以上是不同多普勒频移中OFDM符号中信道脉冲响应的抽头分量的变化,左边多普勒频移0.01,右边多普勒频移0.2。从图中可以看出,左边的脉冲响应大致满足线性变化,右边则不满足线性变化。

3.2 模型结构

(1)参数
块状导频
激活函数:ReLU
损失函数:MSE
训练集、验证集、测试集:200000、6000、3000
带宽:3MHZ
子载波数量:400
符号数:100
FFT大小:512
循环前缀CP长度:32
调制方式:QPSK
信道模型:3GPP-Extend 典型的城市模型
训练集构造方法是:导频位置的CSI通过DFT估计方法获得,数据位置的CSI设置为零。
(2)网络结构

2.png

测试阶段,将导频位置的CSI作为网络输入,数据位置的CSI设置为零,输出为与输入维数相同的CSI矩阵。先试用一维的CNN网络图提取特征,输入是通过DFT估计方法获得的CSI矩阵,输出维度和输入维度一样。再使用了Transformer的encoder部分,包含了6层的tranformer block,这个block中主要包括Muti-head Attention多头注意力和Feed Forward前馈。

3.png

一维CNN提取到的h特征矩阵输入到Transformers中,h分别经过运算得到三个向量Q、K、V。QKTV 得到输出矩阵,即信道估计的CSI。

4 实验结果

4.png

左边评价标准是MSE,右边评价标准是BER。LS精度有限的原因是:时域相关系数是非平稳信道环境下的时变参数,信道变化规律不满足线性假设。不同的多普勒频移,LS方法的精度都没有太大区别,说明LS结合线性插值法在归一化多普勒频偏较大或较小的情况下估计性能较差。

5 疑问和思考

  • 作者通过DFT方法得到的CSI,然后准备的数据集,如果DFT的方法准确率并不高,构造出来的数据集质量并不高,将会影响深度学习模型的训练。不知道作者是如何准备数据集的。

  • 公式的6-8中的α代表什么?W是什么?作者并没有描述。

    5.png

  • 图中的h 是同一个值,还是代表不一样的值?

    6.png

  • 这篇文章算是目前我看到的首个把Transformers运用到OFDM中的文献。既然Transformers是能够替代LSTM的存在,为什么在通信领域对Transformer的应用如此少。LSTM 的应用数不胜数。

目录
相关文章
|
24天前
|
算法 数据挖掘 数据处理
文献解读-Sentieon DNAscope LongRead – A highly Accurate, Fast, and Efficient Pipeline for Germline Variant Calling from PacBio HiFi reads
PacBio® HiFi 测序是第一种提供经济、高精度长读数测序的技术,其平均读数长度超过 10kb,平均碱基准确率达到 99.8% 。在该研究中,研究者介绍了一种准确、高效的 DNAscope LongRead 管道,用于从 PacBio® HiFi 读数中调用胚系变异。DNAscope LongRead 是对 Sentieon 的 DNAscope 工具的修改和扩展,该工具曾获美国食品药品管理局(FDA)精密变异调用奖。
25 2
文献解读-Sentieon DNAscope LongRead – A highly Accurate, Fast, and Efficient Pipeline for Germline Variant Calling from PacBio HiFi reads
|
9天前
|
机器学习/深度学习 测试技术
文献解读-DNAscope: High accuracy small variant calling using machine learning
在这项研究中,研究组证明了DNAscope在不同样本和不同覆盖度水平下都能达到比DNAseq更高的准确性。使用GA4GH分层区域进行的分层分析,能够确认DNAscope在大多数分层区域中都具有高准确性,并突显了DNAscope在插入缺失(indels)和包含变异检测较困难的基因组区域的分层中具有更高的准确性。DNAscope结合了GATK's HaplotypeCaller中使用的成熟数学和统计模型,以及用于变异基因型分析的机器学习方法,在保持计算效率的同时实现了卓越的准确性。
18 3
|
3月前
|
机器学习/深度学习 编解码 算法
【文献学习】Model-Driven Channel Estimation for OFDM Systems Based on Image SuperResolution Network
本文介绍了一种基于图像超分辨率网络的OFDM系统模型驱动信道估计算法,通过结合最小二乘法和深度学习技术来提高信道估计的准确性。
38 6
|
3月前
|
机器学习/深度学习 PyTorch 算法框架/工具
【文献学习】Phase-Aware Speech Enhancement with Deep Complex U-Net
文章介绍了Deep Complex U-Net模型,用于复数值的语音增强,提出了新的极坐标掩码方法和wSDR损失函数,并通过多种评估指标验证了其性能。
54 1
|
机器学习/深度学习 自然语言处理 索引
GTEE-DYNPREF: Dynamic Prefix-Tuning for Generative Template-based Event Extraction 论文解读
我们以基于模板的条件生成的生成方式考虑事件抽取。尽管将事件抽取任务转换为带有提示的序列生成问题的趋势正在上升,但这些基于生成的方法存在两个重大挑战
139 0
|
机器学习/深度学习 存储 数据挖掘
Global Constraints with Prompting for Zero-Shot Event Argument Classification 论文解读
确定事件论元的角色是事件抽取的关键子任务。大多数以前的监督模型都利用了昂贵的标注,这对于开放域应用程序是不实际的。
72 0
|
机器学习/深度学习 存储 自然语言处理
PESE Event Structure Extraction using Pointer Network based Encoder-Decoder Architecture论文解读
事件抽取(EE)的任务旨在从文本中找到事件和事件相关的论元信息,并以结构化格式表示它们。大多数以前的工作都试图通过分别识别多个子结构并将它们聚合以获得完整的事件结构来解决这个问题。
81 0
|
数据挖掘
MUSIED: A Benchmark for Event Detection from Multi-Source Heterogeneous Informal Texts 论文解读
事件检测(ED)从非结构化文本中识别和分类事件触发词,作为信息抽取的基本任务。尽管在过去几年中取得了显著进展
66 0
|
自然语言处理 算法 知识图谱
DEGREE: A Data-Efficient Generation-Based Event Extraction Model论文解读
事件抽取需要专家进行高质量的人工标注,这通常很昂贵。因此,学习一个仅用少数标记示例就能训练的数据高效事件抽取模型已成为一个至关重要的挑战。
152 0
|
机器学习/深度学习 数据采集 自然语言处理
Efficient Zero-shot Event Extraction with Context-Definition Alignment论文解读
事件抽取(EE)是从文本中识别感兴趣的事件提及的任务。传统的工作主要以监督的方式为主。然而,这些监督的模型不能概括为预定义本体之外的事件类型。
102 0