机器学习用于信号自动调制分类的发展
自动调制分类(AMC)是信号解调之间的环节。对于一个对接收信号不了解或了解很少的接收机来说，这是一个非常重要的过程。自动调制分类器的设计包括两个步骤:输入信号的预处理和分类算法的选择。第二步，采用了两种分类方法。第一种方法是基于可能性的(LB)方法，第二种方法称为基于特征的(FB)方法。
对于LB方法：M. L. D. Wong和A. K. Nandi使用极大似然(ML)分类器对相幅调制方案[1]进行分类。他们引入了信噪比估计的思想，提出了一种估计ML分类器 (EsML)。他们建议使用最小距离分类器来降低EsML分类器的复杂度。他们还使用盲源分离(BSS)来纠正载波相位偏移问题。W. Wei和M. Mendel使用极大似然(ML)方法对数字幅度相位调制[2]进行分类。他们给出了任何使用理想条件的分类器的上界，并假设可用符号的数量是无穷大。
对于FB：方法Xi和Wu在通用框架中使用高阶统计量进行盲信道估计和模式识别[3]。他们的方法的优点是不需要完整的通道信息。Wong和Nandi将遗传算法(GA)和人工神经网络(ANN)[4]用于AMC。利用遗传算法选择统计特征集和光谱特征集的最佳特征子集。他们提出了AMC的弹性反向传播(RPROP)算法。Swami和Sadler使用四阶累积量对ASK、PSK和QAM信号[5]进行分类。他们的方法在存在频率和相位偏移的情况下是健壮的。Wong和Nandi利用朴素贝叶斯分类器结合高阶统计AMC[6]。他们的方法对于载波和相位偏移的存在是鲁棒的。
使用机器学习方法尝试AMC的例子:
在[7]中,F. Wang和X. Wang使用Kolmogorov-Smirnov (KS)测试较小的信号样本。在[7]中提出的方法使用少量的样本提供了良好的分类精度，但是性能的改善只与高信噪比有关。[7]中已经证明了KS结果和累积结果在0 dB到10 dB之间非常相似，改进仅从10 dB到20 dB。
在[8]中，利用离线CDF曲线降低了KS分类器的复杂度，但离线CDF曲线的ECDF计算和比较仍然存在。
Azzouz和Nandi[9]-[10]使用ANN对模拟信号和数字调制信号进行分类。Wong和Nandi为了同样的目的使用ANN和GA[11]。
在[12]中，Wong, Ting和Nandi给出了[13]中使用的相同调制的结果。信噪比为10 dB时他们取得的性能为90.2%,94.4%和97.9%在512、1024和2048点处分别使用朴素贝叶斯分类器。在相同信噪比和样本数下，支持向量机的性能分别为91.2%、94.8%和97.9%。他们还使用SVM和ML进行分类。
Dobre, Ness和Su使用八阶循环累积量[14]的分类准确率为70%，使用2000个样本，信噪比为10dB。
Lanjun和Canyan[15]将谱相关函数与神经网络相结合对四种调制(BPSK、QPSK、QAM16和QAM64)的分类准确率为78.8%，使用8192个样本，信噪比为10dB。
Shi、Gong和Guan[16]使用特征函数法来补偿高阶QAMs分类中累积量的低效性。他们报告了16QAM和64QAM在10dB的信噪比下的2000个样本的83%分类准确率。但他们在研究中引入了时间偏移量，并假定它是固定在一个符号框架内的。
在[17]中，Swami和Sadler详细分析了使用累积量对不同数字调制方案的分类，有90%的分类准确率，但是他们的方法有一些局限性。有两个限制:首先假设条件是无噪声的，其次使用的样本数量超过10000。
Chaithanya和Reddy[18]对于QAM16和QAM64的分类准确率为93.5%，使用1000个符号,信噪比为10dB。
Xi和Wu使用四阶累积量[19]的分类准确率为94%，使用2000个样本，此时信噪比为10 dB，使用的调制分别是QAM4、QAM16和QAM64。
Wu、Saquib和Yun[20]用高阶统计量对QAM4、QAM16和QAM64的分类准确率达到94%，使用2000个样本，信噪比为10dB。
Mirarab和Sobhani使用了八阶累积量和阈值依赖树结构[21]的分类准确率为94%，使用2000个样本，信噪比为15dB。
[22]采用了[17]中提出的方法，在信噪比范围内对四种调制进行分类，研究结果清楚地证明了GP与KNN结合的方法在性能上的改善，并根据实验结果得出GP-KNN对于广泛的信噪比具有很强的鲁棒性，并且具有很好的性能退化。
Han等人[23]采用支持向量机(Support Vector Machine, SVM)进行调制分类。然而基于GP-KNN和SVM的方法都容易受到频率和相位偏移的影响，因此，不完美的同步会显著降低它们的性能。
Yizhou Jiang, Sai Huang, Yifan Zhang和Zhiyong Feng提出了基于多基因遗传规划(MGGP)采用多项Logistic回归的调制分类以进一步提高低信噪比下的性能并减少了系统的复杂度[24]。该方案包括两个阶段。在训练阶段，MGGP生成各种映射，将SCFs转换为新特性，MLR选择一些非常独特的新特性作为MGGP特性，映射为特性优化函数(FOFs)。同时输出相应的基于MLR的分类器。在分类阶段，由FOFs对SCFs进行变换，经过训练的分类器用MGGP特征值识别信号格式。在1024个样本时，当信噪比范围从-10dB到10dB变化时，MGGP-MLR的分类准确率始终高于SVM，ANN以及KNN方法并趋于平稳。
为了克服传统k均值算法存在的聚类效果和稳定性容易受到初始聚类中心影响的不足，Chen Lasheng和Li Yuqiang提出了一种基于极大-极小准则和FLANN准则的初始聚类中心选择算法[25]。解决了一些聚类中心在一个聚类中，聚类中心位于聚类边缘，方法不可重复的缺点，用以改进KNN算法的性能，选择的初始聚类中心具有更高的精度和稳定性。然而实验表明，需要提前给出K簇的数目。因此，需要进一步研究不同数据集K值的自动计算。
K. Zhang, E. L. Xu, Z. Feng和P. Zhang提出了一种基于字典学习的AMC框架[26]，该框架在已知调制格式时使用信号训练字典，目标信号的调制格式由其稀疏性决定在字典上的表示。此外，他们还还设计了一种字典学习算法，称为块坐标下降字典学习(BCDL)并证明了BCDL的收敛性与鲁棒性。与传统的机器学习相比，在相同条件下，在信噪比为0dB时，BCDL、SVM和GP-KNN分别达到100%、63.7%和19.2%。证明了在低信噪比的情况下性能更好，受频率和相位偏移的影响较小。
G. Niu, X. Yao, Y. Yan和C. Wang提出了由人工神经网络和决策树组成的混合分类器[27]。但它仅仅采用AWGN信道作为干扰，无法保证在多径衰落信道等现实环境下的可行性。T. J. OShea, J. Corgan和T. C. Clancy提出了一种基于二维谱相关函数(SCF)的深度学习方法[28]，该方法利用二维SCF图像表示信号特征，将任务转换为图像识别。在[29]中，信号既没有进行变换，也没有进行特征提取。相反，它采用CNN2，它的输入是一个二维张量，由同相分量和正交分量组成，直接识别信号。Wang Yongshi, Guo Jie, Li Hao, Li Li, Wang Zhigang和Wang Houjun在[9]的基础上合理地添加了池化层来过滤掉离散成分提出比CNN2更简单的CNN3架构[30]，并利用小波去噪技术抑制输入信号的高频噪声，在低信噪比的情况下准确率比CNN2高10%左右。Dehua Hong , Zilong Zhang 和Xiaodong Xu提出了一种基于递归神经网络(RNN)模型的具有适当参数的双层GRU模型[31]，充分利用了通信信号的时序特性。直接利用原始信号，数据长度有限，避免了人工提取信号特征,与[9]相比双层GRU模型在高信噪比下具有明显的优势。West和O’shea[32]进一步分析了CNN层的大小和深度对分类精度的影响。他们还提出了将CNN和Long Short Term Memory (LSTM)模块相结合的复杂先启模块来提高分类结果。然而，S. Rajendran, W. Meert, D. Giustiniano, V. Lenders和S. Pollin提出简单的LSTM模型本身可以达到很好的精度，如果输入数据被格式化为振幅和相位(极坐标)，而不是IQ样本(直角坐标)[33]。该模型不需要高阶循环矩等专家特征，即可从训练数据中得到调制方案的时域幅值和相位信息。分析表明，在0- 20dB的信噪比条件下，该模型的平均分类准确率接近90%。该文进一步探讨了LSTM模型在可变符号速率场景中的效用。证明了基于LSTM的模型可以很好地学习变长时域序列的表示，这对于不同码率调制信号的分类是有用的。也能在大型分布式低成本传感器节点网络中实现调制分类的LSTM模型的实例化.
深度神经网络优于能够从复杂的数据结构中学习，并获得较高的分类准确率。这使得它们成为AMC问题的一个明显的选择，主要是因为现代通信系统中使用了更密集的调制方案来实现高效的高容量数据传输。B. Kim, J. Kim, H. Chae, D. Yoon, and J. W. Choi首次提出的基于深度神经网络的AMC技术[34]。采用三层层隐藏的深度神经网络，利用21个统计特征作为输入，生成25,000个特征向量用于训练，在信噪比为-5dB的情况下分类结果趋近于100%，表明DNN对无频率和相位偏移的信号具有很强的非线性分类能力，可以解决现有的AMC方法在高多普勒情况下的性能下降很大的问题，更适用于野外实际环境的应用。然而，作者使用网络的随机初始化，而不是使用贪婪分层算法[35]进行预处理。这使得应用网络来训练具有多个层次的大型深网络变得困难。
Xu Zhu和Takeo Fujii将深度神经网络和高阶累积量结合来实现AMC[36]，作者选择了叠加去噪稀疏自编码器作为调制分类器，其中输入数据为高阶累积量。预先建立一个训练数据库，其中包含了每个调制方案的10000组用于训练，它比传统的基于累积量的方法和基于似然的方法有更好的性能。此外，多层堆叠结构的网络由于具有调优等优点，性能优于ANN。该系统集成了抑制高斯噪声的高阶累积量，从高阶累积量中提取特征的备用自编码器和实现最大似然分类softmax分类器。虽然KNN也使用高阶累积量，但是此方法优于KNN的性能。
A. Ali, F. Yangyu[37]首次提出了基于深度学习自编码器网络的非负性约束训练的方法。使用非负性约束来训练自动编码器以学习输入数据的稀疏的、基于部分的表示。基于部分的数据表示有助于揭示数据的隐藏结构，从而更好地重构数据。Dai等采用基于稀疏自编码器的分类器对七种调制方案[38]进行分类。虽然在低信噪比下取得了较好的分类率，但对每个调制方案的模糊性函数的计算使该方法计算复杂。当信噪比为0dB，样本数量为512时，非负约束(ANC)的自编码器相较于稀疏自编码器(SAE)有约4%的性能优势，这显示了ANC方法在低信噪比和有限信号长度下提取鲁棒和明显特征的能力，ANC在隐藏节点数上的表现也优于SAE方法，采用非负权训练的深度网络在有限的信号长度和衰落信道条件下也具有较好的性能。
在[39]中，作者提出了一种基于深度信念网络(Deep Belief Network, DBN)的AMC识别方案。该方案充分利用基于SCF的特征，利用DBN对4FSK、16QAM、BPSK、QPSK、OFDM进行有效分类。
对于之前提出的三个低复杂度的分类器，分别是线性支持向量机分类器、近似极大似然分类器和反向传播神经网络分类器[40]。这些方法包括对特征z进行排序，形成一个使用Klog(K)个比较操作的有序向量。因此Afan Ali和Fan Yangyu提出了一种基于k-稀疏自编码器的未排序输入数据分类器[41]，并将其称为未排序深层神经网络(unordered deep neural network, UDNN)，利用深度神经网络(DNN)的强大功能从原始输入数据中学习高级抽象的方法来尽量省略Klog(K)个比较操作。与上述三种方法相比，在低信噪比下，所提出的UDNN分类器的性能优于其他三个分类器并且UDNN与BPNN方法相比具有较强的鲁棒性和更低的复杂度。
对于多输入多输出(MIMO)系统，之前提出的所有方法均可采用。在[42]中，作者提出了两种算法，第一种分类器假设信道知识是完备的，第二种分类器假设接收端信道矩阵是未知的。在[43]和[44]中，提出的算法假设接收到的信号遵循高斯混合模型，采用EM算法更新信道矩阵和噪声方差。然而，该算法对初始化条件非常敏感，容易陷入局部最优。[45]提出了一种基于调制约束(MC)的聚类分类器，在未知信道矩阵和噪声方差时，通过识别观测区间内接收到的信号形成簇，利用不同的数字调制方案，将调制分类问题转化为无需直接信道估计的聚类问题，并应用极大似然准则进行最终的分类决策。
现实生活中传输的信号一般具有不同的码率和带宽。在未来，能够处理所有可能的扩频调制的模型也应该进行测试。其次，根据这些机器学习模型在未知信道条件和调制参数下的性能，还应进一步研究这些模型的泛化能力。最后，大多数成功的SoA模型都是受监督的模型，它们需要标记训练数据。标记是一项非常繁琐的工作，它突出了半监督模型在分类任务中的重要性。[46]发表的关于蜂窝网络资源管理的半监督机器学习模型的研究证实了需要更多的半监督模型，这也是未来研究的一个积极方向。我们相信，在未来复杂的无线电环境中，适合无线电领域的深度学习模型有助于理解、分析和决策。
参考文献
[1] M. L. D. Wong and A. K. Nandi, “Semi-blind algorithms for automatic classification of digital modulation types,” Digital Signal Process., vol. 18, pp. 209–227, 2008.
[2] W. Wei and J. M. Mendel, “Maximum-likelihood classification for digital amplitude-phase modulations,” IEEE Trans. Commun., vol. 48, pp. 189–193, 2000.
[3] S. Xi and H. C. Wu, “Robust automatic modulation classification using cumulant features in the presence of fading channels,” in Proc. 2006 IEEE Wireless Comm. and Networking Conf., vol. 4, pp. 2094–2099.
[4] M. L. D. Wong and A. K. Nandi, “Automatic digital modulation recognition using artificial neural network and genetic algorithm,” Signal Process., vol. 84, pp. 351–365, 2004.
[5] M. L. D. Wong, S. K. Ting, and A. K. Nandi, “Na¨ıve Bayes classification of adaptive broadband wireless modulation types with higher order cumulants,” in Proc. 2008 International Conference on Signal Processing and Communication Systems, pp. 1–5.
[6] M. L. D. Wong, S. K. Ting, and A. K. Nandi, “Na¨ıve Bayes classification of adaptive broadband wireless modulation types with higher order cumulants,” in Proc. 2008 International Conference on Signal Processing and Communication Systems, pp. 1–5.
[7] F. Wang and X. Wang, “Fast and robust modulation classification via Kolmogorov-Smirnov test,” IEEE Trans. Commun., vol. 58, pp. 2324– 2332, 2010.
[8] F. Wang, R. Xu, and Z. Zhong, “Low complexity Kolmogorov-Smirnov modulation classifi cation,” in Proc. 2011 IEEE Wireless Comm. and Netw. Conf., pp. 1607–1611.
[9] E. E. Azzouz and A. K. Nandi, “Automatic identification of digital modulation types,” Signal Process., vol. 47, pp. 55–69, 1995
[10] A. K. Nandi and E. E. Azzouz, “Modulation recognition using artificial neural networks,” Signal Process., vol. 56, pp. 165–175, 1997.
[11] M. L. D. Wong and A. K. Nandi, “Automatic digital modulation recognition using artificial neural network and genetic algorithm,” Signal Process., vol. 84, pp. 351–365, 2004.
[12] M. L. D. Wong, S. K. Ting, and A. K. Nandi, “Na¨ıve Bayes classification of adaptive broadband wireless modulation types with higher order cumulants,” in Proc. 2008 International Conference on Signal Processing and Communication Systems, pp. 1–5.
[13] M. W. Aslam, Z. Zhu, and A. K. Nandi, “Automatic modulation classification using combination of genetic programming and KNN,” IEEE Trans. Wireless Commun., vol. 11, no. 8, pp. 2742–2750, Aug. 2012.
[14] O. A. Dobre, Y. Bar-Ness, and W. Su, “Higher-order cyclic cumulants for high order modulation classification,” in Proc. 2003 IEEE MILCOM, pp. 112-117.
[15] Q. Lanjun and Z. Canyan, “Modulation classification based on cyclic spectral features and neural network,” in Proc. 2010 International Congress on Image and Signal Processing, vol. 8, pp. 3601–3605.
[16] Q. Shi, Y. Gong, and Y. L. Guan, “Modulation classification for asynchronous high-order QAM signals,” Wireless Communications and Mobile Computing, 2011, pp. 1415–1422.
[17]A. Swami and B. M. Sadler, “Hierarchical digital modulation classification using cumulants,” IEEE Trans. Commun., vol. 48, pp. 416–429, 2000.
[18]V. Chaithanya and V. U. Reddy, “Blind modulation classification in the presence of carrier frequency offset,” in Proc. 2010 International Conference on Signal Processing and Communications, pp. 1–5.
[19]S. Xi and H. C. Wu, “Robust automatic modulation classification using cumulant features in the presence of fading channels” in Proc. 2006 IEEE Wireless Comm. and Networking Conf., vol. 4, pp. 2094–2099.
[20]H. Wu, M. Saquib, and Z. Yun, “Novel automatic modulation classification using cumulant features for communications via multipath channels,” IEEE Trans. Wireless Commun., vol. 7, pp. 3098–3105, 2008.
[21]M. R. Mirarab and M. A. Sobhani, “Robust modulation classification for PSK/QAM/ASK using higher order cumulants,”in Proc. 2007 International Conference on Information, Communications and Signal Processing, pp. 1–4.
[22]M. W. Aslam, Z. Zhu, and A. K. Nandi, “Automatic modulation classification using combination of genetic programming and KNN,” IEEE Trans. Wireless Commun., vol. 11, no. 8, pp. 2742–2750, Aug. 2012.
[23]L. Han, F. Gao, Z. Li, and O. A. Dobre, “Low complexity automatic modulation classification based on order-statistics”, IEEE Trans. Wireless Commun., vol. 16, no. 1, pp. 400–411, Jan. 2017.
[24]Yizhou Jiang, Sai Huang, Yifan Zhang, Zhiyong Feng, “Multi-gene Genetic Programming Based Modulation Classification Using Multinomial Logistic Regression”,19th International Symposium on Wireless Personal Multimedia Communications (WPMC),2016
[25]Chen Lasheng and Li Yuqiang, “Improved initial clustering center selection algorithm for K-means”IEEE SPA,pp.275-279,2017.
[26]K. Zhang, E. L. Xu, Z. Feng, P. Zhang, "A dictionary learning based automatic modulation classification method", IEEE Access, vol. 6, pp. 5607-5617, 2018.
[27]G. Niu, X. Yao, Y. Yan, and C. Wang, “Modulation recognition algorithm of digital and analog mixed signal based on neural network,” Computer Engineering, vol. 42, no. 4, pp. 101–104, 2016.
[28]G. J. Mendis, J. Wei, and A. Madanayake, “Deep learning-based automated modulation classification for cognitive radio,” in Communication Systems (ICCS), 2016 IEEE International Conference on, pp. 1–6, IEEE, 2016.
[29]T. J. OShea, J. Corgan, and T. C. Clancy, “Convolutional radio modulation recognition networks,” in International Conference on Engineering Applications of Neural Networks, pp. 213–226, Springer, 2016.
[30]Dehua Hong , Zilong Zhang , Xiaodong Xu, “Automatic Modulation Classification using Recurrent Neural Networks ”Key Laboratory of Wireless-Optical Communications.
[31]Dehua Hong , Zilong Zhang , Xiaodong Xu, “Automatic Modulation Classification using Recurrent Neural Networks ”Key Laboratory of Wireless-Optical Communications.
[32]N. E. West and T. O’Shea, “Deep architectures for modulation recognition,” in Proc. IEEE Int. Symp. Dyn. Spectr. Access Netw. (DySPAN), Piscataway, NJ, USA, Mar. 2017, pp. 1–6.
[33]S. Rajendran, W. Meert, D. Giustiniano, V. Lenders, S. Pollin, "Deep learning models for wireless signal classification with distributed low-cost spectrum sensors", IEEE Trans. Cogn. Commun. Netw., vol. 4, no. 3, pp. 433-445, Sep. 2018.
[34]B. Kim, J. Kim, H. Chae, D. Yoon, and J. W. Choi, “Deep neural network-based automatic modulation classification technique,” in Information and Communication Technology Convergence (ICTC), 2016 International Conference on, pp. 579–582, IEEE, 2016.
[35]J.Chorowski and J.M.Zurada,“Learning understandable neural networks with nonnegative weight constraints,” IEEE Trans. Neural Netw. Learn. Syst., vol. 26, no. 1, pp. 62–69, Jan. 2015.
[36]Xu Zhu, Takeo Fujii, "A novel modulation classification method in cognitive radios using higher-order cumulants and denoising stacked sparse autoencoder", Signal and Information Processing Association Annual Summit and Conference (APSIPA) 2016 Asia-Pacific, pp. 1-5, 2016.
[37]A. Ali, F. Yangyu, "Automatic modulation classification using deep learning based on sparse autoencoders with nonnegativity constraints", IEEE Signal Process. Lett., vol. 24, no. 11, pp. 1626-1630, Nov. 2017.
[38]A.Dai,H.Zhang,and H.Sun,“Automatic modulation classification using stacked sparse auto-encoders,” in Proc. 13th Int. Conf. Signal Process., 2016, pp. 248–252.
[39]G. J. Mendis, J. Wei, and A. Madanayake, “Deep learning-based auto-mated modulation classification for cognitive radio,” in Communication Systems (ICCS), 2016 IEEE International Conference on . IEEE, 2016, pp. 1–6.
[40]L. Han, H. Xue, F. Gao, and Z. Li, “Low complexity automatic modulation classification based on order statistics,” in Proc. IEEE 84th Veh. Tech. Conf., Montreal, QC, Canada, Sep. 2016, pp. 1–5.
[41]Afan Ali and Fan Yangyu, “k-Sparse Autoencoder-Based Automatic Modulation Classification With Low Complexity ”
[42]V. Choqueuse, S. Azou, K. Yao, L. Collin, and G. Burel, “Blind modulation recognition for MIMO systems,” Military Technical Academy, Review MTA, vol. 19, no. 2, pp. 183–196, 2009
[43]Z. Zhu and A. K. Nandi, “Blind modulation classification for MIMO systems using expectation maximization,” in Proc. IEEE Mil. Commun. (MILCOM), 2014, pp. 754–759.
[44]Z. Zhu and A. K. Nandi, “Modulation classification in MIMO fading channels via expectation maximization with non-data-aided initialization,” in Proc. IEEE Int. Conf. Acoust. Speech Signal Process. (ICASSP), 2015, pp. 3014–3018.
[45]Jiejiao Tian, Yiyang Pei, Yu-Di Huang, Ying-Chang Liang, "A Machine Learning Approach to Blind Modulation Classification for MIMO Systems", Communications (ICC) 2018 IEEE International Conference on, pp. 1-6, 2018.
[46]A. Testolin et al., “A machine learning approach to QoE-based video admission control and resource allocation in wireless systems,” in Proc. 13th Annu. Mediterr. Ad Hoc Netw. Workshop (MED-HOC-NET), Jun. 2014, pp. 31–38.
