Transformer框架是深度学习中用于处理序列数据的一种革命性架构，尤其在自然语言处理（NLP）领域取得了巨大成功，并逐渐扩展到计算机视觉、语音识别等多个领域。这个架构由Vaswani等人在2017年的论文《Attention is All You Need》中首次提出，它摒弃了循环神经网络（RNN）和卷积神经网络（CNN）在处理长序列时存在的顺序依赖性和计算瓶颈，完全基于自注意力机制设计。
Transformer架构的主要特点包括：
自注意力机制：Transformer模型利用自注意力机制使得序列中的每个元素都可以直接与其他所有元素相互作用，从而捕获全局依赖关系。自注意力模块能够量化不同位置之间的相对重要性，允许模型灵活地关注输入序列的不同部分。
编码器-解码器结构：Transformer通常分为编码器（Encoder）和解码器（Decoder）两大部分。编码器将输入序列转换为高级语义表示，而解码器则根据这些表示
