思维链不存在了？纽约大学最新研究：推理步骤可省略

在人工智能领域，Transformer模型因其在自然语言处理任务中的卓越性能而备受关注。然而，纽约大学的研究团队在最近的一项研究中提出了一个颠覆性的观点：Transformer模型在进行复杂任务推理时，可能并不需要遵循人类那样的思维链（Chain-of-Thought），而是可以通过一些无意义的填充符号（如“......”）来实现计算。这一发现挑战了我们对Transformer模型内部工作机制的传统理解，并对当前语言模型的理解和应用提出了新的挑战。
研究者们通过构建两个合成数据集，3SUM和2SUM-Transform，来测试Transformer模型在有无填充符号的情况下的表现。实验结果表明，在没有填充符号的情况下，模型无法解决3SUM任务，但当提供了填充符号后，模型的准确率达到了100%。这表明填充符号可以在不需要额外信息的情况下，为模型提供计算上的优势。
为了深入理解填充符号的有效性，研究者们从理论上进行了分析。他们指出，尽管填充符号在理论上不能让Transformer模型解决超出TC0复杂度类的问题，但在TC0类内部，填充符号可能扩展了模型的表达能力。特别是，对于需要处理多个嵌套量词的问题，填充符号的使用显著提高了模型的表达能力。
尽管填充符号在理论上具有潜力，但研究者们发现，教会模型有效利用填充符号却是一个难题。这主要是因为填充符号的隐藏层表示不能从它们自身的标记中判断出来，因此无法进行密集的监督学习。此外，从思维链数据中学习到的算法通常需要实例自适应的、序列化的计算，这与填充符号计算的并行结构不兼容。
这项研究对理解大型语言模型（LLMs）的未来发展提供了新的视角。研究者们提出，如果自然语言任务中存在可以并行化的TC0算法问题，并且自然语言文本能够为填充符号计算提供足够的监督，那么LLMs未来可能会利用填充符号来提升性能。
从积极的角度看，这项研究扩展了我们对Transformer模型潜力的认识，特别是在处理不需要复杂推理的并行化问题上。它为设计更高效、更简洁的语言模型提供了新的思路。然而，从另一个角度来看，这项研究也引发了一些担忧。如果模型能够在没有明确推理步骤的情况下进行计算，那么这可能导致模型的决策过程变得不透明，难以审计。这对于需要可解释性和透明度的应用场景（如医疗诊断、法律分析等）可能是一个问题。
纽约大学的研究为我们提供了对Transformer模型新的理解和认识。尽管填充符号的使用在理论上和实验上都显示出了潜力，但在实际应用中，如何平衡模型的计算效率和可解释性，仍是一个值得深入探讨的问题。未来的研究需要在这些方面取得更多的进展，以确保人工智能技术的健康发展。

论文地址：https://arxiv.org/pdf/2404.15758