在人工智能领域，大型语言模型（LLM）的广泛应用带来了显著的便利，但同时也引发了对其“幻觉”现象的担忧。近期，来自谷歌和苹果的研究人员在一篇论文中揭示了LLMs的惊人内幕：这些模型实际上能够自主识别错误，却在生成答案时表现得似乎并不知道正确答案。这一发现引发了对LLMs内部机制和行为模式的深入探讨。
LLMs的“幻觉”通常指的是它们在生成文本时出现的错误，包括事实错误、偏见和推理失败等。这些错误在实际应用中可能对用户产生误导，因此引起了广泛的关注。
研究人员发现，LLMs的内部状态实际上编码了关于其输出真实性的信息。这意味着模型在生成答案时，已经具备了判断该答案正确与否的能力。然而，令人惊讶的是，即使模型内部已经识别出错误，它们仍然可能在输出中生成错误的答案。
为了验证这一发现，研究人员进行了一系列的实验。他们首先发现，关于真实性的信息在LLMs中是高度集中的，主要体现在特定的生成令牌上。利用这一特性，研究人员能够显著提高错误检测的性能。然而，他们也发现，这种基于内部状态的错误检测方法在跨数据集时表现不佳，暗示了真实性编码的多面性而非普遍性。
进一步的实验表明，LLMs的内部状态不仅可以用于检测错误，还可以用于预测模型可能犯的错误类型。通过分析模型在重复采样中的响应，研究人员能够对错误进行分类，并发现这些错误类型与模型的内部编码之间存在关联。这表明LLMs可能在内部编码了关于其可能产生的错误类型的信息。
最令人惊讶的发现是，LLMs的内部编码与其外部行为之间存在矛盾。即使模型的内部状态已经识别出正确答案，它仍然可能在生成答案时给出错误的响应。这一矛盾揭示了LLMs在实际应用中可能存在的局限性，即它们可能无法始终如一地将内部知识转化为正确的输出。
这些发现对我们理解LLMs的本质和行为模式产生了深远的影响。它们表明，LLMs可能比我们之前认为的更加复杂和多面。尽管它们在许多任务上表现出色，但它们仍然可能受到内部机制的限制，导致在实际应用中出现错误。
这些发现为未来的研究提供了重要的启示。首先，它们强调了对LLMs内部机制进行深入研究的重要性，以更好地理解其行为模式和局限性。其次，它们为开发更有效的错误检测和缓解策略提供了新的思路，例如利用模型的内部知识来预测和纠正错误。最后，它们提醒我们在实际应用中要谨慎对待LLMs的输出，因为它们可能并不总是与模型的内部知识一致。
