在人工智能领域，大型语言模型（LLMs）被广泛应用于合成文本生成，包括语言助手、代码生成、写作支持等多个领域。随着LLMs在质量、连贯性、覆盖面和专业性方面的不断提升，区分合成生成的文本和人类撰写的文本变得越来越困难。特别是在教育、软件开发和网络内容生成等领域，识别和归因LLM文本对于确保技术的安全和负责任使用至关重要。
为了解决这个问题，研究人员提出了多种策略，其中一种就是文本水印技术。文本水印是一种在生成文本中嵌入标记的方法，以便后续能够识别该文本。水印技术可以通过生成过程（生成水印）、编辑已生成的文本（编辑基水印）或修改LLM的训练数据（数据驱动水印）来实现。
在这项研究中，研究人员提出了一种名为SynthID-Text的生成水印技术，该技术使用一种新颖的采样算法——Tournament采样。SynthID-Text可以配置为非失真性（保持文本质量）或失真性（以牺牲文本质量为代价提高水印可检测性）。
SynthID-Text的工作原理是通过修改LLM的下一 token 采样过程来嵌入水印。具体来说，它使用一个随机种子生成器、一个采样算法和一个评分函数来生成和检测水印。
在生成过程中，随机种子生成器根据前一个文本和水印密钥生成一个随机种子。然后，采样算法使用这个随机种子从LLM的分布中采样下一个 token。在这个过程中，采样算法引入了随机种子和 token 之间的相关性。
在检测过程中，评分函数根据这些相关性计算一个分数，该分数可以用于确定文本是否来自带有水印的LLM。这个过程不需要执行计算密集型操作或访问底层LLM（通常是专有的）。
SynthID-Text具有以下几个优势：
质量保持：SynthID-Text可以配置为非失真性，这意味着它不会对文本质量产生负面影响。研究人员通过在Gemini系统中进行大规模用户反馈评估，证明了这一点。
可扩展性：SynthID-Text具有较低的计算成本，这使得它可以在大规模生产系统中使用。研究人员通过将SynthID-Text与投机采样技术结合使用，进一步提高了其可扩展性。
检测性能：SynthID-Text在检测性能方面优于其他水印技术。研究人员通过在多个模型和数据集上进行实验，证明了这一点。
SynthID-Text已经被应用于Gemini和Gemini Advanced系统中，这些系统是Google DeepMind开发的聊天机器人。这表明SynthID-Text可以在实际生产系统中成功实现和扩展，并为数百万用户提供服务。
SynthID-Text是一种具有潜力的水印技术，它在质量保持、可扩展性和检测性能方面表现出色。然而，它也存在一些局限性。
协调要求：SynthID-Text要求在LLM文本生成服务之间进行协调，以应用水印。这可能在实际应用中存在挑战。
攻击脆弱性：SynthID-Text和其他生成水印一样，容易受到窃取、欺骗和擦除攻击。这需要进一步的研究来解决。
开源模型挑战：随着开源模型的兴起，在分布式部署的模型上强制实施水印变得更加困难。
