Anthropic近期披露了其Claude AI助手文本水印机制的更多实现细节。该机制旨在通过嵌入不可见的统计标记，帮助识别AI生成内容并防止其被用于虚假信息传播等滥用场景。
据Anthropic技术团队介绍，水印通过对模型输出的词汇选择进行微妙扰动来实现——具体而言，系统会基于一个只有Anthropic掌握的密钥，将生成的token序列划分为"水印组"和"非水印组"，并在解码过程中对特定分组的token概率分布进行细微调整。这一调整幅度被严格控制，普通用户难以察觉，但通过专用检测工具可准确识别文本中是否存在水印标记。
Anthropic表示，该方案并非采用替换同义词或插入隐藏字符的简单做法，而是在大模型解码阶段融入水印逻辑，以确保与现有API和产品体验兼容。公司还透露，目前正与学术界和行业伙伴合作评估方案的鲁棒性、误报率以及对文本质量的潜在影响，并计划在未来数月内逐步向Claude用户推送该功能。官方强调，水印不会改变收费模式，也不会将用户对话数据用于训练模型。
业内分析认为，AI内容水印已成为各主要模型厂商的共识方向，OpenAI此前也已宣布类似计划。但如何在准确识别、保护用户隐私与保持输出自然度之间取得平衡，仍是行业共同面临的挑战。