跳到正文
The Decoder· Matthias Bastian·· 5 小时前AI 评分65

Anthropic 扩展 Claude 文本水印,旧款两款模型留有参数绕过漏洞

Anthropic's watermark rollout leaves a loophole on two older Claude models

AI 导读

Anthropic 宣布将文本水印扩展到 Claude Mythos 5、Claude Opus 4.7、Claude Opus 4.6 和 Claude Sonnet 4.6,以应对 EU AI Act 的 12 月期限。

正文 · AI 翻译

Anthropic 正在把其文本水印扩展到另外四个 Claude 模型,但 API 用户只需调整一个采样参数,就能在其中一个模型上绕过该标记。

在一封发给 API 客户的邮件中,Anthropic 表示将对 Claude Mythos 5、Claude Opus 4.7、Claude Opus 4.6 和 Claude Sonnet 4.6 加上水印。像 Claude Opus 5.5 这样较新的模型已经带有该标记,而在 Amazon Bedrock 上的推出可能还需要几天时间。

Anthropic 称这种水印是“用词选择中一种难以察觉的模式”,不会改变含义、质量或可读性。该公司表示,它不会添加额外的字符或 token,不影响定价或请求与响应格式,也几乎不会降低输出速度。Anthropic 还表示,该水印“不包含任何关于用户、其组织或其与 Claude 对话的信息”。

Anthropic 仅在默认设置下对两个较旧的模型应用水印

Anthropic 表示,在 Claude Opus 4.6 和 Claude Sonnet 4.6 上,只有当开发者将三个采样参数保持在默认值时,水印才会生效。这些参数 temperature、top_p 和 top_k 控制模型在选词时使用的随机程度。只要对其中任何一个稍作调整,就足以绕过水印。Anthropic 在邮件中警告说:“如果你依赖该水印来满足自己的合规要求,请将这些设置保持在默认值。”

这封邮件没有针对 Claude Mythos 5 或 Claude Opus 4.7 提到这一注意事项,这表明无论采样设置如何,水印都会应用于这些模型。但较旧模型上的这一漏洞仍然值得关注,因为 Opus 4.6 仍是 Anthropic 最佳的写作模型,甚至领先于 Opus 5.5。

Anthropic 提供了一个处于私密预览阶段的检测 API 用于验证水印,并在其内容标注信息页面上提供了更多细节。

Anthropic 为满足欧盟 AI 法案期限为较旧的 Claude 模型加装水印

Anthropic 指出,欧盟 AI 法案 12 月的截止期限是它现在为较旧模型添加水印的原因。2026 年 8 月 2 日之后发布的每个模型都在发布当天就带有水印,而较旧的模型则分阶段加上水印。由于水印嵌入在模型层面,因此它在托管这些模型的每个平台上都能生效,包括 Amazon Web Services、Google Cloud 和 Microsoft Foundry。客户无法将其关闭。

Anthropic 使用的是 Google DeepMind SynthID 文本方法的一个变体,该方法通过调整选词背后的随机性来产生统计上可检测的模式。OpenAI 于 2026 年 10 月推出了自己的水印系统 textGrain,但默认仅对欧盟的 ChatGPT 和 Codex 用户启用。全球的 API 客户可以自行开启或关闭它,且默认处于关闭状态。Google DeepMind 开源了用于文本的 SynthID 并将其内置到 Gemini 模型中。

水印是否真的不影响文本质量仍存在争议。博主 John Gruber 认为,任何两个同义词的含义都不会完全相同,因此根据水印密钥而不是语义契合度来选词,不可避免地会降低精确度。法律行业媒体 Artificial Lawyer 则提出了另一个针对律所的担忧:已禁止使用 AI 的客户可能会发现该标记,而且同一文档中叠加多个水印可能会带来复杂问题。

AI News Without the Hype – 由人工精心挑选

订阅 THE DECODER,享受无广告阅读、每周 AI 新闻通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的发言权限。

来源: The Decoder · the-decoder.com