跳到文章正文
大模型 编辑推荐

11 月 7 日起,Grok 写的字会带上「看不见的水印」:欧盟 AI 法案落到了 token 上

你让 AI 写一段文案,发出去,没人知道是谁写的。这种「无从追溯」的状态,正在被监管一点点收紧。…

你让 AI 写一段文案,发出去,没人知道是谁写的。这种「无从追溯」的状态,正在被监管一点点收紧。11 月 7 日起,Grok 生成的文本会带上一层肉眼看不见的水印,检测器能据此判断一段文字是否出自它。

SpaceXAI 表示,这次调整是为了响应欧盟《人工智能法案》。水印覆盖全球所有地区的 API,涉及 grok-4.7、grok-4.6、grok-4.5、grok-4.3,以及 grok-4.20 的 reasoning、non-reasoning 和 multi-agent 版本。团队管理员可以为某款模型单独关闭水印。

一分钟速览

  • SpaceXAI 将于 11 月 7 日起为 Grok 生成文本添加隐形水印
  • 覆盖全球所有地区 API,含 grok-4.7 至 grok-4.20 多个版本
  • 水印不靠隐藏字符或元数据,而是融入模型生成文本时的 token 选择过程
  • 团队管理员可以选择为单个模型关闭水印
  • 有 AI 治理观察者指出,目前未给文本加水印的主要模型只剩北美地区的 ChatGPT

水印是怎么「藏」进文字里的

常见的误解是把水印想成一段看不见的字符,或者文件属性里的标记。这两种做法都很脆弱:复制粘贴会丢,格式转换会丢,稍作改写也会丢。Grok 采用的方式更底层——在模型逐 token 生成时,对候选词的采样做轻微偏置,让某些词的出现概率略高于自然分布。

单看一句话,这种偏置几乎不可察觉;但一段几百字的文本累积下来,就形成了可统计的信号。检测器不需要知道原文,只需要判断「这段文字的用词分布,是否偏离了人类写作的常态」。这也是为什么它被称作「隐形」:读者看不出,模型也不需要在输出里留下任何标记。

它挡得住谁,挡不住谁

水印的前提是「原文被保留」。一旦文本经过大段改写、翻译、摘要,或者被人重新组织过句式,统计特征就会被稀释。换句话说,它能识别「直接复制」和「轻度编辑」,但很难对付「洗稿」。

另一面是误判。检测器本质上是在做概率判断,天然存在假阳性:人类写的文字,也可能因为用词习惯接近某个分布而被判为「含 AI 水印」。对内容平台来说,这意味着水印只能作为辅助证据,不能当成判决书。

为什么是文本,为什么是现在

图片和视频的合成标识已经推行了一段时间:C2PA 元数据、隐形水印、平台标注,形成了相对成熟的链路。文本一直是最难的一环——它没有像素,没有容器格式,传播成本极低,删掉一行元数据就等于洗白。

欧盟《人工智能法案》对生成内容的透明度提出了明确要求,模型提供方需要让机器生成的内容「可被识别」。对 API 提供方来说,最省事的落点就是在生成侧埋信号,而不是在分发侧做检测。Grok 这次把范围定在「全球所有地区」,说明合规策略选择了统一实现,而不是按辖区拆版本。

趋势洞察

接下来会看到三件事同时发生。第一,主流模型的文本水印会逐渐成为默认项,关闭水印需要额外理由;第二,检测工具会从「厂商自检」走向第三方服务,围绕误判率的争议会变多;第三,内容平台会把「是否含水印」纳入审核信号,但不会单独据此下结论。

对普通用户来说,最直接的变化是:AI 写的字,越来越难「装作是人写的」。对开发者来说,则要多考虑一层——如果下游业务依赖「无痕」文本,水印可能会带来合规与体验上的双重摩擦。

结语

水印不是万能锁,它更像一张防伪标签:能提高造假成本,但挡不住有心人。真正的治理,还得靠「标识 + 检测 + 平台规则」三件套一起上。Grok 迈出了第一步,接下来要看检测端能不能跟上。

本文地址:https://www.163264.com/18797