Anthropic正在移除用于检测中国竞争对手的隐蔽代码

Reddit r/singularity 新闻

摘要

Anthropic正在从其Claude Code工具中移除隐藏的隐写代码,这些代码曾用于检测和防止中国竞争对手的未经授权使用和模型蒸馏,理由是其已部署了更强的防御措施。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/07/02 22:26

# Anthropic 将移除用于监测中国竞争对手的隐蔽代码 来源:https://www.theregister.com/ai-and-ml/2026/07/01/anthropic-is-removing-its-covert-code-for-catching-chinese-competitors/5265366 ai and ml 哦,是的,我们一直打算禁用我们的秘密隐写系统 Anthropic 表示计划移除几个月前加入 Claude Code 的隐藏代码,这些代码原本用于抓捕试图从其模型中窃取成果的其他 AI 公司。 Anthropic Claude Code 团队的工程师 Thariq Shihipar 周二表示,修复程序将于 7 月 1 日上线。 "这是我们 3 月启动的一项实验,旨在防止未经授权的经销商滥用账户,并防范蒸馏(即通过重复查询复制 AI 模型的行为)," Shihipar 在解释(https://x.com/trq212/status/2072079729331777817)时说道。"自那以后,团队已经找到了更强大的缓解措施,我们其实早就想移除这个功能了。" 他表示,移除代码的 pull request 已被合并,应该会出现在周三的 Claude Code 发布版本(https://github.com/anthropics/claude-code/releases)中。 这项实验,正如一位名为 Thereallo 的开发者在描述(https://thereallo.dev/blog/claude-code-prompt-steganography)中所指出的,是将隐写术(即在明处隐藏秘密数据)应用于传递给 Anthropic 服务器的 Claude Code 系统上下文中。 相关代码会检查 Claude Code 的 base URL 环境变量(https://code.claude.com/docs/en/env-vars),该变量用于将 API 请求路由到代理或网关。如果 base URL 被覆盖,代码将进一步检查系统时区以及主机名是否与已知的中国 AI 实验室、其他 AI 公司、账户经销商和网关域名列表(https://cdn.thereallo.dev/blog/assets/cc-domains.js)中的任何条目匹配。 Thereallo 表示,虽然 Anthropic 试图检测与中国 AI 竞争对手或经销商相关的主机名是合理的,但这种实现方式本不该被隐藏。 "\[Claude Code\] 使用几乎不可见的 Unicode 标记悄无声息地修改系统提示," Thereallo 写道。"它将代理/网关分类编码成看似普通英语的句子。它通过 XOR 和 base64 隐藏域名列表。这不是恶意功能,但对于一个需要用户信任的开发者工具来说,这是一个奇怪的选择。" 当被问及 Anthropic 是否在其任何服务条款文档中披露了其隐蔽的使用跟踪机制时,一位公司发言人指向了 Shihipar 的评论,而后者并未回答该问题。 Anthropic 的发言人也未立即回应关于"更强大的缓解措施"具体是什么的请求,这些措施据称用于防止未经授权的经销商和蒸馏。 今年 2 月,在实施隐写代码前不久,这家 AI 公司表示正在投资防御蒸馏的手段。这些手段包括通过分类器和行为指纹识别系统进行检测、与其他 AI 实验室共享情报、访问控制,以及使模型输出难以用于复制模型的反制措施。 其中一项防御措施在该公司的 Claude Code 源代码泄露时曝光。该编码代理包含一个带有名为 `ANTI_DISTILLATION_CC`(https://github.com/alex000kim/claude-code/blob/main/src/services/api/claude.ts#L301-L313)的标志的 TypeScript 文件。该标志被设置后,会在 API 请求中注入虚假工具数据,以使这些数据对模型训练产生毒性。 尽管有技术防御措施应对竞争,Anthropic 仍呼吁(https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks)AI 行业、云服务提供商和政府共同应对模型蒸馏的威胁。最近白宫发布的一项行政命令(https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/)阐明了保护美国 AI 免受外国对手侵害的意图,表明联邦政府对此有所回应。®

相似文章

等等,什么?

Reddit r/artificial

阿里巴巴已禁止使用Anthropic的Claude Code,而Anthropic正在追踪中国用户,这凸显了AI监管和数据隐私方面的紧张局势。