今天 A 社发了一篇帖子,炫耀了一下自己在反蒸馏上的“成果”。
我看完挺无语。这算是 A 社的基操了,在他们的认知里,大概是先有 Anthropic,然后有天,然后才有 AI。
它说近几个月来他们采用了一种新的反蒸馏方法,把蒸馏者窃取的数据量减少了 90% 到 99%。
紧接着又指名道姓,说咱们国产模型在蒸馏它。
看到这我只想说,行吧。先看看它这套反蒸馏到底做了什么。
最早的时候,A 社的反蒸馏方式比较简单,只是单纯增加蒸馏者获取 Claude 推理记录的难度。
比如在向用户展示 Claude 回复之前,先让它对推理过程做一次总结,这样能降低蒸馏者能拿到的信息量。
这是一种阻断被动式蒸馏的方式。通过这种方式,蒸馏准确率从 80.4% 降到了 71.8%。
不过他们发现,搞蒸馏的人也不是吃素的。
A 社说,在蒸馏机制调整之后,蒸馏者换了策略,从被动蒸馏转向主动提取。
他们发现蒸馏者建了代理网络,控制着数十万个虚假账户,用这些账户发送能绕过防护机制的请求。
于是 A 社又上了三种反蒸馏措施。
-
管控推理内容的流向:这个措施能够保留思维链。在 Fable 5.1 和 Opus 5.5 版本中,它能禁止新的 API 账户修改 Claude 已有的上下文信息,从而增加通过 Agent 网络反复尝试提取 Claude 受保护推理内容的难度。
-
分类器拦截与修补:这个措施用来抬高蒸馏难度。他们用了一套“两阶段分类器系统”,对该分类器做了内部和外部红队测试,并修复了红队人员发现的所有漏洞。
-
账号风控:他们通常能检测出特定账户是否用于模型蒸馏,一旦识别出来,直接封禁账户。
接着 A 社公布了一组数据,说通过这些方式,蒸馏者拿到的推理 token 数量始终比此前少了 10 到 100 倍。
最后 A 社总结:蒸馏与反蒸馏是一场长期博弈,是个猫鼠游戏,他们也在不断改进反蒸馏措施。
看完这篇所谓的反蒸馏成果汇报,我个人的评价只有四个字:又当又立。
A 社在整篇文章里,根本没有拿出任何透明、经得起推敲的技术溯源日志或代码审计证据,就敢指名道姓泼脏水,甚至直接扣帽子。
再往下,还上升到国家层面打政治牌。
A 社想靠扣帽子、搞封锁、打政治牌来拖住国产模型的追赶,只能说:这很 A 社。但大势所趋,防得了一时,防不住国产模型的进步。
说到底,AI 的发展从来不是靠在 API 后面建高墙、打地鼠就能锁死优势的。真正的壁垒,是底层架构的创新和扎实的工程落地能力。
|